에이전틱 RAG — 한 번 검색으로 부족할 때
한줄 요약
단순 RAG는 검색 전략이 고정이다. 에이전틱 RAG는 검색 결과를 보고 전략을 조정하면서 최선의 답을 찾는다.
본문
단순 RAG가 실패하는 순간
2023년 의료 AI 스타트업 Nabla의 사례 연구에서 흥미로운 패턴이 나왔다.
임상 가이드라인 기반 답변 시스템을 구축했는데, 단순 RAG로는 복합 케이스에서 정확도가 떨어졌다. 예를 들어 “CKD 4기 + 당뇨 + 심부전을 동시에 가진 환자의 혈당 조절 전략”이라는 질문은 세 가지 다른 가이드라인을 교차 참조해야 했는데, 한 번 검색으로는 관련 문서를 모두 가져오지 못했다.
단순 RAG의 구조:
질문 → 한 번 검색 → 결과 3개 → 답변 생성 → 끝이 구조는 검색 결과가 충분하지 않아도 그냥 진행한다. 부족한 정보로 답을 만든다.
에이전틱 RAG: 검색을 AI가 지휘한다
에이전틱 RAG는 검색 자체를 에이전트가 관리한다.
질문: "CKD 4기 + 당뇨 환자 혈당 조절 전략"
[1차 검색] "CKD 4기 당뇨 치료"
→ 메트포르민 금기 문서 찾음
[AI 판단] 혈당 조절 대안 약물 정보가 더 필요함
→ [2차 검색] "eGFR < 30 당뇨 혈당강하제 대안"
→ SGLT2i 제한, GLP-1 RA 권고 문서 찾음
[AI 판단] 심부전 관련 약물 선택 기준 필요
→ [3차 검색] "심부전 + 당뇨 혈당강하제 선택"
→ SGLT2i가 심부전에서 추가 이점 문서 찾음
[AI 판단] 충분한 정보 수집됨
→ 세 가지 가이드라인을 종합해서 답변 생성각 검색 결과를 보고 무엇이 더 필요한지 AI가 판단해서 다음 검색을 설계한다.
에이전틱 RAG의 3가지 패턴
패턴 1 — 반복 검색 (Iterative Retrieval)
검색 결과가 충분하지 않으면 다시 검색한다. 최대 반복 횟수를 설정해서 무한 루프를 방지한다.
의료 AI에서 적합한 경우: 진단 근거 수집, 복합 케이스 가이드라인 조회
패턴 2 — 쿼리 분해 (Query Decomposition)
복잡한 질문을 여러 단순한 하위 질문으로 나눠서 각각 검색하고, 결과를 합친다.
복잡한 질문: "이 환자에게 스타틴 처방 시 간독성 위험과 근육 독성 위험을 동시에 평가해줘"
분해:
├─ "스타틴 간독성 위험 인자와 모니터링"
├─ "스타틴 근육 독성 위험 인자와 모니터링"
└─ "스타틴 처방 전 간기능 및 근육 기능 기준치"
→ 세 가지를 병렬 검색
→ 결과 통합패턴 3 — 멀티 소스 라우팅 (Multi-Source Routing)
질문 유형에 따라 다른 데이터 소스를 선택한다.
질문 분류:
"약물 금기 관련?" → 약물 상호작용 DB
"가이드라인 관련?" → 임상 가이드라인 DB (AHA, KDA 등)
"최신 연구 관련?" → PubMed API
"병원 프로토콜 관련?" → 내부 프로토콜 DB
"환자 케이스 관련?" → 익명화된 케이스 DB검색 소스가 다양할수록 더 정확한 답을 만들 수 있다.
왜 오케스트레이션이 필요한가
단순 RAG는 단일 파이프라인이다:
질문 → 검색 → 답변에이전틱 RAG는 반복적이고 조건적이다:
질문 → 검색 → {충분한가?}
├─ YES → 답변
└─ NO → 무엇이 더 필요한지 판단 → 다시 검색이 “판단하고 다시 시도하는” 루프를 관리하는 것이 오케스트레이션의 역할이다.
LangGraph 같은 프레임워크를 쓰면 이 루프를 명확하게 정의할 수 있다:
- 최대 반복 횟수
- 충분함의 기준
- 실패 시 대응
비용과 속도의 트레이드오프
에이전틱 RAG는 더 정확하지만 더 비싸다.
| 방식 | LLM 호출 | 검색 횟수 | 소요 시간 | 정확도 |
|---|---|---|---|---|
| 단순 RAG | 1 | 1 | 2초 | 70% |
| 반복 검색 (3회) | 4 | 3 | 8초 | 85% |
| 쿼리 분해 | 2 | 3 | 5초 | 82% |
단순 케이스는 단순 RAG로 충분하다. 복합 케이스, 높은 정확도가 필요한 케이스에만 에이전틱 RAG를 쓴다.
의료 AI에서는 이 선택이 중요하다. 정형화된 FAQ(병원 운영 시간, 예약 방법)는 단순 RAG로 충분하다. 복합 임상 케이스 지원에는 에이전틱 RAG가 적합하다.
더 알고 싶다면
🔗 관련 글
- 컨텍스트 윈도우 관리 — RAG로 컨텍스트 부담을 줄이는 원리
- ReAct 패턴 — 반복 검색과 ReAct 루프의 조합
- 비용 최적화 — 검색 횟수별 비용 차이와 트레이드오프
- Human-in-the-Loop — 검색 결과를 의사가 검토하는 설계