환각과 대응법

RAG: 모델에게 「오픈북 시험」을 허용하다

PM 관점: RAG가 반드시 필요한 시나리오는? 검색 파이프라인 설계 방법은? 실제 도입 시 함정은 어디에 있나요?

전략 02 / 04 · 예방
비즈니스 시나리오 선택
시나리오 A · 법률 / 컴플라이언스
계약 검토 / 법규 조회 어시스턴트
법규는 자주 개정되지만 모델의 학습 데이터에는 컷오프 시점이 있어, 폐지된 구 조문을 인용하기 쉽습니다.
시나리오 B · 의료 헬스케어
약품 정보 / 복약 안내 어시스턴트
투약 방안은 개인마다 다르며, 모델의 일반 지식은 환자의 특수 상황이나 병원 지침을 반영할 수 없습니다.
시나리오 C · 제품 문서
SaaS 제품 기술 지원 챗봇
제품은 빠르게 업데이트되고 버전 번호·기능 경로도 자주 바뀌지만, 모델은 학습 시점의 구버전만 기억합니다.
PM 의사결정 프레임워크: RAG가 반드시 필요한 경우
✅
지식의 시효성이 중요한 경우: 정책·제품·가격이 자주 바뀌어 모델 학습 데이터가 따라잡을 수 없을 때
✅
사내 전용 지식베이스: 회사 내부 문서, 제품 매뉴얼 등 모델이 전혀 학습하지 못한 자료
✅
오답 비용이 높은 경우: 법률·의료·금융 시나리오에서 한 문장이 틀리면 사고로 이어질 수 있을 때
⚠️
잡담·창작 시나리오에는 불필요: RAG를 적용하면 오히려 답변이 딱딱해질 수 있습니다

대화 비교

RAG 없음 (클로즈드북)
RAG 있음 (오픈북)