환각과 대응

Prompt 엔지니어링: 지시문으로 환각 억제하기

PM 관점: 요구사항 문서 작성 및 AI API 연동 시 System Prompt를 통해 모델의 허위 생성을 줄이는 방법.

수단 01 / 04 · 예방
비즈니스 시나리오 선택
시나리오 A · 고객 서비스
이커머스 / 금융 고객 서비스 봇
사용자가 제품 세부 정보나 환불 정책을 물을 때 모델이 존재하지 않는 규칙을 쉽게 만들어냅니다.
시나리오 B · 콘텐츠 제작
AI 글쓰기 보조 / 문서 생성
보고서 생성 시 모델이 데이터를 날조하거나 존재하지 않는 규정 문서를 인용할 수 있습니다.
시나리오 C · 지식 Q&A
기업 내부 지식 베이스 Q&A
직원이 내부 프로세스를 물을 때 모델이 일반 지식으로 채워 실제 회사 규정과 맞지 않을 수 있습니다.
PM 핵심 포인트

로딩 중…

대화 비교

제약 없는 Prompt
제약 있는 System Prompt