환각과 대응
대응 3: Temperature & Top-P
PM 관점: API 연동 시 샘플링 파라미터 설정 방법 — 다양한 비즈니스 시나리오별 권장 값과 리스크 경계. 기법 03 / 04 · 예방.
비즈니스 시나리오별 권장 파라미터
법률 / 컴플라이언스 / 고객 서비스
권장: T=0.1 Top-P=0.8
보고서 작성 / 요약 정리
권장: T=0.3 Top-P=0.9
일반 대화 / Q&A 상담
권장: T=0.7 Top-P=0.95
창의적 글쓰기 / 브레인스토밍
권장: T=1.2 Top-P=1.0
현재 파라미터 위치
Temperature
-
보수적균형발산
Top-P
-
좁은 후보적당전체 집합
파라미터 조정 × 출력 품질
현재 파라미터 기준 출력 품질 예측