완성에서 대화까지

왜 Prompt만으로 충분할까요? 답은 컨텍스트 윈도우에 있습니다

PreTraining 이후: 재학습 없이 태스크 설명만 넣으면 됩니다. 하지만 왜 그럴까요?

추론 체인: 단계적으로 생각해보기
구
태스크 변경= 재학습
↓
신
PreTraining 후Prompt만으로 충분합니다!
↓
?
왜일까요?Token이 Token을 예측합니다
↓
핵
Prompt = 고품질 접두어좋은 접두어 → 좋은 출력
↓
윈
윈도우가 클수록더 많은 지시를 담을 수 있습니다
핵심 결론: Prompt만으로 충분한 이유는 대형 모델이 초대형 컨텍스트 윈도우를 지원하기 때문입니다. 태스크 설명, 규칙, 예시를 모두 접두어에 넣으면 모델이 그에 따라 예측하며, 전용 학습과 동등한 효과를 냅니다.
직접 해보기: 윈도우 크기가 출력에 미치는 영향
슬라이더를 드래그하여 윈도우 크기를 조정하고 Token이 어떻게 잘리는지 확인하세요
Prompt Token 전체 현황 (노랑=System / 파랑=User / 초록=예시)
❌ 윈도우 너무 작음: 시스템 지시 잘림
SYSTEM (전체 원문)
USER
번역해 주세요: "大模型的上下文窗口是关键。" (중국어: "대형 언어 모델의 컨텍스트 윈도우가 핵심입니다.")
AI 출력
✅ 윈도우 충분: 모든 지시를 완전히 읽음
SYSTEM (완전)
당신은 전문 번역가입니다. 중국어를 격식체 영어로 번역하고, 어조를 유지하며 전문 용어에 주의하세요.
USER
번역해 주세요: "大模型的上下文窗口是关键。"
AI 출력