컨텍스트 관리
사용자가 한 말을 삭제해도 될까요?
AI의 출력은 요약할 수 있고, 도구 결과는 잘라낼 수 있지만, 사용자의 원래 말을 삭제하면 되돌릴 수 없습니다. 그리고 사용자는 반드시 알아채게 됩니다: 「분명히 xxx라고 했는데 어떻게 잊어버린 거죠?」
비교: 두 가지 압축 방식의 결과
방법 A: 사용자 메시지를 삭제
방법 B: AI 출력만 압축
사용자의 말은 성스러운 것
사용자 메시지 = 성스러운 것
사용자가 입력하는 모든 문장에는 필요, 선호도, 컨텍스트가 담겨 있습니다. 한 번 삭제하면 AI는 정보를 잃을 뿐만 아니라 사용자의 신뢰도 잃게 됩니다: 「내가 한 말도 기억 못하는 AI가 무슨 소용이야?」
압축 우선순위
1
먼저 삭제: 도구/함수 호출의 원시 출력
검색 결과, API JSON 응답 — 처리가 완료되면 더 이상 필요 없습니다
2
다음에 압축: AI의 긴 응답
AI가 한 말은 요약으로 대체할 수 있습니다 — 핵심 결론만 유지하면 됩니다
3
절대 건드리지 않기: 사용자의 원본 메시지
사용자가 말한 것, 요청한 것, 선호하는 것 — 이것들은 모두 성스러운 것입니다
사용자의 말은 성스러운 것입니다: AI가 쓴 1,000자를 지우더라도 사용자가 한 10자는 건드리지 마세요. 압축 우선순위는 높은 것에서 낮은 것으로: 도구 출력 > AI 응답 > 사용자 메시지 (절대 건드리지 않음).