컨텍스트 관리

압축은 트레이드오프의 예술

컨텍스트가 너무 길면 어떻게 할까요? 모두 삭제하거나 모두 유지하는 것은 모두 잘못입니다: 삭제 가능한 것(오래된 도구 출력), 삭제 불가능한 것(사용자의 실제 말), 비용이 드는 압축이 필요한 것(전체 요약). 프로덕트 매니저는 의사결정 프레임워크가 필요합니다.

컨텍스트 압축 시뮬레이터

8라운드 대화—다양한 압축 전략을 시도해보세요

의사결정 프레임워크

삭제 가능

오래된 도구 호출 결과
완료된 중간 단계
반복적인 확인 메시지

압축 가능

AI의 긴 답변
다중 라운드 논의 결론
검색/조회 상세 결과

절대 건드리지 말 것

사용자의 원본 메시지
System Prompt
핵심 선호도 설정

압축은 모두 삭제하거나 모두 유지하는 것이 아니라 정보 가치와 token 비용 사이의 균형을 찾는 것입니다. 좋은 압축 전략은 숙련된 편집자와 같습니다: 무엇이 불필요한 내용이어서 잘라낼 수 있는지, 무엇이 사용자의 실제 말이어서 반드시 남겨야 하는지 알고 있습니다.