Agent 엔지니어링
컨텍스트 압축: 4단계 방어선
슬라이더를 드래그하여 대화 증가를 시뮬레이션하고, 압축이 어떻게 컨텍스트 수명을 연장하는지 관찰합니다.
4단계 압축 전략
안전 구간
1단계 · Snip
120K (60%)
-36K
초기 도구가 반환한 초장 원시 데이터를 삭제하고 요약만 유지합니다. 사용자는 전혀 알아채지 못합니다.
압축 전
날씨 API가 1,200 Token JSON 반환: 7일간 시간별 예보…
→
압축 후
도구 요약: 내일 베이징 흐림 12~20°C (80 Token)
2단계 · MicroCompact
150K (75%)
-50K
초기 긴 대화를 짧은 요약으로 교체합니다. 약간의 정보 손실, 핵심 정보는 유지.
압축 전
3번째 턴: "그 파일은 PDF 형식이 아니에요, Word 버전이 필요하고, 제목을 바꿔주세요…"
→
압축 후
요약: 사용자가 Word 형식, 제목 변경, 색상 조정 요청
3단계 · Collapse
170K (85%)
-80K
여러 초기 대화 턴을 하나의 요약 메시지로 접습니다. 세부 정보 손실, 하지만 주선은 유지됩니다.
압축 전
1~8번째 턴 (12개 메시지, 4,200 Token): 요구사항 논의, 방안 확정, 3차례 수정…
→
압축 후
세션 요약: React + TS 프로젝트, 현재 보고서 페이지 수정 중 (350 Token)
4단계 · AutoCompact
190K (95%)
-110K
전면 압축: system + 전체 요약 + 최근 3턴만 유지. 명확한 정보 손실, 하지만 중단을 방지합니다.
압축 전
완전한 20턴 대화 (38개 메시지, 18,000 Token)
→
압축 후
system + 요약 + 최근 3턴 (2,500 Token)
📌 설계 결정: 슬라이더를 드래그하여 관찰하세요: 압축 없이는 200K 컨텍스트로 긴 대화 한 번밖에 못합니다. 4단계 압축이 있으면 동일한 창으로 5배 이상의 대화량을 지원할 수 있습니다.
핵심 정리
핵심 정리 모델 창 256K, 안전 공간 200K. 4단계 압축은 홍수 방벽처럼 작동합니다: 가득 찰 때마다 자동으로 수위를 낮춰 동일한 창이 200K를 훨씬 초과하는 대화량을 처리하도록 합니다. 진정으로 더 이상 삭제할 것이 없을 때만 한도를 초과합니다.