비용 최적화
단순함이 궁극의 정교함: 제1원리 고수하기
AI Harness · 마무리 사고. 네 단계로 원점으로 돌아가 모든 Harness 기법의 본질을 명확히 봅니다.
제1원리: 본질은 단 하나입니다
모든 Harness 기법은 궁극적으로 더 고품질의 컨텍스트를 구성하여 모델이 여러분의 의도를 더 정확히 이해하게 하는 것입니다.
모든 Harness의 종착점은 같은 한 가지를 가리킵니다:
AI Harness
= 모든 수단을 동원하여
컨텍스트 관리를 잘하는 것
= 모든 수단을 동원하여
컨텍스트 관리를 잘하는 것
컨텍스트 관리의 세 가지 차원
품질(정확한 정보) · 구조(올바른 배치) · 비용(최소 Token, 최대 밀도)
질
품질
정확하고 고밀도의 정보 주입(RAG, 의미론적 압축, Few-Shot 동적 검색)
구
구조
핵심 정보는 처음과 끝에, 핵심 제약은 System Prompt에 — 위치가 주의력을 결정합니다
비
비용
최소한의 Token으로 최대한의 유효 정보 전달(출력 제어, KV Cache, 형식 선택)
Harness: 할 것인가 하지 않을 것인가?
비용, 효율, 효과 경쟁 — Harness는 해자입니다. 하지만 막대한 리소스를 소모하고 모델 업그레이드 후 바로 대체되는 기법은 포기할 수 있습니다.
할 만한 Harness
경쟁사와 비용, 효율, 효과로 경쟁
모델 업그레이드 후 효과가 더 좋아짐(보완적)
제품 해자를 형성
명확한 수익, 통제 가능한 비용
포기할 수 있는 Harness
막대한 리소스 소모, 높은 유지보수 비용
모델 업그레이드 후 바로 대체됨
사용자가 효과 향상을 전혀 느끼지 못함
한계 수익이 0에 근접
⚠️ 모델이 업그레이드됨에 따라 많은 Harness 기법이 도태될 것입니다. 항상 스스로 물어보세요: 모델 버전 업그레이드 후에도 이것이 여전히 필요할까요?
원점으로 돌아가 스스로에게 이 질문을 해보세요
이 질문에 잘 답할 수 있다면 AI Harness의 본질을 파악한 것입니다. 단순함이 궁극의 정교함이며, 컨텍스트가 왕입니다.
무엇을 해야 할지 모를 때, 원점으로 돌아가세요:
「내가 지금 모델에게 제공하는 컨텍스트가,
모델이 이 일을 잘 하는 데 필요한 전부인가?」
모델이 이 일을 잘 하는 데 필요한 전부인가?」