Prompt Harness

AI에게 필요 없는 것은 보여주지 마세요

도구가 100개 있을 때 모든 설명을 System Prompt에 넣으면 도구 설명만으로도 수만 토큰을 차지합니다. AI도 사람처럼 너무 많은 정보를 받으면 핵심을 놓칩니다.

전체 로딩 vs 지연 로딩
전체 로딩
~34,000 tk
지연 로딩
~2,800 tk
슬라이더로 차이 확인하기

도구 수를 조정하여 토큰 비용 변화 확인

50
17,500
전체 로딩 토큰
1,550
지연 로딩 토큰
91%
절감 비율
지연 로딩 구현 방법

3단계:

① 첫 번째 턴: 이름만 제공
System Prompt에는 도구 이름 + 한 줄 설명만 포함합니다. AI가 해당 기능이 있다는 것만 알면 됩니다.

② 필요할 때 확장
AI가 도구를 호출하기로 결정하면 시스템이 해당 도구의 전체 설명과 파라미터 형식을 동적으로 주입합니다.

③ 사용 후 회수
도구 사용이 끝나면 다음 대화 턴에서 전체 설명은 포함되지 않고 이름만 있는 상태로 돌아갑니다.

비유: 회사 연락처와 같습니다. 모든 직원의 전체 이력서는 필요 없고, 이름과 직책만 있으면 됩니다. 실제로 협업이 필요할 때 상세 정보를 찾아보는 것이죠.
AI도 사람처럼 너무 많은 정보를 받으면 핵심을 놓칩니다. 필요한 것만 주고, 필요할 때 확장하세요. 도구 설명의 지연 로딩은 토큰을 절약하면서도 정확도를 높입니다.