Agent 실전
메시지 한 줄 뒤에 숨겨진 진짜 비용
사용자는 메시지 한 줄만 보냈지만, 내부에서는 10회 이상 루프를 돌고 수십 개의 API 메시지가 생성될 수 있습니다. 청구서를 열면 깜짝 놀랄 수도 있습니다.
사용자 메시지를 선택해 내부에서 무슨 일이 일어나는지 확인하세요
시뮬레이션 사용자 메시지:
비용은 복잡도에 따라 지수적으로 증가합니다
비용의 주범은 어디에 있을까요?
• System Prompt — 매 라운드마다 반복 전송되므로, 라운드가 많을수록 반복 소모가 커집니다
• Tool Results — 도구가 반환하는 텍스트는 대개 매우 깁니다 (전체 파일 내용, 검색 결과…)
• 컨텍스트 누적 — 이후 라운드는 이전 모든 메시지를 포함해야 하므로 눈덩이처럼 불어납니다
• System Prompt — 매 라운드마다 반복 전송되므로, 라운드가 많을수록 반복 소모가 커집니다
• Tool Results — 도구가 반환하는 텍스트는 대개 매우 깁니다 (전체 파일 내용, 검색 결과…)
• 컨텍스트 누적 — 이후 라운드는 이전 모든 메시지를 포함해야 하므로 눈덩이처럼 불어납니다
사용자가 메시지 한 줄을 보낼 때마다 청구서에 $0.10이 추가될 수 있습니다. 비용이 어디서 발생하는지 알아야 비용을 통제할 수 있습니다. Agent의 비용은 라운드마다 지수적으로 증가합니다. 선형 증가를 훨씬 초과하며, 매 라운드마다 이전의 모든 내용을 모델에 다시 전송해야 하기 때문입니다.