멀티 Agent
정기 실행 태스크의 비용 함정
Agent가 매 시간 뉴스를 정리하게 하는 것은 간단해 보입니다. 하지만 이전 세션을 재사용하면 컨텍스트가 계속 늘어나 24시간 후 비용이 폭발합니다. 한 가지 선택으로 월 청구서가 10배 차이날 수 있습니다.
세션 재사용 vs. 새 세션 생성
이전 세션 재사용
1회12회24회
$7.20
24시간 총 비용
$0.60
마지막 실행 비용
매번 새 세션 생성
1회12회24회
$0.72
24시간 총 비용
$0.03
실행당 비용
「실행 일수」를 드래그하여 차이를 확인하세요
세션 재사용 비용이 눈덩이처럼 불어나는 이유
컨텍스트 누적 과정
1
1회 실행: 컨텍스트 = System Prompt + 현재 대화 ≈ 2,000 토큰
2
2회 실행: 컨텍스트 = 1회 전체 + 현재 대화 ≈ 4,000 토큰
3
10회 실행: 컨텍스트 = 1~9회 전체 + 현재 ≈ 20,000 토큰
4
24회 실행: 컨텍스트 = 1~23회 전체 + 현재 ≈ 48,000 토큰. 모든 요청마다 이 이전 토큰 비용을 지불합니다!
새 세션 = 매번 처음부터 시작. 24회 실행 비용은 1회와 완전히 동일합니다. 이전 컨텍스트를 전혀 가져가지 않기 때문입니다. 정기 태스크는 기억이 필요 없습니다: 현재 뉴스를 정리하면 충분하고 어제 무엇을 정리했는지 알 필요가 없습니다.
정기 태스크는 매번 새 세션을 생성하고 이전 것을 재사용하지 마세요. 이 선택으로 월 청구서가 10배 차이날 수 있습니다. 대부분의 정기 태스크는 컨텍스트 기억이 필요 없으며, 새 세션은 더 저렴하고 안정적입니다.