Agent 实战
一条消息背后的真实成本
用户只发了一句话，但底层可能跑了 10+ 轮循环、产生几十条 API 消息。当你打开账单，可能会吓一跳。
选一个用户消息，看背后发生了什么
模拟用户发送的消息：
成本随复杂度指数增长
成本的大头在哪里？
• System Prompt — 每轮都要重复发送，轮次越多重复消耗越大
• Tool Results — 工具返回的文本通常很长（整个文件内容、搜索结果...）
• 上下文累积 — 后面的轮次要带上前面所有消息，滚雪球式增长
• System Prompt — 每轮都要重复发送，轮次越多重复消耗越大
• Tool Results — 工具返回的文本通常很长（整个文件内容、搜索结果...）
• 上下文累积 — 后面的轮次要带上前面所有消息，滚雪球式增长
你的用户每说一句话，你的账单上可能多了 10 美分。知道成本在哪里，才能控制成本。Agent 的成本随轮次指数增长，远超线性：每一轮都要把之前所有内容重新发送给模型。