上下文管理
用户说的话能不能删?
AI 的输出可以摘要、工具结果可以截断,但用户的原话删了就回不来了。而且用户一定会发现:「我明明说了 xxx,你怎么忘了?」
对比:两种压缩方式的后果
方案 A:删了用户的消息
方案 B:只压缩 AI 的输出
用户的话是圣物
用户消息 = 圣物
用户输入的每一句话都承载着需求、偏好和上下文。一旦删除,AI 不仅丢失了信息,更丢失了用户的信任:「连我说的话都记不住,这 AI 有什么用?」
压缩优先级
1
优先删:工具/函数调用的原始输出
搜索结果、API 返回的 JSON,处理完就没用了
2
其次压:AI 的长篇回复
AI 自己说的话可以用摘要替代,核心结论保留即可
3
绝不动:用户的原始消息
用户说了什么、要了什么、偏好是什么,这些都是圣物
用户的话是圣物:宁可删 AI 自己说的 1000 字,也别动用户说的 10 个字。压缩的优先级从高到低:工具输出 > AI 回复 > 用户消息(永不触碰)。