上下文管理
对话越长越贵、越长越笨
每一轮对话都要把全部历史重新发给模型：对话越长，费用越高、注意力越分散、离窗口上限越近。这三个问题决定了：上下文不能放任不管。
三个必须管理上下文的理由
越长越贵
每轮都要重发全部历史，token 消耗逐轮递增，费用像滚雪球
越长越笨
注意力两头热、中间冷，中间的信息最容易被忽略
越长越危险
上下文窗口有上限，满了之后最早的信息被直接丢弃
对话不是免费的流水账：越长越贵、越长越笨、越长越危险。上下文管理是 AI 产品的基本功，没有可选的余地。