AI 工程化 · 收官思考
大道至简:坚守第一性原理
⚗️
第一性原理:本质只有一件事
一切工程化手段,归根到底都是为了构造更优质的上下文,让模型更准确理解你的意图。
📐
上下文管理的三个维度
质量(精准信息)· 结构(放对位置)· 成本(最小 Token 最大密度)
⚖️
工程化:做还是不做?
拼成本、拼效率、拼效果,工程化是护城河。但极耗资源、大模型升级后直接被替代的手段,可以放弃。
🎯
回到原点,问自己这个问题
能回答好这个问题,你就掌握了 AI 工程化的本质。大道至简,上下文为王。
一切工程化的终点,都指向同一件事——
AI 工程化
= 用尽一切办法
做好上下文管理
质量
注入精准、高密度的信息(RAG、语义压缩、Few-Shot 动态检索)
结构
关键信息放首尾,核心约束写在 System Prompt,位置决定注意力
成本
用最少的 Token 传递最多有效信息(输出控制、KV Cache、格式选择)
值得做的工程化
和友商拼成本、效率、效果
大模型升级后效果更好(互补)
形成产品护城河
收益明确,成本可控
⚠️ 随着大模型升级,许多工程化手段会被淘汰。要时刻问自己:这件事模型版本升级后还需要吗?
当你不知道该怎么做时,回到原点——
「我现在给模型的上下文,
是它做好这件事所需要的全部吗?」