AI 工程化 · 收官思考
大道至简:
坚守第一性原理
重置
开始 →
⚗️
第一性原理
:本质只有一件事
一切工程化手段,归根到底都是为了
构造更优质的上下文
,让模型更准确理解你的意图。
📐
上下文管理的
三个维度
质量
(精准信息)·
结构
(放对位置)·
成本
(最小 Token 最大密度)
⚖️
工程化:
做还是不做?
拼成本、拼效率、拼效果,工程化是护城河。但极耗资源、大模型升级后直接被替代的手段,可以放弃。
🎯
回到原点,问自己这个问题
能回答好这个问题,你就掌握了 AI 工程化的本质。
大道至简,上下文为王。
一切工程化的终点,都指向同一件事——
AI 工程化
= 用尽一切办法
做好上下文管理
质
质量
注入精准、高密度的信息(RAG、语义压缩、Few-Shot 动态检索)
构
结构
关键信息放首尾,核心约束写在 System Prompt,位置决定注意力
本
成本
用最少的 Token 传递最多有效信息(输出控制、KV Cache、格式选择)
值得做的工程化
和友商拼
成本、效率、效果
大模型升级后
效果更好
(互补)
形成产品
护城河
收益明确,成本可控
可以放弃的工程化
消耗
极大资源
,维护成本高
大模型升级后
直接被替代
用户
完全感知不到
效果提升
边际收益趋近于零
⚠️ 随着大模型升级,许多工程化手段会被淘汰。要时刻问自己:
这件事模型版本升级后还需要吗?
当你不知道该怎么做时,回到原点——
「我现在给模型的上下文,
是它做好这件事所需要的全部吗?」