训练 vs 推理:两个完全不同的过程

很多人以为 AI 每次回答都在"学习"——实际上完全不是这么回事

类比学生考试:训练 = 多年备考,反复刷题,记住知识  →  推理 = 上考场作答,参数冻结,不再学习新东西
训练(Training)
在海量数据上调整数十亿个参数,让模型记住世界知识。
执行频率一次性
算力需求千~万块 GPU
参数状态持续更新
成本数亿美元
时长数周~数月
推理(Inference)
用固定参数,针对你的输入生成回答。每次对话参数完全不变。
执行频率每次对话
算力需求1~数块 GPU
参数状态完全冻结
计费按 Token 计费
时长1~10 秒/次
互动实验:你说的话会改变参数吗?
Context Window(上下文窗口)
AI
你好!有什么我可以帮你的?
模型参数(示意)
🔒 参数完全冻结
对话不改变任何权重
你和 AI 说的话,不会修改任何参数。今天告诉它「你叫小明」,明天重开对话它不记得——因为对话只存在于上下文,对话不是学习。