课程收官
课程总结 · 产品经理的第一节 AI 课
今天学了什么？带走这四件事：大模型基础、Prompt 工程、Agent 与成本、安全合规。
四大模块回顾
模块一 · 大模型是怎么来的
建立认知直觉
核心概念
对话不是学习
训练阶段结束后参数就冻结了。你每次对话，模型不会记住，也不会变聪明。按 Token 计费，不按问题条数。
核心概念
幻觉是结构性问题
模型做的是预测下一个 Token，不是查真实数据库。知识截止、自信编造、事实混淆，这三类幻觉无法根除，只能缓解。
缓解方案
RAG：把真实文档注入上下文
每次对话时把相关文档塞进 Prompt，让它看着资料回答。模型并没有学会新知识。
常见误区：以为 AI 每次对话都在学习进步
模块二 · Prompt 怎么写才管用
让 AI 按你要的输出
System Prompt
你说什么，它就变什么
System Prompt 定义角色、语气、约束。同一个模型，Prompt 不同，输出天差地别。这是产品差异化的核心。
Few-Shot
给例子比讲道理管用
与其解释要怎么做，不如直接给 2-3 个示例。模型会从例子中推断你想要的格式和风格。
CoT 思维链
让模型先想再答
复杂任务加上「请一步步分析」，准确率显著提升。逼模型把推理过程写出来，再给答案。
常见误区：Prompt 越短越好。实际上描述越清晰输出越稳定
模块三 · AI 能干什么 · 多少钱
自动化与成本意识
Agent
能规划、能用工具、能行动
Agent = Plan + Tool + Memory + Act。它不只是聊天，可以调接口、写文件、循环执行。但也会失败、打转、需要脚手架兜底。
成本
多轮对话是指数增长的
每轮都把完整历史带进去 → Token 越累越多，费用越来越贵。10 轮对话的成本可能是第 1 轮的 5-10 倍。
优化
五层成本优化框架
模型路由 → 语法层 → 语义层 → 输出层 → KV Cache。综合使用可降低 70-90% 成本，不是玄学，是工程设计。
常见误区：以为 AI 成本是固定的。实际上设计决策决定成本
模块四 · 安全合规与红线意识
产品该在哪里设防
Prompt 注入
用户输入可以覆盖你的指令
模型看到的是一整条 Message，无法区分你写的 System Prompt 和用户输入的内容。恶意用户可以用这个漏洞改变模型行为。
防御三层
输入层 → 提示词层 → 输出层
输入层过滤关键词；提示词层加约束声明；输出层检测泄漏内容。三层都要，缺一层就有漏洞。
产品红线
不能让 AI 说的，就设防
合规边界、品牌风险、竞品信息：这些不是靠模型自觉的，必须在产品层用技术手段拦截，不能只靠 Prompt 约束。
常见误区：以为 Prompt 里写了「不许说」就安全了
你已经掌握的能力