权限与安全
弹窗太多用户烦,不弹又不安全
如果 Agent 每做一步都弹窗让你确认,你点 5 次「允许」之后就想卸载了。但如果什么都不问就自己执行,删错了文件谁来负责?答案是:风险分级。
体验对比:点击「开始演示」感受差异
无分级:每步都弹窗 体验差
有分级:只弹高危 体验好
0
无分级 · 用户点击确认次数
0
有分级 · 用户点击确认次数
风险分级的思路
低风险 → 自动执行
读取文件、搜索信息、查看日历、格式化文本…这些操作不改变任何状态,出错也没有代价。不需要弹窗。
高风险 → 必须确认
删除文件、发送消息、执行支付、修改权限…这些操作不可逆或影响大,必须弹窗确认。
风险分级的核心问题:谁来判断一个操作是高危还是低危?
- 产品经理预定义 — 在设计阶段把每个工具的风险等级定好(最常见)
- AI 自己判断 — 让模型根据上下文判断「这件事需不需要问人」(更灵活但不一定准)
- 用户自定义 — 让用户自己设置哪些操作需要确认(最灵活但增加配置成本)
让 AI 自己判断「这件事需不需要问人」,这是风险分级的核心。好的权限设计不是要不要弹窗的二选一。它是对什么时候弹、弹什么的精细控制。