大模型幻觉 (Hallucination)

模型不"知道"事实,只是在做概率采样——看它如何自信地"编造"。

选择一个 Prompt
CASE 1 · 张冠李戴
黛玉捧着月光宝盒,轻声问:
月光宝盒是紫霞的,模型只看共现权重,不知道"谁拥有什么"。
CASE 2 · 穿越混搭
花千骨对郭靖急道:靖哥哥,
花千骨和郭靖来自不同作品,模型会流畅地"续写"跨作品对话。
CASE 3 · 无中生有
女儿国国王望着杏花簪叹道:
杏花簪是沈眉庄的道具,模型会错误地"安排"给女儿国国王。
CASE 4 · 人设崩塌
小龙女转头对杨过急道:
小龙女清冷淡然,不会"急道";但模型不懂人设,只看词频。
CASE 5 · 代码幻觉 API
用 pandas 对 DataFrame 按多列排序并保持稳定:
模型会写出不存在的参数组合——代码"像真的",但 API 根本不是这么用的。

逐步生成过程

← 选择 Prompt,点击「开始生成」