为什么它会编造不存在的来源？
为什么它会编造不存在的来源？
幻觉 · 初学者 · 3 分钟 · 采样、安全、LLM · 继 [下一 token 预测](/explain/next-token/) 之后
幻觉是流畅、自信但错误的答案。它发生是因为模型抽取最看似合理的下一个片段，而“看似合理”和“真实”是按不同尺度衡量的，模型无法分辨。
开始前：你能向朋友解释这个吗？1 2 3 4 5
1 = 完全不能 · 5 = 很容易
- 1 先猜
它引用了一篇不存在的论文，还带作者和年份。发生了什么？ A 它为了显得聪明而撒谎
- B 它抽取了最听起来合理的片段，而“看似合理”不等于真实
- C 那个版本里的一个 bug
- 2 看
一个有真实答案的问题
1 / 3
第一个在火星上行走的人是 ___
阿姆斯特朗 46 %
奥尔德林 23 %
还没有人 ✓ 17 %
马斯克 8 %
加加林 5 %
temperature 1.0
抽取
概率仅为示意；✓ 标出真实答案
还没有人在火星上行走过。但看看概率：“阿姆斯特朗”听起来对，而听起来对正是概率所衡量的。
◀ - 重置 ▶
真实答案在转盘上概率不高；看似合理的错误答案却以同样自信的语气胜出。
- 概率衡量的是一个片段与目前文本的契合程度。“阿姆斯特朗”与“第一个在……上行走的人”契合得非常好。这个循环中没有任何环节询问它是否真的发生过。语气中的自信只是流畅性，不是证据。
- 4 你就是模型
抽取五次，数一数有多少答案是真的。然后试着找一个能让真相获胜的 temperature。
第一个在火星上行走的人是 ___
阿姆斯特朗 46 %
奥尔德林 23 %
还没有人 ✓ 17 %
马斯克 8 %
加加林 5 %
temperature 1.0
冷 热
抽取
抽取五次并数出真实答案。已抽取 0/5。
我完成了——给我看模型
- 5 检查
降低 temperature 能修复幻觉吗？ A 不能——它会让看似合理的那个选项更常获胜
- B 能，在零时
- C 能，如果你还礼貌地请求
- 6 复述一遍
用一句话向朋友解释幻觉。比较
- 7 任务 · 5 分钟
在 aifree 的 Ask 中问一个关于特定免费套餐的问题，并对照它链接到的优惠页面检查答案。然后向一个不带链接的免费聊天机器人问同一个问题并比较。
[打开 Ask](/ask) 完成
三道快问
从本课题库中随机抽取；下次会不同。
完成？
现在：你能向朋友解释这个吗？1 2 3 4 5
1 = 完全不能 · 5 = 很容易
标记完成 先回答三道快问。
深入阅读
来源
- https://arxiv.org/abs/2311.05232
- https://openai.com/index/why-language-models-hallucinate/
- 图中概率仅为示意 发布于 2026 年 10 月 20 日 · 更新于 2026 年 10 月 20 日
[相关：为什么它会数错 "strawberry" 里的 r？](/explain/tokens/)[相关：它怎么知道 "king" 接近 "queen"？](/explain/embeddings/)[相关：它怎么知道 "it" 指什么？](/explain/self-attention/)