← 小课堂

为什么它在回答前会“思考”?

为什么它在回答前会“思考”?

推理(思考)模型 · Builder · 5 分钟 · llm、tokens · 在 [下一 token 预测](/explain/next-token/) 之后

推理模型会写出额外的 token(通常是隐藏的),在给出答案前先处理问题。这些步骤有助于解决多步问题,但会增加成本和等待时间,也无法提供模型从未学过的知识。

开始前:你能向朋友解释这个吗?1 2 3 4 5

1 = 完全不能 · 5 = 轻松做到

  • 1 先猜一猜

当聊天机器人显示“正在思考……”时,它在做什么?

  • A 上网搜索答案
  • B 写一些你大多看不到的额外文字
  • C 切换到一个更大、更聪明的大脑
  • 2 看

立即回答,还是先思考?

1 / 4

“一根球棒和一个球共 1.10 美元。球棒比球贵 1.00 美元。球多少钱?”

最先跳出来的答案:10 美分 ✗

经典的第一反应陷阱(认知反思测试,Frederick 2005)

第一个想到的答案是 10 美分。它是错的:那样球棒就要 1.10 美元。

把步骤写出来能识破陷阱答案;你要为它们作为输出 token 付费;同一个模型在数学和代码上会提升很多,但在知识或聊天上几乎没什么提升。

  • 模型只生成下一个 token,所以“思考更久”的唯一方式就是写更多。这被称为测试时计算:在回答时花费更多 token。供应商会把这些思考 token 作为输出计费,而且它们会让你等待。大多数应用会把它们隐藏起来,或改为显示简短摘要。
  • 4 你就是模型

你来决定在哪里值得为思考花费 token。对每类任务,选择“先思考”或“立即回答”,然后看看同一个模型在两种方式下各得多少分。

任务 1/6 · 这里值得为思考花费 token 吗?

数学竞赛(AIME’24)

立即回答 先思考

Qwen3-235B-A22B,关闭思考 vs 开启思考 · Qwen3 技术报告,表 11–12(2025)

花费 token(先思考)还是节省它们(立即回答)?然后看看同一个模型在两种方式下各得多少分。

我完成了——给我看看模型

  • 5 检查

思考在哪里最有帮助?

  • A 需要连续推进多个步骤的谜题
  • B 回忆一个首都城市
  • C 昨天的足球比分
  • 6 复述出来

向朋友解释“思考”对聊天机器人意味着什么。比较

  • 7 任务 · 5 分钟

在 Google AI Studio(免费)中,选择 Gemini 3.8 Flash,并问它:“如果今天是星期三,100 天后是星期几?”打开它的思考内容。然后问:“日本的首都是什么?”比较两者各思考了多久、写了多少。

[免费推理模型 API](/learn/free-reasoning-model-api/) 完成

三道快问快答

从本课题目池中随机抽取;下次会不同。

完成了吗?

现在:你能向朋友解释这个吗?1 2 3 4 5

1 = 完全不能 · 5 = 轻松做到

标记为完成 先回答三道快问快答。

深入阅读

来源

[相关内容:为什么它会把 "strawberry" 里的 r 数错?](/explain/tokens/)[相关内容:它怎么知道 "king" 接近 "queen"?](/explain/embeddings/)[相关内容:它怎么知道 "it" 指的是什么?](/explain/self-attention/)

译自 aifree.dev 教程栏目 · 信息以原文为准