为什么它在回答前会“思考”?
为什么它在回答前会“思考”?
推理(思考)模型 · Builder · 5 分钟 · llm、tokens · 在 [下一 token 预测](/explain/next-token/) 之后
推理模型会写出额外的 token(通常是隐藏的),在给出答案前先处理问题。这些步骤有助于解决多步问题,但会增加成本和等待时间,也无法提供模型从未学过的知识。
开始前:你能向朋友解释这个吗?1 2 3 4 5
1 = 完全不能 · 5 = 轻松做到
- 1 先猜一猜
当聊天机器人显示“正在思考……”时,它在做什么?
- A 上网搜索答案
- B 写一些你大多看不到的额外文字
- C 切换到一个更大、更聪明的大脑
- 2 看
立即回答,还是先思考?
1 / 4
“一根球棒和一个球共 1.10 美元。球棒比球贵 1.00 美元。球多少钱?”
最先跳出来的答案:10 美分 ✗
经典的第一反应陷阱(认知反思测试,Frederick 2005)
第一个想到的答案是 10 美分。它是错的:那样球棒就要 1.10 美元。
把步骤写出来能识破陷阱答案;你要为它们作为输出 token 付费;同一个模型在数学和代码上会提升很多,但在知识或聊天上几乎没什么提升。
- 模型只生成下一个 token,所以“思考更久”的唯一方式就是写更多。这被称为测试时计算:在回答时花费更多 token。供应商会把这些思考 token 作为输出计费,而且它们会让你等待。大多数应用会把它们隐藏起来,或改为显示简短摘要。
- 4 你就是模型
你来决定在哪里值得为思考花费 token。对每类任务,选择“先思考”或“立即回答”,然后看看同一个模型在两种方式下各得多少分。
任务 1/6 · 这里值得为思考花费 token 吗?
数学竞赛(AIME’24)
立即回答 先思考
Qwen3-235B-A22B,关闭思考 vs 开启思考 · Qwen3 技术报告,表 11–12(2025)
花费 token(先思考)还是节省它们(立即回答)?然后看看同一个模型在两种方式下各得多少分。
我完成了——给我看看模型
- 5 检查
思考在哪里最有帮助?
- A 需要连续推进多个步骤的谜题
- B 回忆一个首都城市
- C 昨天的足球比分
- 6 复述出来
向朋友解释“思考”对聊天机器人意味着什么。比较
- 7 任务 · 5 分钟
在 Google AI Studio(免费)中,选择 Gemini 3.8 Flash,并问它:“如果今天是星期三,100 天后是星期几?”打开它的思考内容。然后问:“日本的首都是什么?”比较两者各思考了多久、写了多少。
[免费推理模型 API](/learn/free-reasoning-model-api/) 完成
三道快问快答
从本课题目池中随机抽取;下次会不同。
完成了吗?
现在:你能向朋友解释这个吗?1 2 3 4 5
1 = 完全不能 · 5 = 轻松做到
标记为完成 先回答三道快问快答。
深入阅读
来源
- https://ai.google.dev/gemini-api/docs/thinking(更新于 2026-10-14,检查于 2026-10-21):思考 token 作为输出计费,仅提供思考摘要,事实检索采用低强度思考
- https://ai.google.dev/gemini-api/docs/pricing(更新于 2026-10-19,检查于 2026-10-21):Gemini 3.8 Flash 在免费层级免费;输出价格包含思考 token
- https://developers.openai.com/api/docs/guides/reasoning(检查于 2026-10-21):推理 token 无法通过 API 查看,会占用上下文,并作为输出计费
- https://developers.openai.com/api/docs/guides/reasoning(检查于 2026-10-21):用法示例 output_tokens 1186,reasoning_tokens 1024——即图中的账单
- https://arxiv.org/abs/2505.09388(Qwen3 技术报告,2025-05-14;检查于 2026-10-21):Qwen3-235B-A22B,表 11 思考 vs 表 12 非思考——AIME’24 85.7/40.1,LiveCodeBench v5 70.7/35.3,GPQA-Diamond 71.1/62.9,MMLU-Redux 92.7/89.2,IFEval 83.4/83.2,Arena-Hard 95.6/96.1
- https://doi.org/10.1257/089533005775196732(Frederick 2005,认知反思测试):球棒与球的第一反应陷阱
- https://arxiv.org/abs/2201.11903
- 图中的草稿是我们编写的示例,并已如此标注,不是模型输出 发布于 2026 年 10 月 21 日 · 更新于 2026 年 10 月 21 日
[相关内容:为什么它会把 "strawberry" 里的 r 数错?](/explain/tokens/)[相关内容:它怎么知道 "king" 接近 "queen"?](/explain/embeddings/)[相关内容:它怎么知道 "it" 指的是什么?](/explain/self-attention/)