推理模型详解:为何稍作思考能带来更好回答

某些模型在回答前会先理清问题逻辑。在我们的聊天中开启 Think 即可调用该能力。它在数学、逻辑与编程上效果显著,而快速润色则无需开启。本文为你解析两者的取舍。

阅读时间 6 分钟更新于

在我们聊天页面的输入框里,有一个标有 Think 的小按钮。点击它,你的下一条消息就会发送给 GPT-6.1 Terra,而不是默认的高速模型 GPT-6 Luna。在显示第一个字之前,Terra 会稍作思考,随后聊天界面会显示一行简短的提示,比如“Thought for 3 s”(思考了 3 秒)。具备这种特性的模型通常被称为推理模型。本指南将解释在这段停顿中发生了什么、它能改善哪些任务,以及何时按下 Think 的简单原则。

语言模型的“思考”意味着什么

语言模型是一小段一小段地生成文本的,每个新词都取决于前面已有的内容。直接回答的模型在最初几个词里就已经确定了思路。如果这个思路有误,后面的回答通常也会错下去,因为模型是在基于自己的开头继续往下编。

而推理模型经过训练,会在正式回答之前先写下一段私密的思考草稿。在这段草稿中,它可以重新阐述问题、列出约束条件、尝试某种解法、发现矛盾并及时调整。只有在理清思路之后,它才会输出你最终看到的回答。这段思考过程是模型真实生成的文本,因此即便你看不到它,它也需要消耗时间。

OpenAI 的官方文档用“推理力度”(reasoning effort)这一设置来描述这一过程。根据模型的不同,它可以设置为 none(无)、low(低)、medium(中)、high(高),直至 extra high(极高)和 max(最大)。力度越低,速度越快;力度越高,模型思考得越充分。OpenAI 还指出,即使在相同的设置下,模型也会自动调整,在简单任务上消耗更少的思考 token。

我们聊天中的 Luna 与 Terra

我们通过云端 API 运行这两个模型,并为你自动平衡了思考力度,确保聊天始终流畅迅速:

模型回答前是否思考?如何选用适合场景
GPT-6 Luna尽可能少:最低力度默认;未开启 Think写作、润色、摘要、翻译、快速提问
GPT-6.1 Terra是,简要思考:低力度点击 Think,或在模型菜单中选择数学、逻辑、规划、代码调试、细致对比、复杂图像分析
GPT-6 Sol暂未在此提供在 gpt.me 上锁定可通过我们的 AI Chat 应用(需 Pro 订阅)以及 ChatPlus 使用

在简短问题的实测中,Luna 大约在 1.5 秒内开始回答,而 Terra 则在 2 秒内。在更难的问题上,这个差距会拉大,因为 Terra 会在需要时思考更长时间。思考过程本身是隐藏的:聊天界面只会显示耗时,而不会显示思考笔记。欲了解更多信息,请参阅 GPT-6.1 Terra 页面以及我们的 Luna 与 Terra 对比指南。

值得耐心等待的任务

只要前期的一处小失误会导致满盘皆输,或者需要同时满足多个条件,思考功能就能大显身手。

  • 多步骤计算。贷款还款、配方按比例缩放、非均摊费用结算、应用题中的单位换算。
  • 排程与约束规划。轮班排表、锦标赛抽签、兼顾兼职工作的复习时间表。
  • 代码调试。梳理循环在每一轮迭代中的具体行为,这正是思考草稿最擅长的追踪工作。
  • 权衡多方因素的决策。结合租金、通勤距离和合同条款对比两套公寓、两份工作机会或三档手机套餐。
  • 寻找漏洞。证明中的薄弱步骤、商业计划书中的隐含假设、文章中的逻辑跳跃。
  • 复杂信息图像。OpenAI 表示 Terra 非常擅长细致的视觉推理,例如阅读技术图纸或信息密集的图表。
值得开启 Think 的典型任务:
三位朋友合租一套度假屋 7 晚,总共 840 元。
Ana 住了整整 7 晚,Ben 住了 5 晚,Chloe 住了 3 晚。他们想按
入住晚数分摊租金,但 Ben 已经预付了 300 元。
每人还欠多少钱?谁应该给谁付钱?

试着发送给 Terra,然后在新的聊天中把同样的问题发送给 Luna,对比一下它们是如何处理 Ben 预付款的。

Luna 足以胜任的任务

日常的很大一部分需求并不包含隐藏步骤,提前思考只会徒增等待时间。以下情况建议关闭 Think:

  • 修改粘贴文本的语气或长度;
  • 撰写邮件、帖子、产品描述和故事的初稿;
  • 用通俗语言解释词汇、概念或历史事件;
  • 头脑风暴,此时发散和多样性远比精准度更重要;
  • 常规文本翻译。

OpenAI 官方的使用建议也指出了相同的方向:对于小修小改和事实提取等常规工作,建议使用低力度;对于复杂的代码调试和深度分析,则建议使用更高力度。

如何给思考模型写提示词

推理模型擅长推演解决问题的方法,但无法推断你从未提供过的事实。请务必在第一条消息中包含所有约束条件。

较弱的提示词:
帮我做一份考试复习时间表。

优秀的提示词:
为接下来的 14 天做一份复习时间表。考试安排:第 9 天考
数学,第 12 天考化学,第 14 天考历史。我第 2、5、8 天
10:00 到 16:00 要在咖啡馆打工。我每天最多学 5 个小时,
每周需要空出一个晚上的休息时间。请按天列出表格,最后
列出未能满足的任何规则。

一些实用习惯:

  • 不必写“请一步步思考”。OpenAI 针对推理模型的指导指出,这句话毫无必要,因为模型内部已经在进行推理。如果你想核对思路,直接要求在最终回答中列出步骤即可。
  • 明确目标和输出格式。例如“在最后一行单独输出最终数值”,这样便于查找结果。
  • 要求列出假设。当缺少必要信息时,思考模型仍会进行推测。加上“列出你所做的任何假设”,能让这些推测一目了然。
  • 保持审视。基于错误事实进行的缜密推理依然会得出错误答案。我们的事实核查指南介绍了需要重点验证的内容。
实用经验法则:平时先用 Luna。如果答案涉及计算、必须同时满足的多个条件,或是报错未解的代码,再点开 Think 重新发送。只把时间留给真正需要的问题。

动手做个对比

选一个你已知答案的问题:一道做过的作业题、上个月修好的 Bug、手动排好的日程表。先让 Luna 作答,然后开启 Think 重新生成,点击回答下方的箭头在两个版本之间切换对比。重点观察它们各自在哪个环节出错,而不仅仅是看最终结果。多试几次之后,你就能清楚哪些任务值得多等这几秒钟。数学求解器和代码助手都是进行这类测试的好工具,而语言模型的工作原理则解释了为什么先打草稿能提升效果。

常见问题

我能看到 Terra 的具体思考过程吗?

不能。我们的聊天系统要求模型保持思考草稿的私密性,仅显示其消耗的时间,例如“Thought for 4 s”(思考了 4 秒)。如果你想查看推导逻辑,可以直接要求 Terra 在回答中解释其推理步骤。

开启 Think 的回答会扣除更多免费消息额度吗?

不会。无论是否开启 Think,每次回答都只计为一条消息。唯一的成本只有等待时间。具体每日额度请参阅 常见问题。

Terra 一定比 Luna 更准确吗?

不一定。它在分步逻辑问题上往往表现更好,但它的知识储备同样存在截止时间,也有可能犯错。对于快速文本润色,两个模型的效果通常相差无几。

为什么 GPT-6 Sol 处于锁定状态?

Sol 是 OpenAI GPT-6 家族中定位更高的模型,专为复杂编程和智能体工作流程打造。在 gpt.me 上我们提供 Luna 和 Terra;Sol 则可通过我们的 AI Chat 应用(需 Pro 订阅)以及 ChatPlus 使用。GPT-6 Sol 页面列出了所有可用渠道,包括我们的移动应用。

开启 Think 后会对整个聊天对话一直生效吗?

它只对开启期间发送的消息生效,你可以随时关闭。在对话遇到复杂难点时开启它,处理简单任务时关闭即可。

有疑问?立即提问

无需注册账号,无需下载安装。打开聊天界面,输入你的问题,一两秒内即可收到回答。

开始聊天