很多人把 CoT、ReAct、ToT 当成初级→高级的升级关系好像 ToT 一定比 CoT 好。但实际测试下来80% 的 Agent 任务用 ReAct 就够了ToT 的成本是 ReAct 的 5-10 倍效果提升可能只有几个百分点。阅读提示适合谁看用过 ChatGPT / 知道 Function Calling但还没系统研究过推理模式的工程师看完能做什么理解 CoT/ReAct/ToT 的原理差异、选对推理模式、避免过度设计不适合谁还没用过大模型做推理任务的读者先给结论CoT、ReAct、ToT 不是三种升级版而是三种完全不同的推理范式——适用场景、成本、可靠性差异巨大大多数 Agent 项目只需要 ReAct 就够了——ToT 的复杂度和成本是 ReAct 的 5-10 倍只有在需要探索多条路径的场景才值得推理模式的选择核心是**“你的任务需要多少步推理和推理路径是否唯一”**——单步任务不需要 CoT路径唯一的任务不需要 ToT01 三种模式不是升级关系先纠正一个常见误区CoT → ReAct → ToT 不是初级→高级的升级路径。CoTChain-of-Thought纯推理链。让模型一步一步想但不和外部世界交互。适合推理路径清晰、不需要外部信息的任务。ReActReasoning Acting推理执行交替。每一步先想Thought再做Action再看结果Observation循环往复。适合需要外部信息、推理路径唯一的任务。ToTTree-of-Thought树状探索。每步生成多个候选评估后保留最优的几个继续往下探索。适合推理路径不唯一、需要尝试多条路的任务。图 1三种推理模式的执行流程对比**核心区别不是谁更聪明而是谁更适合**。02 CoT 的原理为什么一步一步想能提升推理能力CoT 的核心思想是让模型在生成最终答案之前先生成中间推理步骤。从 Attention 的角度看为什么这有效当模型直接回答17 × 24 ?“时它要在一步 Attention 里完成整个乘法——这对模型来说很难。但如果让它先算17 × 20 340”、“17 × 4 68”、“340 68 408”每一步的中间结果都作为 token 进入 KV Cache为后续步骤提供了推理上下文。CoT 的 Prompt 模板请一步一步思考以下问题问题一个商店有 17 个苹果卖掉了 24% 后又进货了 10 个现在有多少个让我们一步一步来1. 先算卖掉的数量17 × 24% 17 × 0.24 4.08约 4 个2. 剩余数量17 - 4 13 个3. 进货后13 10 23 个答案23 个CoT 的局限纯推理不能调用外部工具。如果问题需要查数据库、调 API、执行代码CoT 就无能为力了。03 ReAct 的原理推理执行交替ReAct 的核心思想是在推理过程中穿插外部工具调用每一步都是 Thought → Action → Observation 循环。ReAct 的 Prompt 模板你是一个能使用工具的助手。请按以下格式回答问题Thought: 我需要思考什么Action: 调用哪个工具传什么参数Observation: 工具返回的结果... (重复 Thought/Action/Observation)Thought: 我已经有足够信息了Final Answer: 最终答案可用工具- search(query): 搜索互联网- calculator(expression): 计算数学表达式- sql_query(sql): 执行 SQL 查询问题小米集团上周五的收盘价是多少涨跌幅是多少ReAct 的执行过程Thought: 我需要查小米集团上周五的收盘价然后计算涨跌幅Action: search(小米集团 上周五 收盘价)Observation: 小米集团(1810.HK)上周五收盘价 42.50 港元Thought: 我拿到了收盘价现在需要查前一天的收盘价来算涨跌幅Action: search(小米集团 上周四 收盘价)Observation: 小米集团(1810.HK)上周四收盘价 41.80 港元Thought: 涨跌幅 (42.50 - 41.80) / 41.80 1.67%Final Answer: 小米集团上周五收盘价 42.50 港元涨跌幅 1.67%ReAct 和 CoT 的本质区别CoT 是纯推理只在脑子里想ReAct 是推理执行想了就去做做完再想。ReAct 的每一步 Action 都会调用真实的外部工具拿到真实数据。04 ToT 的原理把推理建模为树搜索ToT 的核心思想是在每一步生成多个候选评估后保留最优的几个继续往下探索——本质上是把推理过程建模为树搜索BFS/DFS。ToT 的 Prompt 模板你是一个需要探索多条路径的问题求解器。每一步请生成 3 个候选思路评估每个思路的可行性1-10 分保留得分最高的 1-2 个继续探索。问题设计一个方案让用户在 3 秒内找到想要的商品Step 1 - 候选思路A. 全文搜索可行性 6/10简单但结果不精准B. 分类导航筛选可行性 8/10结构化但需要用户多步操作C. AI 对话式推荐可行性 9/10最自然但需要理解用户意图保留 B 和 C 继续探索。Step 2 - 深入 B分类导航筛选B1. 三级分类多维度筛选可行性 7/10B2. 智能分类一键筛选可行性 8/10← 推荐Step 2 - 深入 CAI 对话式推荐C1. 纯文本对话可行性 6/10C2. 多模态对话图片识别可行性 9/10← 推荐最终方案C2多模态对话图片识别备选 B2ToT 和 ReAct 的本质区别ReAct 是单条路径探索走一步看一步ToT 是多条路径并行探索同时走多条路选最好的。ToT 的 LLM 调用次数是 ReAct 的 3-5 倍但能找到更优解。05 三种模式对比维度CoTReActToT推理方式线性链式推理执行交替树状多路径探索LLM 调用次数1 次3-6 次5-15 次token 消耗低中高高外部工具调用不支持支持支持更复杂适用任务数学推理、逻辑推导信息检索、代码执行创意写作、策略规划可靠性高路径确定中高依赖工具中路径不确定最佳场景推理路径清晰、不需要外部信息需要外部信息、路径唯一需要探索多条路径、路径不唯一06 最小实验同一题三种模式求解问题“小明有 100 元买了 3 本单价 25 元的书又用剩下的钱的 60% 买了文具最后还剩多少钱”CoT 求解1 次 LLM 调用1. 买书花费3 × 25 75 元2. 剩余100 - 75 25 元3. 文具花费25 × 60% 15 元4. 最终剩余25 - 15 10 元答案10 元ReAct 求解3 次 LLM 调用Thought: 先算买书花了多少Action: calculator(3 * 25)Observation: 75Thought: 再算剩余Action: calculator(100 - 75)Observation: 25Thought: 最后算文具花费和剩余Action: calculator(25 * 0.6)Observation: 15Final Answer: 剩余 10 元ToT 求解5 次 LLM 调用候选 1: 先算总花费再减不可行不知道文具具体价格候选 2: 分步算先算书再算文具可行8 分← 保留候选 3: 用方程解可行但复杂6 分...继续探索候选 2...观察这个问题只有一个正确解法CoT 就够了。ReAct 多调了 2 次 LLM为了用计算器ToT 多调了 4 次 LLM为了探索多条路径但结果一样。这就是过度推理——ToT 在简单任务上反而更慢且不更好。07 看起来强其实弱的反例反例 1ToT 在简单检索任务上反而更差一个信息检索任务“查一下北京今天的天气”。ReActsearch(“北京今天天气”) → 拿到结果 → 回答。1 次工具调用成功率 95%ToT生成 3 个搜索候选 → 评估 → 选最优 → 搜索 → 评估结果 → 可能再搜一轮。3-5 次工具调用成功率 88%因为多轮搜索反而引入了噪音反例 2CoT 在需要外部信息的任务上完全失效“小米集团上周五的收盘价是多少”CoT模型不知道最新股价只能瞎猜或说我没有实时数据ReActsearch(“小米集团 上周五 收盘价”) → 拿到真实数据 → 回答在我们的项目里ReAct 在信息检索类任务上的成功率约 85%ToT 在同类任务上约 88%但成本高了 6 倍——这个 trade-off 在大多数场景下不划算。08 选型决策路径图 2推理模式选型决策图简单决策规则单步推理、不需要外部信息→ 直接 Prompt不需要 CoT多步推理、路径唯一、需要外部信息→ReAct推荐80% 的 Agent 任务属于这类多步推理、路径唯一、不需要外部信息→ CoT多步推理、多条路径、需要探索→ ToT成本高慎用什么时候三种模式都不够当任务需要复杂的工具编排多个工具串联/并联、长期记忆管理、多 Agent 协作时单靠推理模式不够需要用 Agent 框架LangChain / LangGraph / AutoGen来编排。09 给读者一个能用来做决策的结论决策帮助如果你不确定用什么先用 ReAct——它是大多数 Agent 任务的默认选择如果你的任务纯推理、不需要工具用 CoT成本最低如果你的任务需要探索多条路径创意、策略、博弈试 ToT但要做好成本预期如果你只能先做一步用 ReAct 跑通一个完整的 Thought → Action → Observation 循环——这一步能帮你建立Agent 推理的直觉学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
ReAct、CoT、ToT：Agent 推理模式的三板斧，你真的理解对了吗
很多人把 CoT、ReAct、ToT 当成初级→高级的升级关系好像 ToT 一定比 CoT 好。但实际测试下来80% 的 Agent 任务用 ReAct 就够了ToT 的成本是 ReAct 的 5-10 倍效果提升可能只有几个百分点。阅读提示适合谁看用过 ChatGPT / 知道 Function Calling但还没系统研究过推理模式的工程师看完能做什么理解 CoT/ReAct/ToT 的原理差异、选对推理模式、避免过度设计不适合谁还没用过大模型做推理任务的读者先给结论CoT、ReAct、ToT 不是三种升级版而是三种完全不同的推理范式——适用场景、成本、可靠性差异巨大大多数 Agent 项目只需要 ReAct 就够了——ToT 的复杂度和成本是 ReAct 的 5-10 倍只有在需要探索多条路径的场景才值得推理模式的选择核心是**“你的任务需要多少步推理和推理路径是否唯一”**——单步任务不需要 CoT路径唯一的任务不需要 ToT01 三种模式不是升级关系先纠正一个常见误区CoT → ReAct → ToT 不是初级→高级的升级路径。CoTChain-of-Thought纯推理链。让模型一步一步想但不和外部世界交互。适合推理路径清晰、不需要外部信息的任务。ReActReasoning Acting推理执行交替。每一步先想Thought再做Action再看结果Observation循环往复。适合需要外部信息、推理路径唯一的任务。ToTTree-of-Thought树状探索。每步生成多个候选评估后保留最优的几个继续往下探索。适合推理路径不唯一、需要尝试多条路的任务。图 1三种推理模式的执行流程对比**核心区别不是谁更聪明而是谁更适合**。02 CoT 的原理为什么一步一步想能提升推理能力CoT 的核心思想是让模型在生成最终答案之前先生成中间推理步骤。从 Attention 的角度看为什么这有效当模型直接回答17 × 24 ?“时它要在一步 Attention 里完成整个乘法——这对模型来说很难。但如果让它先算17 × 20 340”、“17 × 4 68”、“340 68 408”每一步的中间结果都作为 token 进入 KV Cache为后续步骤提供了推理上下文。CoT 的 Prompt 模板请一步一步思考以下问题问题一个商店有 17 个苹果卖掉了 24% 后又进货了 10 个现在有多少个让我们一步一步来1. 先算卖掉的数量17 × 24% 17 × 0.24 4.08约 4 个2. 剩余数量17 - 4 13 个3. 进货后13 10 23 个答案23 个CoT 的局限纯推理不能调用外部工具。如果问题需要查数据库、调 API、执行代码CoT 就无能为力了。03 ReAct 的原理推理执行交替ReAct 的核心思想是在推理过程中穿插外部工具调用每一步都是 Thought → Action → Observation 循环。ReAct 的 Prompt 模板你是一个能使用工具的助手。请按以下格式回答问题Thought: 我需要思考什么Action: 调用哪个工具传什么参数Observation: 工具返回的结果... (重复 Thought/Action/Observation)Thought: 我已经有足够信息了Final Answer: 最终答案可用工具- search(query): 搜索互联网- calculator(expression): 计算数学表达式- sql_query(sql): 执行 SQL 查询问题小米集团上周五的收盘价是多少涨跌幅是多少ReAct 的执行过程Thought: 我需要查小米集团上周五的收盘价然后计算涨跌幅Action: search(小米集团 上周五 收盘价)Observation: 小米集团(1810.HK)上周五收盘价 42.50 港元Thought: 我拿到了收盘价现在需要查前一天的收盘价来算涨跌幅Action: search(小米集团 上周四 收盘价)Observation: 小米集团(1810.HK)上周四收盘价 41.80 港元Thought: 涨跌幅 (42.50 - 41.80) / 41.80 1.67%Final Answer: 小米集团上周五收盘价 42.50 港元涨跌幅 1.67%ReAct 和 CoT 的本质区别CoT 是纯推理只在脑子里想ReAct 是推理执行想了就去做做完再想。ReAct 的每一步 Action 都会调用真实的外部工具拿到真实数据。04 ToT 的原理把推理建模为树搜索ToT 的核心思想是在每一步生成多个候选评估后保留最优的几个继续往下探索——本质上是把推理过程建模为树搜索BFS/DFS。ToT 的 Prompt 模板你是一个需要探索多条路径的问题求解器。每一步请生成 3 个候选思路评估每个思路的可行性1-10 分保留得分最高的 1-2 个继续探索。问题设计一个方案让用户在 3 秒内找到想要的商品Step 1 - 候选思路A. 全文搜索可行性 6/10简单但结果不精准B. 分类导航筛选可行性 8/10结构化但需要用户多步操作C. AI 对话式推荐可行性 9/10最自然但需要理解用户意图保留 B 和 C 继续探索。Step 2 - 深入 B分类导航筛选B1. 三级分类多维度筛选可行性 7/10B2. 智能分类一键筛选可行性 8/10← 推荐Step 2 - 深入 CAI 对话式推荐C1. 纯文本对话可行性 6/10C2. 多模态对话图片识别可行性 9/10← 推荐最终方案C2多模态对话图片识别备选 B2ToT 和 ReAct 的本质区别ReAct 是单条路径探索走一步看一步ToT 是多条路径并行探索同时走多条路选最好的。ToT 的 LLM 调用次数是 ReAct 的 3-5 倍但能找到更优解。05 三种模式对比维度CoTReActToT推理方式线性链式推理执行交替树状多路径探索LLM 调用次数1 次3-6 次5-15 次token 消耗低中高高外部工具调用不支持支持支持更复杂适用任务数学推理、逻辑推导信息检索、代码执行创意写作、策略规划可靠性高路径确定中高依赖工具中路径不确定最佳场景推理路径清晰、不需要外部信息需要外部信息、路径唯一需要探索多条路径、路径不唯一06 最小实验同一题三种模式求解问题“小明有 100 元买了 3 本单价 25 元的书又用剩下的钱的 60% 买了文具最后还剩多少钱”CoT 求解1 次 LLM 调用1. 买书花费3 × 25 75 元2. 剩余100 - 75 25 元3. 文具花费25 × 60% 15 元4. 最终剩余25 - 15 10 元答案10 元ReAct 求解3 次 LLM 调用Thought: 先算买书花了多少Action: calculator(3 * 25)Observation: 75Thought: 再算剩余Action: calculator(100 - 75)Observation: 25Thought: 最后算文具花费和剩余Action: calculator(25 * 0.6)Observation: 15Final Answer: 剩余 10 元ToT 求解5 次 LLM 调用候选 1: 先算总花费再减不可行不知道文具具体价格候选 2: 分步算先算书再算文具可行8 分← 保留候选 3: 用方程解可行但复杂6 分...继续探索候选 2...观察这个问题只有一个正确解法CoT 就够了。ReAct 多调了 2 次 LLM为了用计算器ToT 多调了 4 次 LLM为了探索多条路径但结果一样。这就是过度推理——ToT 在简单任务上反而更慢且不更好。07 看起来强其实弱的反例反例 1ToT 在简单检索任务上反而更差一个信息检索任务“查一下北京今天的天气”。ReActsearch(“北京今天天气”) → 拿到结果 → 回答。1 次工具调用成功率 95%ToT生成 3 个搜索候选 → 评估 → 选最优 → 搜索 → 评估结果 → 可能再搜一轮。3-5 次工具调用成功率 88%因为多轮搜索反而引入了噪音反例 2CoT 在需要外部信息的任务上完全失效“小米集团上周五的收盘价是多少”CoT模型不知道最新股价只能瞎猜或说我没有实时数据ReActsearch(“小米集团 上周五 收盘价”) → 拿到真实数据 → 回答在我们的项目里ReAct 在信息检索类任务上的成功率约 85%ToT 在同类任务上约 88%但成本高了 6 倍——这个 trade-off 在大多数场景下不划算。08 选型决策路径图 2推理模式选型决策图简单决策规则单步推理、不需要外部信息→ 直接 Prompt不需要 CoT多步推理、路径唯一、需要外部信息→ReAct推荐80% 的 Agent 任务属于这类多步推理、路径唯一、不需要外部信息→ CoT多步推理、多条路径、需要探索→ ToT成本高慎用什么时候三种模式都不够当任务需要复杂的工具编排多个工具串联/并联、长期记忆管理、多 Agent 协作时单靠推理模式不够需要用 Agent 框架LangChain / LangGraph / AutoGen来编排。09 给读者一个能用来做决策的结论决策帮助如果你不确定用什么先用 ReAct——它是大多数 Agent 任务的默认选择如果你的任务纯推理、不需要工具用 CoT成本最低如果你的任务需要探索多条路径创意、策略、博弈试 ToT但要做好成本预期如果你只能先做一步用 ReAct 跑通一个完整的 Thought → Action → Observation 循环——这一步能帮你建立Agent 推理的直觉学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
