Q1提示工程对比选型AgentAlpha 社区约 6 分钟更新 2026-09-29

CoT vs ToT:线性推理和树状搜索怎么选

CoT 单路径贪心、ToT 分支搜索带回溯。这篇给两种推理结构的对比表与「用算力换正确率」的适用判断。

面试官原题

思维链和思维树各自适合什么问题?

面试官 · Agent 岗面试现场

先给结论

常规问答与步骤可顺序展开的问题选思维链(CoT),一步错满盘输且具备可验证性的复杂问题选思维树(ToT)。CoT 提供一条线性推理路径,适合数学应用题和多跳常识问答,实现上几乎零成本。ToT 则用算力换取正确率,通过在每步生成多个候选思路并进行评估回溯来搜索解空间,适合解谜、规划和代码设计。实际工程选型中,绝大多数场景使用 CoT 已经足够,只有在单路径贪心策略无法解决,且允许承担较高模型调用成本与工程复杂度时,才考虑引入 ToT。

逐项对比

对比维度CoT(思维链)ToT(思维树)
定位单路径线性推理树状搜索与回溯
强项实现零成本且速度快探索充分且支持纠错
弱项贪心策略导致错了无法回头工程复杂度高且依赖评估器
典型场景数学应用题与多跳常识解谜、规划与代码设计
成本零成本(提示词或内化)多次模型调用与评估器开销

两者的本质差异在于搜索结构。CoT 采用贪心单路径策略,模型逐步生成中间步骤直到得出答案。这种方式像走单行道,一旦中间某一步推理出错,后续步骤将全部偏离,错了无法回头。ToT 则引入了搜索与回溯机制,在每一步推理时生成多个候选思路,并使用评估器对这些思路进行打分。基于打分结果,系统可以选择最优路径继续向下探索,或者在当前路径行不通时退回到上一个节点重新选择。

这种机制上的不同直接决定了成本和应用边界。ToT 能够充分探索解空间并支持纠错,代价是成倍增加的模型调用次数以及构建评估器的额外成本,整体工程复杂度高。因此,只有中间步骤可以通过明确规则进行验证的场景才值得引入 ToT。此外,ToT 与 Agent 范式关系密切,其分支、评估与回溯的思路,目前已被许多规划与反思类 Agent 继承,成为处理复杂任务的底层逻辑。

面试怎么答

遇到选型问题,先明确业务场景的容错率与算力预算,再给出对应方案。答题框架可分为三步:首先界定问题类型,说明常规线性问题选择 CoT,需要探索解空间的问题选择 ToT;其次对比成本,点明 ToT 是用多次模型调用成本换取正确率;最后延伸至 Agent 范式,指出 ToT 的回溯机制已被规划类 Agent 继承。

面试时容易踩到的坑是把 ToT 描述成更长的 CoT——必须明确,两者的核心差异在于搜索结构与回溯能力,而不在于推理步骤的长度。

—— 本场面试完 ——

我们不做玩具级 Demo 教学。训练营的作业是开源项目和论文——我们想陪伴你,做出能改变生活、最后改变世界的项目。