先给结论
常规问答与步骤可顺序展开的问题选思维链(CoT),一步错满盘输且具备可验证性的复杂问题选思维树(ToT)。CoT 提供一条线性推理路径,适合数学应用题和多跳常识问答,实现上几乎零成本。ToT 则用算力换取正确率,通过在每步生成多个候选思路并进行评估回溯来搜索解空间,适合解谜、规划和代码设计。实际工程选型中,绝大多数场景使用 CoT 已经足够,只有在单路径贪心策略无法解决,且允许承担较高模型调用成本与工程复杂度时,才考虑引入 ToT。
逐项对比
| 对比维度 | CoT(思维链) | ToT(思维树) |
|---|---|---|
| 定位 | 单路径线性推理 | 树状搜索与回溯 |
| 强项 | 实现零成本且速度快 | 探索充分且支持纠错 |
| 弱项 | 贪心策略导致错了无法回头 | 工程复杂度高且依赖评估器 |
| 典型场景 | 数学应用题与多跳常识 | 解谜、规划与代码设计 |
| 成本 | 零成本(提示词或内化) | 多次模型调用与评估器开销 |
两者的本质差异在于搜索结构。CoT 采用贪心单路径策略,模型逐步生成中间步骤直到得出答案。这种方式像走单行道,一旦中间某一步推理出错,后续步骤将全部偏离,错了无法回头。ToT 则引入了搜索与回溯机制,在每一步推理时生成多个候选思路,并使用评估器对这些思路进行打分。基于打分结果,系统可以选择最优路径继续向下探索,或者在当前路径行不通时退回到上一个节点重新选择。
这种机制上的不同直接决定了成本和应用边界。ToT 能够充分探索解空间并支持纠错,代价是成倍增加的模型调用次数以及构建评估器的额外成本,整体工程复杂度高。因此,只有中间步骤可以通过明确规则进行验证的场景才值得引入 ToT。此外,ToT 与 Agent 范式关系密切,其分支、评估与回溯的思路,目前已被许多规划与反思类 Agent 继承,成为处理复杂任务的底层逻辑。
面试怎么答
遇到选型问题,先明确业务场景的容错率与算力预算,再给出对应方案。答题框架可分为三步:首先界定问题类型,说明常规线性问题选择 CoT,需要探索解空间的问题选择 ToT;其次对比成本,点明 ToT 是用多次模型调用成本换取正确率;最后延伸至 Agent 范式,指出 ToT 的回溯机制已被规划类 Agent 继承。
面试时容易踩到的坑是把 ToT 描述成更长的 CoT——必须明确,两者的核心差异在于搜索结构与回溯能力,而不在于推理步骤的长度。