先这样答
GBDT 的核心是逐步加法建模。它用决策树做基学习器，每轮加一棵新树，修正已有集成的预测。训练时，先看当前模型的损失，再求损失对预测值的负梯度。新树拟合这个方向，然后加入已有集成。下一轮在更新后的集成上重复这个过程。面试里先讲清这条训练主线，再解释不同任务下的损失。
回归下，负梯度就是残差。因此可以用“新树拟合当前残差”来解释回归场景。但不要只用残差定义 GBDT。分类使用对数损失，训练仍按当前损失的负梯度逐轮修正。两种任务都遵循逐步加树的思路，区别在于损失，以及由损失得到的拟合目标。
每轮修正也要控制幅度。shrinkation 学习率会缩小新树加入集成时的贡献，用来防过拟合；子采样也是要提到的控制手段。如果面试官问后续演进，可以接上 XGBoost 的二阶泰勒和 LightGBM 的直方加速。把它们放在 GBDT 的演进关系里讲，不要混进 GBDT 的基本定义。
面试官会怎么追问
- 「为什么说 GBDT 在拟合负梯度，而不直接说拟合残差？」 负梯度来自当前损失，是更一般的说法。回归下，它表现为残差，所以“拟合残差”能解释这个场景。分类用对数损失，不能用回归残差概括训练目标。
- 「新加的树和前面训练好的树是什么关系？」 GBDT 逐步建立决策树集成。每轮新树针对当前损失的负梯度学习，再修正已有集成的预测。下一轮会以修正后的集成为起点。
- 「学习率、子采样和 XGBoost、LightGBM 怎么串起来讲？」 shrinkation 学习率控制新树的贡献，用来防过拟合。子采样也是训练时需要提到的控制手段。XGBoost 的二阶泰勒和 LightGBM 的直方加速属于后续演进，不是 GBDT 的基本原理。
回答的坑
- 只说“不断拟合残差”，却没说逐步加法、决策树和负梯度，会把回归场景当成完整定义。
- 把分类也说成拟合回归残差，或把 XGBoost、LightGBM 的做法说成 GBDT 必备步骤。
同系列的题
—— 本题完 ——