先这样答
先把它当作灾难性遗忘问题处理,分训练前的防和训练后的治。训练前,我会在新领域数据里混入通用数据。通用数据的比例需要通过实验确定。我还会安排课程学习,先训练通用数据,再逐步加入领域数据。这样能减少模型只适应新领域的风险。
训练时,我会优先考虑 LoRA,降低新任务对原有能力的扰动。同时使用较小的学习率,避免参数更新过快。训练过程中还要设置早停,发现通用能力开始下降,就及时停止当前训练。
训练后,我会建立通用能力回归集,持续检查其他领域的表现。我会把新模型和训练前模型逐项对比,确认下降发生在哪些能力上,再回退到合适的训练版本。回答时,我会先说明训练前如何配比和安排顺序,再说明训练后如何监控、对比和定位。
面试官会怎么追问
-
「通用数据和领域数据应该按什么比例混合?」
比例不能直接拍一个固定值。
我会把比例作为实验变量,观察领域能力和通用能力的变化。
再根据回归结果选择合适的配比。 -
「为什么要先做通用数据,再做领域数据?」
这样安排属于课程学习。
模型先保留通用数据上的训练基础,再逐步接触领域数据。
如果一开始就集中训练新领域,原有能力更容易受到影响。 -
「训练完成后,怎么判断是哪些能力发生了下降?」
我会使用通用能力回归集,对比训练前后的结果。
如果整体指标下降,还要继续按能力或领域拆开看。
定位到具体下降项后,再回退到合适版本,检查训练过程和数据配比。
回答的坑
- 只说混入通用数据,却不给出比例通过实验确定,显得没有验证方案。
- 只讲训练技巧,不讲通用能力回归和版本对比,无法定位下降原因。
同系列的题
这家公司的面经实录
—— 本题完 ——