先这样答
模型复读机现象是训练数据缺陷与解码策略失误叠加的结果。成因包含三个层面。第一，训练数据里存在大量重复模式。模型在训练阶段学习到了这些模式的概率分布。第二，系统在推理时采用了低温解码或者贪心解码。这些解码方式会无限放大高频预测路径。模型一旦进入某个高频词汇的循环生成阶段，就很难自行跳出。第三，解码配置缺少重复惩罚机制。系统在模型生成重复词元时没有施加外部干预。
处理这个问题需要从数据和解码两端入手。工程师要在数据端做好语料清洗与去重。开发者需要清理预训练阶段的冗余文本。开发者也需要对微调阶段的数据执行严格的去重处理。这能降低模型对特定重复模式的记忆依赖。
工程师在解码端需要调整生成参数。第一种方法是调高温度参数。这能增加输出概率分布的随机性。第二种方法是引入 repetition penalty 机制。系统会对已经生成的词元施加概率衰减。第三种方法是使用 top-p 采样策略。系统通过截断低概率长尾词汇来打断固定的生成路径。
面试官会怎么追问
-
「为什么这种现象在线上生产环境里反而比测试时更常见？」 线上生产环境通常要求模型输出具备高度的稳定性。工程师为了保证结果可控，会刻意压低温度参数。低温解码会使概率分布变得更加陡峭。模型会极度倾向于选择概率最高的固定词汇。这直接放大了高频路径的循环风险。
-
「如果线上为了求稳不能随便调高温度，还有什么解码手段可以处理？」 工程师可以直接在解码器中配置 repetition penalty 参数。系统会动态记录上下文中已经生成的词元。当模型再次预测这些历史词元时，系统会强制降低它们的生成概率。开发者也可以配合调整 top-p 参数来打断固定的循环路径。
-
「除了调整推理参数，解决复读机现象的根本路径在哪一端？」 根本路径在数据端。模型复读的根源是记住了语料中的重复模式。开发者必须在预训练和微调阶段执行严格的语料去重。开发者切断重复模式的输入才能避免模型学习到错误的概率分布。
回答的坑
面试者忽视数据层面的根本原因，只在面试中谈论解码参数的调整。 面试者混淆温度参数的作用方向，误以为降低温度能够减少复读机现象。
同系列的题