怎么证明 rejected 是有效负样本，而不是误杀？

先这样答

要证明 rejected 是有效负样本，我会做三层验证。第一层看来源是否可溯。每条 rejected 都要能说明被拒的原因。原因可能来自评审标准、用户反馈或规则判定。只有原因清楚、依据明确的样本，才有资格进入负样本集合。原因说不清的样本，不能直接当成有效负样本使用。

第二层做人工抽检。随机抽取一批 rejected，交给独立标注人盲评。标注人不能知道样本原来的 chosen 或 rejected 标签，只判断模型拒答是否正确。如果误杀率高于预先设定的阈值，就说明拒答标准有问题，需要重新检查样本和标注标准。第三层做对照实验。把部分 rejected 换成 chosen 后重新训练，再比较效果。如果效果变差，说明原来的 rejected 确实提供了负向训练信号。三层结果一致，我才会认为 rejected 具备较高可信度。因为误杀会让模型学会回避正确行为。

面试官会怎么追问

• 「来源可溯具体要记录什么？」
  至少要能回答这条样本为什么被拒。还要区分它来自评审标准、用户反馈还是规则判定。无法说明拒答理由的样本，不能仅凭标签进入训练集。

• 「人工抽检为什么要做盲评？」
  盲评可以避免标注人受到原标签影响。独立标注人只判断拒答是否正确，再统计误杀率。如果误杀率高于阈值，就说明拒答标准本身需要检查。

• 「对照实验出现什么结果，才能支持你的判断？」
  我会把部分 rejected 换成 chosen，然后重新训练并比较效果。替换后效果变差，说明原 rejected 对训练确实提供了有效的负向信号。如果效果没有变差，就不能只靠这组实验证明它们是有效负样本。

回答的坑

• 只说“rejected 来自人工标注，所以有效”，没有验证拒答理由，也没有检查误杀率。
• 把对照实验说成只看训练损失，忽略了替换 rejected 后效果是否变差这一判断。