游戏里的 UGC 内容（玩家昵称、聊天、自定义内容）审核怎么做大模型化升级？

先这样答

游戏 UGC 审核的特点：量大（每秒数万条聊天）、文本短（昵称几个字、聊天一两句）、对抗强（玩家会故意用谐音、拆字、拼音混合绕过审核）、场景特殊（游戏黑话、公会名、队伍语音转写）。

架构是三层漏斗。规则层：敏感词库加变体归一化（全半角、繁简、字符插入的还原），毫秒级拦截明显违规，覆盖大头流量。传统模型层：小分类模型对通过规则层的内容做风险分级，秒内出结果，中风险进下一层，高风险直接处置。大模型层：只处理前两层拿不准的灰度内容，占流量小比例，用语境理解判断——比如「这游戏真行」在投诉语境是抱怨、在交易语境可能是诈骗话术的开头，这种上下文依赖的判断是小模型做不到的。大模型层还负责新变体的发现：识别出新型绕过手法后，回写规则层的词库和变体规则，形成闭环。

游戏特有的两件事。人机对抗：审核规则更新后玩家几天内就摸出新绕法，所以变体发现的速度是核心竞争力，大模型层的语义理解天然抗变体。未成年保护：未成年账号的内容标准和处置策略更严格，涉及引诱、不良社交的内容从重处置，审核链路要带年龄上下文。

面试官会怎么追问

• 「三层漏斗的流量比例怎么设计？」 规则层拦掉明显违规的大头，传统模型层再筛掉九成以上的正常内容，到大模型层的应该只剩百分之几的灰度案例。比例倒挂说明前两层该升级了。
• 「谐音和拆字怎么处理？」 归一化预处理：同音字映射、形近字映射、去插入符号后再匹配；大模型层做语义级兜底，字面干净但语义违规的靠它抓。
• 「误杀怎么控制？」 处置分级：不是所有违规都封号，轻度的仅本人可见或过滤替换，重度的才处罚。申诉通道的案例回流审核规则迭代，误杀率是核心监控指标。

回答的坑

• 说全量大模型审核。成本和延迟都不允许，漏斗架构才是正解。
• 忽略对抗性。游戏审核是攻防战，静态词库思维过时了。