先这样答
金融场景的 Agent 要用检索强约束、置信度门控和模板填充降低幻觉,再用证据链接和过程留痕保证可追溯。回答前,Agent 必须先检索依据。没有依据就不回答,不能让模型凭已有知识补全。
检索到内容后,Agent 还要检查置信度。分数低于要求时直接拒答,或者交给人工处理。数字和条款类内容不适合直接生成。系统应从已确认的内容里取值,再按固定模板填充,减少数字写错、条件漏写或表述变化。
每条结论都要带证据链接,说明它来自哪份文档、哪一段。系统还要记录从检索、判断到输出的过程,让决策可以回放。金融场景要满足监管检查。检查人员需要还原 Agent 为什么这么答,而不只是看到最终答案。
面试官会怎么追问
-
「如果检索结果之间互相矛盾,Agent 应该怎么答?」
先检查每条结果的证据来源和置信度。无法确认时不直接生成结论,而是拒答或交给人工判断。最终输出仍要保留使用过的证据。 -
「为什么数字和条款不能直接交给大模型生成?」
数字和条款对准确性要求高,生成过程可能改写数字或遗漏条件。更稳妥的方式是取已确认内容,再用固定模板填充。这样输出格式和关键内容更容易检查。 -
「只保存最终答案,能不能满足可追溯要求?」
不能,因为最终答案本身不能说明 Agent 为什么得出这个结论。系统需要保存证据链接和决策过程。这样监管检查时才能回放判断依据。
回答的坑
- 只说“让模型多检索”却没有说明无依据拒答和低置信度拒答。
- 只保存最终文本却没有记录证据位置和决策过程。
同系列的题
—— 本题完 ——