你的 RAG 架构是什么？分几层？

先这样答

我的 RAG 架构分为接入层、检索层和生成层。第一层是接入层。这一层负责意图路由。系统接收用户输入。路由模块随后判断用户的真实意图。系统将意图划分为闲聊、知识库问答和工具调用三类。我们将路由准确率作为这一层的核心监控指标。

第二层是检索层。检索过程按顺序包含三个步骤。系统首先对用户输入进行查询改写。改写后的查询词进入混合召回模块。该模块负责获取初步结果。召回阶段完成。排序模型对初步结果执行重排操作。我们在这一层挂载了两个可定位的评估指标。这两个指标分别是 Hit@K 和 MRR。

第三层是生成层。大模型根据检索到的上下文生成最终回答。生成的内容必须带有明确的引用来源。系统在生成前会判断检索质量。系统发现检索质量不够。系统直接拒答。生成层的核心监控指标是忠实度。这套分层架构是淘天 AI Agent 二面四连追问的第一问答法。面试官通常会顺着回答展开召回错误、漏召和评估的三连追问。

面试官会怎么追问

• 「如果检索层发生召回错误，你怎么处理？」 召回错误表现为系统召回了无关文档。系统依赖生成层的拒答机制兜底。大模型判断上下文与问题无关。系统此时直接拒绝回答。
• 「遇到漏召的情况怎么解决？」 漏召说明相关文档没有进入重排阶段。开发人员首先检查查询改写模块。我们需要确认该模块是否丢失了核心实体。开发人员确认改写无误。我们随后调整混合召回的权重。
• 「这三层的评估指标是怎么具体落地的？」 开发人员依靠人工标注测试集计算接入层的路由准确率。开发人员通过标准问答对批量评测检索层的 Hit@K 和 MRR。开发人员使用更强大的大模型评估生成层的忠实度。

回答的坑

• 面试者混淆各层的功能边界，错误地把拒答逻辑放在检索层。
• 面试者堆砌架构名词，无法给出每一层对应的具体评估指标。