01｜Agent 和 RAG 如何结合？有哪些架构模式

P1 · rag

🏷 标签：agent, rag, architecture, tool-use

1️⃣ 考察意图

面试官想看你是否理解 Agent 与 RAG 的职责边界，而非简单背诵“RAG 给 Agent 知识”。真正考察点：能否区分不同架构模式（串行/并行/动态触发/记忆增强）的适用场景与工程取舍，以及如何处理检索时机、频率、上下文注入等关键设计。刁钻点在于：很多人只会说“Agent 调用 RAG”，但说不清何时调用、调用几次、结果如何影响推理。答好了能展示系统设计能力与实战经验，而非纸上谈兵。

2️⃣ 标准答

核心原则：Agent 负责推理、规划、工具调用（如 ReAct 循环），RAG 负责知识检索。结合时，关键在于定义“检索触发条件”和“检索结果如何融入 Agent 上下文”。

常见架构模式（按复杂度递增）：

**串行模式（Agent → RAG → Agent）**流程：Agent 先接收用户问题，调用 RAG 检索相关文档，再将检索结果作为上下文输入 Agent 生成最终回答。
适用：简单问答（如“公司政策是什么？”），无需多步推理。
工程取舍：检索结果可能包含噪声，Agent 需具备过滤能力（如用 prompt 指令“仅使用相关片段”）。
坑：若 RAG 返回空结果，Agent 可能胡编；解法：设置“无结果时返回‘知识不足’并请求澄清”。并行模式（RAG + Agent 同时启动）
流程：用户问题同时触发 RAG 检索和 Agent 推理，Agent 在生成过程中动态引用检索结果。
适用：实时性要求高（如客服对话），需快速响应。
技术细节：使用异步调用（如 Python asyncio）并行执行检索和推理，但需注意 Agent 推理可能依赖检索结果，导致“先推理后检索”的时序问题。解法：让 Agent 先输出占位符（如 [RETRIEVAL]），检索完成后替换。
坑：并行可能浪费计算资源（若检索结果未被使用）；解法：基于问题类型做路由（如简单问题不触发检索）。动态触发模式（Agent 自主决定何时检索）
流程：Agent 在 ReAct 循环中，根据当前状态（如置信度低、需要外部知识）调用 RAG 工具。
适用：复杂多步任务（如“写一篇关于 Transformer 的论文摘要，并引用最新论文”）。
关键设计：触发策略——基于置信度阈值（如 logit 概率 < 0.5 时检索）、不确定性估计（如熵 > 阈值）、或显式指令（如“如果不知道，请搜索”）。
工程取舍：频繁检索增加延迟和成本；解法：缓存检索结果（如用 Redis 缓存常见查询的 top-k 文档），或使用重排序（如 Cohere Rerank）减少噪声。
实战坑：Agent 可能过度检索（如每步都查），导致 token 消耗爆炸；解法：限制检索次数（如 max_retrieval=3），或使用预算控制器（如基于 token 预算动态调整）。记忆增强模式（RAG 作为长期记忆）
流程：Agent 将历史对话或任务状态存入向量数据库，后续推理时检索相关记忆。
适用：多轮对话、持续学习任务（如个人助手记住用户偏好）。
技术细节：使用时间衰减权重（如 BM25 时间戳加权）或分层记忆（短期记忆用缓存，长期记忆用向量库）。
坑：记忆污染——旧知识干扰新推理；解法：显式标记记忆时间戳，Agent 在 prompt 中判断时效性。

总结权衡：

检索质量 vs 推理延迟：动态触发模式最灵活但最慢，串行模式简单但可能冗余。
成本 vs 准确性：缓存和重排序可降低检索成本，但可能错过最新信息。
实际落地建议：先用串行模式快速验证，再根据业务需求升级到动态触发或记忆增强。

3️⃣ 答题模板（30 秒电梯版）

“这个问题我从三个层面回答：第一，职责边界——Agent 负责推理和规划，RAG 负责知识检索，结合的关键是定义触发条件。第二，四种架构模式——串行（简单问答）、并行（实时响应）、动态触发（复杂任务）、记忆增强（多轮对话），每种都有适用场景和工程取舍。第三，关键设计点——检索时机、频率、结果注入方式，以及如何通过缓存和重排序优化。总结一句：没有银弹，根据任务复杂度和延迟要求选择模式，动态触发是当前主流方向。”

4️⃣ 高频追问 & 应对

追问 1：动态触发模式中，如何避免 Agent 过度检索？

应对策略：

追问 2：如果 RAG 检索结果与 Agent 推理冲突，怎么处理？

应对策略：

追问 3：如何评估 Agent+RAG 系统的效果？

应对策略：

5️⃣ 避坑 · 常见错误答法

❌ 说“Agent 和 RAG 是独立的，不需要结合” → ✅ 正确切入：强调结合的必要性——Agent 需要外部知识来弥补训练数据截止问题，RAG 需要 Agent 的推理能力来处理复杂查询。
❌ 只提串行模式，忽略动态触发和记忆增强 → ✅ 正确切入：至少列举三种模式，并说明每种模式的适用场景和 trade-off，展示系统设计广度。
❌ 说“检索结果直接拼接到 prompt 就行” → ✅ 正确切入：讨论检索结果如何注入（如作为 system message 的一部分、或通过工具调用返回），以及如何处理噪声和冲突。

6️⃣ 简历呼应

如果你有 RAG 项目：从“动态触发模式”切入，描述你如何用 LangGraph 实现 Agent 自主决定检索时机，并对比了置信度阈值和不确定性估计两种策略的效果（如准确率提升 15%，检索次数减少 30%）。
如果你只做过传统 NLP：用“串行模式”类比传统 QA 系统（先检索再生成），然后指出 Agent 的加入让系统具备多步推理能力（如 ReAct 循环），并举例说明如何用 prompt 工程实现简单动态触发。
如果你是校招无项目：聚焦“记忆增强模式”，复现一篇论文（如 MemGPT），用开源数据集（如 HotpotQA）验证效果，并讨论时间衰减权重和记忆污染问题。
《ReAct: Synergizing Reasoning and Acting in Language Models》（论文）
《Self-Ask: Measuring and Narrowing the Compositional Reasoning Gap》（论文）
《MemGPT: Towards LLMs as Operating Systems》（论文）
LangGraph 官方文档：Agent with RAG 教程
Cohere Rerank 最佳实践（博客）

—— 本场面试完 ——