Q9: 传统的 RAG 流程是「先检索后生成「，你是否了解一些更复杂的 RAG 范式，比如在生成过程中进行多次检索或自适应检索？**
P2 · rag
🏷 标签：rag, adaptive-retrieval, self-rag, multi-step
1️⃣ 考察意图
面试官想看你是否停留在“单次检索+生成”的教科书式RAG，还是真正跟进过前沿范式（如Self-RAG、FLARE、ReAct）。考察类型是系统设计+工程取舍，刁钻点在于：你能否说清“为什么需要多次检索”以及“不同范式在延迟、噪声、成本上的trade-off”。答好了能展示你对RAG系统瓶颈的深刻理解，以及从论文到落地的工程嗅觉。
2️⃣ 标准答
传统RAG是“一次检索，一次生成”，但面对多跳问题（如“谁写了《三体》的英文版？需要先查《三体》作者，再查译者）或长文本生成（如写报告时需不断验证事实），单次检索会漏信息。进阶范式分三类：
- 迭代检索（Iterative Retrieval）：代表是Self-RAG（ICLR 2024）。它让LLM在生成每个片段前，通过一个反思令牌（reflection token） 判断“是否需要检索”。如果需要，就检索并插入相关段落；否则直接生成。关键点：反思令牌是训练出来的，不是硬编码规则。工程取舍：增加推理成本（每次生成都要跑一次小分类器），但显著减少幻觉，尤其适合事实密集型任务（如医疗问答）。实际坑：反思令牌的阈值调不好会过度检索（延迟飙升）或检索不足（幻觉复现）。解法：在验证集上做网格搜索，平衡召回率和延迟。
- 自适应检索（Adaptive Retrieval）：代表是FLARE（ACL 2023）。它在生成过程中监控LLM的token级置信度，当连续几个token的log概率低于阈值（比如0.3）时，触发检索。检索结果插入当前上下文，覆盖低置信度部分。为什么这么做：避免每次生成都检索，只在LLM“不确定”时介入，降低平均延迟。实际落地的坑：置信度阈值对模型敏感——GPT-4的log概率分布比Llama-2更尖锐，需要单独调参。解法：用一个小型分类器（如BERT）预测“是否需要检索”，替代直接阈值，鲁棒性更好。
- 多步推理+检索（Multi-step Reasoning + Retrieval）：代表是ReAct（ICLR 2023）和Self-Ask。它让LLM交替执行“思考（Thought）”和“行动（Action）”，行动可以是检索、计算或查表。例如，问“2024年诺贝尔物理学奖得主是谁？他之前拿过什么奖？”模型先检索“2024诺贝尔物理学奖”，得到John Hopfield，再检索“John Hopfield奖项”，输出结果。工程取舍：推理链越长，延迟线性增长，但准确率在多跳任务上比单次检索高15-20%（HotpotQA benchmark）。实际坑：检索结果可能互相矛盾（比如两个网页说不同年份），需要引入验证步骤（如用LLM做一致性检查），但这又增加一次LLM调用。
总结：这些范式的核心是动态决定“何时检索”，而非固定一次。选择取决于场景：事实验证用Self-RAG，长文本生成用FLARE，多跳推理用ReAct。实际系统常混合使用，比如先用ReAct规划步骤，再用FLARE在生成中微调。
3️⃣ 答题模板（30 秒电梯版）
“这个问题我从三个层面回答：第一，迭代检索，如Self-RAG，通过反思令牌决定是否检索，适合事实密集型任务；第二，自适应检索，如FLARE，基于置信度触发检索，降低平均延迟；第三，多步推理+检索，如ReAct，交替思考和行动，解决多跳问题。总结一句：这些范式都在解决‘何时检索’的工程问题，选择取决于对延迟和准确率的权衡。”
4️⃣ 高频追问 & 应对
追问 1：Self-RAG的反思令牌是怎么训练的？需要标注数据吗？
需要。训练分两步：1）用GPT-4生成检索判断的伪标签（比如“这个片段需要检索”），作为弱监督数据；2）在Llama-2上微调，加入一个特殊的[Retrieve]和[NoRetrieve]令牌。关键取舍：伪标签质量依赖GPT-4，但成本高；可以用规则（如“包含实体”触发检索）替代，但准确率下降5-8%。实际中，先用规则做冷启动，再用人工标注精调。
追问 2：FLARE的置信度阈值怎么定？不同模型差异大吗？
差异很大。GPT-4的log概率分布集中在0.8-0.9，Llama-2-7B在0.5-0.7。通用做法：在验证集上做二分搜索，找到使F1最高的阈值。工程技巧：用动态阈值——根据当前生成token的平均置信度调整，比如前10个token平均置信度低于0.6就触发检索。这比固定阈值鲁棒，但增加计算开销。
追问 3：ReAct的推理链太长导致延迟高，怎么优化？
两种策略：1）剪枝：当检索结果与当前思考矛盾时，提前终止该分支（类似beam search的剪枝）；2）缓存：对常见子问题（如“某人的出生年份”）预计算检索结果，用LRU缓存减少重复检索。实测在HotpotQA上，缓存命中率约30%，延迟降低40%。注意：缓存一致性——如果知识库更新，需要设置TTL（如24小时）。
5️⃣ 避坑 · 常见错误答法
- ❌ 说“多次检索就是多查几次文档，然后合并结果” → ✅ 正确切入：多次检索的核心是“动态决策”——何时检索、检索什么、如何融合，不是简单重复。比如Self-RAG用反思令牌判断，FLARE用置信度触发，ReAct用推理链规划。
- ❌ 说“自适应检索比迭代检索好，因为延迟低” → ✅ 正确切入：没有绝对好坏。自适应检索（FLARE）在长文本生成中延迟低，但多跳任务准确率不如迭代检索（Self-RAG）。选择取决于场景：事实验证用Self-RAG，长文档写作用FLARE。
6️⃣ 简历呼应
- 如果你有RAG项目：从“我在项目中遇到了多跳问题，发现单次检索不够，于是实现了Self-RAG的简化版”切入，强调你如何调反思令牌阈值、对比延迟和准确率。
- 如果你只做过传统NLP：用“类似机器翻译中的beam search，多次检索相当于在生成过程中做beam expansion”类比，展示你理解“动态决策”的通用性。
- 如果你是校招无项目：聚焦“我复现了FLARE论文，在HotpotQA上对比了固定阈值和动态阈值”，强调你理解置信度计算和工程调参。
- Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection (ICLR 2024)
- FLARE: Active Retrieval Augmented Generation (ACL 2023)
- ReAct: Synergizing Reasoning and Acting in Language Models (ICLR 2023)
- Self-Ask: Measuring and Narrowing the Compositional Gap in Language Models (EMNLP 2023)
- 博客：LangChain的“Adaptive RAG”教程（含代码实现）