什么是 RAG ，它是怎么提升生成质量的
P0 · rag
🏷 标签：rag, retrieval, generation, knowledge-base
1️⃣ 考察意图
面试官想确认你是否真正理解RAG（Retrieval-Augmented Generation）的核心价值，而不仅仅是背概念。考察类型是“工程取舍+系统设计”，刁钻点在于：很多人只会说“检索+生成”，但说不清为什么检索能提升质量——是减少了幻觉？还是增加了事实性？还是两者兼有？答好了能展示你对LLM固有缺陷（知识截止、幻觉、长尾事实缺失）的深刻理解，以及如何用检索系统做工程补偿的硬实力。
2️⃣ 标准答
RAG（检索增强生成）的核心思想是：在生成回答前，先从外部知识库中检索相关文档，作为上下文注入给LLM，从而让模型基于事实而非参数记忆来生成。它提升生成质量主要通过三个机制：
- 事实性增强：LLM的参数知识有截止日期（如GPT-4知识截止2023年），且对长尾实体（如“2024年诺贝尔化学奖得主”）记忆模糊。RAG通过检索最新或特定领域的文档，提供精确事实，直接降低幻觉率。例如，在Natural Questions数据集上，无检索的LLM准确率（EM）约20%，加上BM25检索后可达40%+（【通用知识】）。
- 减少幻觉：LLM生成时倾向于“编造”不确定信息（尤其是数字、人名、日期）。RAG将检索到的文档片段作为约束，强制模型在生成时参考这些上下文。实际落地中，一个常见坑是：检索到的文档本身包含噪声或矛盾信息，导致模型被误导。解法是引入Reranker（如Cohere Rerank或Cross-Encoder），对检索结果按相关性重排序，只保留Top-3高置信度片段，再拼接成Prompt。
- 时效性保障：纯LLM无法动态更新知识，而RAG的知识库可以实时刷新。例如，在金融问答场景中，每天更新财报PDF，RAG能回答“Q3营收是多少”，而纯LLM只能给出过时数据。工程取舍点：更新知识库需要维护索引（如FAISS或Milvus），且每次检索有延迟（通常50-200ms），需要权衡实时性和成本。
- 流程与关键组件：查询编码：用户问题通过Embedding模型（如text-embedding-3-small）转为向量。
- 检索：用向量相似度（余弦相似度）或稀疏检索（BM25，默认k1=1.5, b=0.75）从知识库召回Top-K文档。
- 排序与融合：Reranker对召回结果打分，剔除低相关文档；然后按策略（如FiD的拼接方式）注入Prompt。
- 生成：LLM基于“问题+检索文档”生成回答。优化点：HyDE（Hypothetical Document Embeddings）通过先生成假设文档再检索，能提升查询与文档的语义对齐。 实际落地的坑：检索质量差时，RAG反而会降低生成质量。例如，检索到无关文档，模型可能被带偏。解法是设置阈值过滤：如果检索文档与问题的余弦相似度低于0.5，则回退到纯生成模式，避免噪声注入。
总结：RAG不是万能药，它通过外部知识补偿LLM的固有缺陷，但需要精心设计检索、排序和融合策略，否则可能适得其反。
3️⃣ 答题模板（30 秒电梯版）
“这个问题我从三个层面回答：第一，RAG的核心机制是检索外部知识库并注入上下文，解决LLM的知识截止和幻觉问题；第二，它通过提供事实性信息、减少幻觉、保障时效性来提升生成质量，但需要Reranker和阈值过滤来避免噪声；第三，关键优化点包括HyDE提升检索对齐、FiD控制上下文长度。总结一句：RAG是用工程手段补偿模型缺陷，不是替代模型能力。”
4️⃣ 高频追问 & 应对
追问 1：RAG和微调（Fine-tuning）有什么区别？什么时候该用RAG而不是微调？
核心区别：微调是修改模型参数，让模型记住特定知识；RAG是不改参数，通过检索动态注入知识。选择依据：如果知识频繁变化（如新闻、股票数据），用RAG，因为微调成本高且无法实时更新；如果知识稳定且需要深度理解（如法律条款），微调更优。工程取舍：RAG有检索延迟（50-200ms），微调无延迟但推理成本高（需存储多个模型副本）。实际案例：客服系统用RAG处理产品FAQ，因为产品信息每周更新；而内部合规问答用微调，因为规则固定。
追问 2：检索到的文档太长怎么办？如何控制上下文长度？
常见解法是Chunking策略：将文档切分成固定长度（如512 tokens）的片段，并保留重叠（overlap=50 tokens）避免信息断裂。然后使用FiD（Fusion-in-Decoder）：将每个检索片段独立编码，再在解码时融合，避免长上下文导致注意力分散。工程坑：切分太细（如128 tokens）会丢失上下文，太粗（如2048 tokens）会超出LLM窗口。经验值：对BERT类模型用256 tokens，对GPT-4用1024 tokens。如果仍超长，用Reranker只保留Top-3片段。
追问 3：如何评估RAG系统的质量？有什么指标？
分两部分：检索质量和生成质量。检索质量用Recall@K（Top-K中相关文档比例）和MRR（第一个相关文档的排名倒数）；生成质量用F1/EM（精确匹配）和Faithfulness（生成内容是否忠实于检索文档）。实际落地中，一个关键指标是幻觉率：人工标注生成中与检索文档矛盾的比例。优化目标：在Recall@5达到90%以上时，再优化生成质量，否则检索是瓶颈。
5️⃣ 避坑 · 常见错误答法
- ❌ 说“RAG就是检索+生成，很简单” → ✅ 正确切入：强调检索质量是瓶颈，需要Reranker、阈值过滤、HyDE等优化，否则RAG可能比纯生成更差。
- ❌ 说“RAG能完全消除幻觉” → ✅ 正确切入：RAG只能减少幻觉，不能消除，因为检索文档本身可能有噪声，且模型可能忽略上下文。需要设计Faithfulness评估和回退机制。
- ❌ 说“RAG只适用于问答系统” → ✅ 正确切入：RAG也适用于摘要、代码生成（检索API文档）、对话系统（检索历史对话），但需要调整检索策略（如代码用BM25+关键词匹配）。
6️⃣ 简历呼应
- 如果你有RAG项目：从“检索质量优化”角度切入，比如你用了HyDE提升召回率，或设计了Reranker过滤噪声，并给出具体指标提升（如Recall@5从70%到85%）。
- 如果你只做过传统NLP：用“信息检索+生成”类比迁移，比如你做过BM25的文本匹配，可以强调对检索算法的理解（如TF-IDF vs Dense Retrieval的取舍），并说明如何迁移到RAG。
- 如果你是校招无项目：聚焦论文复现，比如你读过《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》，可以详细描述FiD的架构和实验设置，展示理论深度。
- 《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》（Lewis et al., 2020）
- 《REALM: Retrieval-Augmented Language Model Pre-Training》（Guu et al., 2020）
- 《HyDE: Precise Zero-Shot Dense Retrieval without Relevance Labels》（Gao et al., 2022）
- 《Fusion-in-Decoder: Leveraging Passage Retrieval for Generative Question Answering》（Izacard & Grave, 2021）
- FAISS官方文档：高效向量检索库（Meta开源）