2 为什么很多 RAG 系统要求模型“只基于提供材料作答”
P1 · rag
🏷 标签：rag, prompt-engineering, hallucination, constraint
1️⃣ 考察意图
面试官想看你是否理解 RAG 系统“约束模型行为”背后的工程动机，而非背诵“防止幻觉”这种表面答案。核心考察点：你是否能区分“模型知识”与“检索上下文”的冲突场景，并解释为什么在知识密集型任务（如法律、医疗）中，允许模型调用预训练知识反而会引入不可追溯的幻觉。刁钻点在于：约束不是万能的，它牺牲了回答的流畅性和完整性，你需要展示对 prompt 工程中“约束强度”与“生成质量”之间 trade-off 的掌控力。答好了能展示你对 RAG 系统端到端设计的系统性思考，包括检索质量、prompt 设计、评估指标。
2️⃣ 标准答
核心原因：切断模型对预训练知识的依赖，确保回答可追溯、可验证。
- 幻觉源头：LLM 的预训练知识是静态的、有偏的（例如 GPT-4 的知识截止于 2023 年），而 RAG 的检索上下文是动态的、领域特定的。如果不加约束，模型会优先调用其“最熟悉”的预训练知识，而非检索到的材料，导致回答与材料矛盾，且无法定位错误来源。例如，在金融财报问答中，模型可能用 2022 年的行业常识回答 2024 年的具体数据，产生“时间错位幻觉”。
- 可验证性：约束后，用户或下游系统可以回溯到具体文档片段（chunk），进行事实核查。这是 RAG 相比纯 LLM 的核心优势——可解释性。在合规场景（如医疗诊断、法律合同审查），这是硬性要求。
工程取舍：约束强度 vs. 生成质量
- 严格约束的代价：如果 prompt 写“仅基于以下材料，不要使用任何外部知识”，模型在材料不足时会直接拒绝回答或生成“无法从给定材料中找到答案”这类低质量回复。这在用户期望“合理推断”的场景（如客服问答）中会降低满意度。
- 平衡方案：采用“软约束” + “置信度标注”。例如，在 system prompt 中写：“优先使用材料中的信息作答；如果材料不足，可以结合你的知识进行合理推断，但必须在回答末尾用 [Inferred] 标注推断部分。” 这样既保证了核心事实的可追溯，又保留了模型的生成能力。具体实现上，可以在 user prompt 中动态插入检索到的 chunk，并附上 chunk 的元数据（如来源、时间戳），让模型知道哪些是“可信材料”。
实际落地的坑与解法
- 坑 1：检索质量差导致约束失效。如果检索到的 chunk 本身是噪音（如不相关、重复、错误），模型被迫“只基于材料”反而会生成错误答案。解法：在检索阶段引入 HyDE（假设文档嵌入） 或 Cohere Rerank 对检索结果进行二次过滤，确保 top-k 的 chunk 与 query 语义相关。同时，在 prompt 中加入“如果材料与问题无关，请明确说明”的指令。
- 坑 2：模型对“只基于”指令的理解不一致。不同模型（如 GPT-4 vs. Llama-3）对约束 prompt 的服从度不同。解法：使用 few-shot 示例 强化约束。例如，在 system prompt 中给一个正例：“材料：苹果公司 2023 年营收为 3833 亿美元。问题：苹果 2023 年营收是多少？回答：3833 亿美元。” 再给一个反例：“材料：未提及。问题：苹果 2023 年营收是多少？回答：无法从材料中获取。” 这比单纯写“只基于材料”有效得多。
- 坑 3：长上下文中的“注意力稀释”。当检索到的 chunk 数量多（如 10 个以上），模型可能忽略部分材料，转而依赖自己的知识。解法：在 prompt 中显式要求模型“逐段引用”，例如“请用 [1]、[2] 等编号引用材料中的具体句子”，并配合 FlashAttention 优化长上下文处理。
3️⃣ 答题模板（30 秒电梯版）
“这个问题我从三个层面回答：第一，核心原因是为了防止模型依赖预训练知识产生不可追溯的幻觉，确保回答可验证，这在法律、医疗等合规场景是硬性要求。第二，工程取舍在于约束强度——严格约束会牺牲流畅性，我通常采用‘软约束 + 置信度标注’来平衡。第三，实际落地有三个坑：检索质量差导致约束失效、模型对指令理解不一致、长上下文注意力稀释，分别用 HyDE/Rerank、few-shot 示例、显式引用编号来应对。总结一句：约束不是目的，可追溯的准确性才是。”
4️⃣ 高频追问 & 应对
追问 1：如果用户问的问题在材料中完全没有，但模型知道正确答案，你让模型回答“不知道”还是用知识回答？
这取决于场景。如果是医疗诊断，必须回答“不知道”，因为错误推断可能导致生命危险。如果是客服问答，可以回答，但必须标注推断来源。具体做法：在 prompt 中设定一个“置信度阈值”——如果检索到的 top-1 chunk 的相似度分数低于 0.6（基于 embedding 模型如 text-embedding-3-small 的余弦相似度），则触发“知识补充”模式，并在回答末尾用 [Inferred] 标注。同时，在评估指标中引入“推断率”和“准确率”的联合监控，避免模型过度推断。
追问 2：你如何评估“只基于材料”这个约束是否生效？有没有量化指标？
有。核心指标是“引用准确率”（Citation Accuracy）和“幻觉率”。具体做法：构建一个测试集，每个 query 对应一个 golden chunk，模型回答中引用的 chunk 必须与 golden 一致。使用 ALCE（Automatic LLM Citation Evaluation） 框架或 SelfCheckGPT 来检测回答是否与材料矛盾。另一个实用指标是“拒绝率”——当材料不足时，模型是否正确地拒绝回答。理想情况下，拒绝率应接近 100%，但需要结合用户满意度做 trade-off。
追问 3：如果模型在长上下文中仍然忽略材料，你怎么调试？
首先检查 prompt 中是否显式要求“逐段引用”。如果已加，问题可能出在检索阶段：chunk 的排序是否合理？使用 Cohere Rerank 或 bge-reranker-v2-m3 对 top-k 结果重排序，确保最相关的 chunk 排在前面。其次，在 prompt 中增加“注意力引导”指令，例如“请先阅读材料 [1] 和 [2]，再回答”。最后，如果模型仍然忽略，考虑使用 In-Context Learning 的示例来强化约束，或者切换到对指令服从度更高的模型（如 GPT-4-turbo 比 Llama-3-70B 更稳定）。
5️⃣ 避坑 · 常见错误答法
- ❌ 答“防止模型幻觉，所以必须约束” → ✅ 答“约束是为了确保可追溯性，但幻觉的根源是模型知识 vs. 检索上下文的冲突，约束只是手段之一，还需要配合检索质量优化和 prompt 设计。”
- ❌ 答“约束越严格越好，这样回答最准确” → ✅ 答“严格约束会降低回答的完整性和流畅性，在客服等场景反而降低用户体验。需要根据场景选择‘软约束 + 置信度标注’或‘硬约束 + 拒绝回答’。”
- ❌ 答“所有 RAG 系统都应该用这个约束” → ✅ 答“不是。在创意写作、头脑风暴等场景，允许模型结合知识反而更好。约束只适用于知识密集型、对事实准确性要求高的场景。”
6️⃣ 简历呼应
- 如果你有 RAG 项目：从“我在金融财报问答系统中设计了对比实验”切入，展示你如何用 HyDE 提升检索质量、用 few-shot 示例强化约束、用 ALCE 评估引用准确率。强调你发现了“约束强度 vs. 用户满意度”的 trade-off，并给出了平衡方案。
- 如果你只做过传统 NLP：用“信息检索中的相关性判断”类比——约束模型就像在 IR 中只返回匹配文档，不进行语义扩展。展示你对“精确匹配 vs. 语义匹配”的理解，并说明如何迁移到 RAG 的 prompt 设计中。
- 如果你是校招无项目：聚焦“论文复现 demo”——复现一篇关于 RAG prompt 约束的论文（如《Lost in the Middle》或《RAG vs. Fine-tuning》），展示你如何用 GPT-4 和 Llama-3 做对比实验，分析不同约束强度下的准确率和流畅性。
- 《Lost in the Middle: How Language Models Use Long Contexts》——分析长上下文中模型对中间位置的注意力稀释问题
- 《RAG vs. Fine-tuning: Pipelines, Tradeoffs, and a Case Study on Agriculture》——对比 RAG 约束与微调的优劣
- 《ALCE: Automatic LLM Citation Evaluation》——评估 RAG 系统引用准确率的框架
- 《HyDE: Precise Zero-Shot Dense Retrieval without Relevance Labels》——解决检索质量差的方案
- 《SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection》——检测模型是否依赖预训练知识产生幻觉