| Q99 | What are the limitations of fine-tuning compared to RAG
P1 · rag
🏷 标签：fine-tuning, limitations, knowledge-update, data-requirement
1️⃣ 考察意图
面试官想考察你是否真正理解两种技术路线的本质差异，而非死记硬背“RAG好、微调差”。刁钻点在于：微调不是“不能做知识更新”，而是“成本与风险不成正比”。答好了能展示你对模型训练、数据工程和系统设计的硬实力——知道什么时候该用微调，什么时候该用RAG，以及两者如何互补。考察类型：工程取舍+系统设计。
2️⃣ 标准答
微调相对于RAG的局限性，核心在于静态知识、高数据成本、灾难性遗忘和资源消耗四个维度。下面逐一拆解，附带工程取舍和实战坑。
- 知识静态与更新成本微调后模型知识固化在权重中，无法实时更新。例如，一个基于2023年数据微调的客服模型，无法回答2024年新政策问题，除非重新训练。工程取舍：全量微调（Full Fine-tuning）更新知识需要重新跑完整训练流程，耗时数天到数周；而RAG只需更新向量数据库索引，分钟级完成。实战坑：有人尝试用LoRA（Low-Rank Adaptation）做增量更新，但LoRA只调整低秩矩阵，无法注入全新知识（如新实体关系），导致模型在未见数据上依然“胡编”。解法是混合策略：用RAG处理实时知识，微调只优化模型风格或指令遵循能力。
- 数据需求与标注成本微调需要大量高质量、领域对齐的标注数据。例如，微调一个法律问答模型，至少需要10万条（问题-答案）对，每条由律师标注，成本约5-10元/条，总成本50-100万。工程取舍：RAG可以零样本工作，只需文档库和检索器（如BM25或DPR），无需标注数据。但RAG的检索质量依赖文档质量，若文档噪声大（如OCR错误），回答准确率会下降。实战坑：有人用合成数据（GPT-4生成）替代人工标注，但合成数据存在分布偏移（distribution shift），导致微调模型在真实场景中过拟合于合成模式。解法是先用RAG做基线，再针对高频错误场景收集少量（500-1000条）人工数据做微调。
- 灾难性遗忘微调新任务时，模型可能遗忘预训练知识。例如，微调一个通用模型做医疗问答，如果只给医疗数据，模型可能忘记如何回答“天气怎么样”这种常识问题。工程取舍：使用经验回放（Experience Replay）或EWC（Elastic Weight Consolidation）可以缓解，但会牺牲新任务性能（通常下降5-10%）。RAG没有遗忘问题，因为模型参数不变，知识全在外部索引中。实战坑：有人用多任务微调（Multi-task Fine-tuning）混合旧数据，但数据比例难调——旧数据占比过高，新任务学不好；占比过低，遗忘严重。解法是采用Adapter Tuning（如LoRA），只调整少量参数，保留大部分预训练权重。
- 计算资源与部署成本全量微调一个7B模型需要4张A100（80GB）训练数天，成本约2-3万元/次。而RAG只需一个推理服务（如vLLM）加一个向量数据库（如Milvus），部署成本低一个数量级。工程取舍：微调后的模型推理更快（单次前向传播），但更新成本高；RAG推理慢（需检索+生成），但更新成本低。实战坑：有人试图用蒸馏（Knowledge Distillation）压缩微调模型，但蒸馏后模型在长尾知识上表现差。解法是RAG+微调混合：用微调优化模型对检索结果的利用能力（如训练一个reranker），而非直接注入知识。
总结：微调适合知识稳定、数据充足、对延迟敏感的场景（如垂直领域对话）；RAG适合知识频繁更新、数据稀缺、对准确性要求高的场景（如实时问答）。两者不是替代关系，而是互补。
3️⃣ 答题模板（30 秒电梯版）
“这个问题我从知识更新、数据成本和模型稳定性三个层面回答。知识更新上，微调是静态的，需重新训练，而RAG只需更新索引；数据成本上，微调需要大量标注数据，RAG可以零样本工作；模型稳定性上，微调有灾难性遗忘风险，RAG没有。总结一句：微调适合知识稳定、数据充足的场景，RAG适合知识动态、数据稀缺的场景，两者应混合使用。”
4️⃣ 高频追问 & 应对
追问 1：你说微调有灾难性遗忘，那LoRA能解决吗？
LoRA只能部分缓解，不能根治。LoRA通过低秩矩阵限制参数更新量（通常只更新0.1-1%的参数），减少了遗忘，但代价是新任务学习能力受限。例如，用LoRA微调一个7B模型做代码生成，如果新任务与预训练分布差异大（如从Python到Verilog），LoRA可能学不到关键模式。实战中，我会用LoRA+经验回放：保留10%的旧任务数据混合训练，遗忘率从30%降到5%，但训练时间增加20%。
追问 2：RAG的检索质量差怎么办？比如文档噪声大。
分三步解决。第一，文档预处理：用OCR校正（如Tesseract+后处理规则）和段落去重（MinHash LSH），将噪声降低50%。第二，检索优化：用混合检索（BM25+密集检索），BM25处理关键词匹配，密集检索（如DPR）处理语义匹配，再用交叉编码器（如ColBERT-v2）做rerank，Top-1准确率从60%提升到85%。第三，生成侧兜底：在prompt中加“如果检索结果不相关，请说‘我不知道’”，避免模型胡编。
追问 3：微调和RAG能结合吗？具体怎么设计？
可以，典型架构是“RAG为主，微调为辅”。具体设计：1）用RAG处理所有实时知识查询，检索Top-5文档，拼接成prompt输入LLM。2）用微调（LoRA）优化LLM的指令遵循能力和输出格式，比如训练模型只输出JSON格式，或优先引用检索结果。3）对于高频错误（如模型忽略检索结果），收集1000条bad case，用偏好优化（如DPO）微调，让模型学会“检索结果优先”。这个架构在知识更新场景下，准确率比纯微调高15%，成本低80%。
5️⃣ 避坑 · 常见错误答法
- ❌ “微调完全不能做知识更新，RAG才是唯一解。”→ ✅ 微调可以做知识更新，但成本高、风险大（遗忘）。正确切入：微调适合知识稳定场景，RAG适合动态场景，两者互补。
- ❌ “微调需要大量数据，RAG不需要数据。”→ ✅ RAG需要高质量文档库，文档质量直接影响检索效果。正确切入：RAG是零样本，但文档预处理和检索优化是关键。
- ❌ “LoRA能完美解决灾难性遗忘。”→ ✅ LoRA只能缓解，不能根治，且新任务学习能力受限。正确切入：LoRA+经验回放或混合微调才是实战方案。
6️⃣ 简历呼应
- 如果你有RAG项目：从知识更新成本切入，对比你项目中RAG的索引更新（分钟级）与微调重新训练（天级）的差异，强调你选择了RAG是因为业务需求（如每日更新政策文档）。
- 如果你只做过传统NLP：用“模型微调 vs 外部知识库”类比，比如你之前做情感分析时，微调模型无法处理新词（如“yyds”），而RAG可以动态检索词典。强调你理解两种路线的本质区别。
- 如果你是校招无项目：聚焦论文复现，比如你读过《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》，能解释为什么RAG在知识密集型任务上优于微调。强调你对trade-off的理解。
- 《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》 (Lewis et al., 2020)
- 《LoRA: Low-Rank Adaptation of Large Language Models》 (Hu et al., 2021)
- 《Catastrophic Forgetting in Continual Learning: A Comprehensive Survey》 (De Lange et al., 2021)
- 《ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT》 (Khattab & Zaharia, 2020)
- 《DPO: Direct Preference Optimization for Language Model Alignment》 (Rafailov et al., 2023)