Which scenario do we need to fine-tune LLM
1️⃣ 考察意图
面试官真正想看的不是你会不会微调，而是你能否在工程场景中做出“是否微调”的理性决策。这道题是典型的工程取舍判断，核心考察你能否区分微调、Prompt Engineering、RAG 三者的适用边界。刁钻点在于：很多人一上来就说“微调好”，但实际落地中，微调是成本最高、风险最大的方案。答好了能展示你对模型能力边界、数据效率、部署成本的深刻理解，以及从“能用”到“好用”的工程直觉。
2️⃣ 标准答
判断是否需要微调，核心看三个维度：任务特异性、数据分布偏移、成本收益比。下面按场景拆解。
场景一：任务特异性极高，通用模型无法胜任
- 什么时候做：任务需要模型掌握特定领域的“隐性知识”或“输出格式”，且 Prompt Engineering 无法稳定复现。例如：
- 医疗诊断：需要输出 ICD-10 编码，且对术语精确度要求极高（如“急性心肌梗死”不能写成“心脏病”）。
- 代码生成：需要生成特定公司内部 API 的调用代码，这些 API 不在预训练数据中。
- 法律合同审查：需要识别“赔偿条款”中的陷阱，并输出结构化 JSON（如
{"clause_type": "indemnification", "risk_level": "high"}）。 - 为什么不做 RAG：RAG 能检索外部知识，但无法改变模型的“输出风格”或“推理逻辑”。比如，RAG 可以给模型一段法律文本，但模型可能仍然用“通用语言”总结，而不是用“法律术语”输出。微调能直接调整模型的输出分布。
- 实际落地的坑 + 解法：坑是“数据量不足”。很多人以为 100 条样本就能微调，结果模型过拟合，只会复述训练数据。解法：至少收集 500-1000 条高质量标注数据，并做数据增强（如同义词替换、句式变换）。如果数据量不够，优先用 Few-Shot + 指令模板，而不是微调。
场景二：数据分布偏移严重，预训练知识覆盖不足
- 什么时候做：目标领域与预训练数据差异巨大，且 RAG 无法弥补。例如：
- 企业内部文档：公司有独特的术语（如“项目代号 X-2024”）、缩写（如“KPI 改为 OKR 2.0”）、流程（如“审批需经三级经理”）。
- 新兴领域：比如 2024 年出现的“AI Agent 编排框架”，模型在 2023 年训练时根本没见过。
- 为什么不做 Prompt Engineering：Prompt 只能提供上下文，但无法让模型“记住”新知识。比如，你可以在 Prompt 里写“X-2024 是项目代号”，但模型在长对话中会遗忘，且每次调用都浪费 token。微调能将新知识嵌入模型权重，实现“一次学习，永久使用”。
- 工程取舍：微调 vs. RAG。RAG 的优势是“知识可更新”，但劣势是“延迟高”（检索 + 生成）和“上下文窗口限制”。微调的优势是“推理速度快”（一次前向传播），但劣势是“知识固化”（更新需重新训练）。决策点：如果知识变化频率 > 每月一次，用 RAG；如果知识稳定且需要低延迟（如实时客服），用微调。
场景三：输出格式要求严格，且无法通过规则实现
- 什么时候做：需要模型输出特定结构化数据（如 JSON Schema、Markdown 表格、SQL 查询），且 Few-Shot 无法保证一致性。例如：
- 数据提取：从非结构化文本中提取
{"name": "...", "date": "YYYY-MM-DD", "amount": 123.45}，且日期格式必须严格。 - 代码生成：生成符合公司代码规范的 Python 函数（如必须包含类型注解、docstring）。
- 为什么微调能解决：微调可以“强制”模型学习输出模板。比如，在训练数据中，每条输出都严格遵循 JSON Schema，模型会逐渐学会“先写
{，再写键值对，最后写}”，而不是自由发挥。 - 实际落地的坑 + 解法：坑是“模型过度拟合格式，忽略内容”。比如，模型学会了输出 JSON，但里面的字段值全是训练集中的常见值（如
"amount": 100）。解法：在训练数据中混入 20% 的“格式正确但内容随机”的样本，强制模型关注内容而非格式。
场景四：成本权衡——微调是最后手段
- 什么时候做：当 Prompt Engineering 和 RAG 都试过，且效果不达标时。具体判断标准：
- Prompt Engineering 失败：尝试了 10 种以上 Prompt 模板（如角色扮演、Chain-of-Thought、Few-Shot），准确率仍低于 80%。
- RAG 失败：检索到的文档相关度 > 0.8，但模型仍然输出错误答案（说明模型“看不懂”或“不信任”检索结果）。
- 成本计算：微调成本 = 数据标注（人力成本） + 训练（GPU 成本） + 部署（模型存储 + 推理成本）。如果任务只有 100 次/天的调用量，微调可能不划算；如果任务有 10 万次/天的调用量，微调能显著降低每次调用的 token 消耗（因为 Prompt 更短）。
- 总结一句：微调不是银弹，而是“当其他方法都失败时，用成本换效果”的工程决策。
3️⃣ 答题模板（30 秒电梯版）
“这个问题我从三个层面判断：第一，任务特异性——如果通用模型无法满足特定输出格式或领域知识，且 Prompt Engineering 无法稳定复现，考虑微调；第二，数据分布偏移——如果目标领域与预训练数据差异大，且 RAG 无法弥补，微调能嵌入新知识；第三，成本权衡——当 Prompt 和 RAG 都试过且效果不达标，且任务调用量足够大时，微调才值得投入。总结一句：微调是最后手段，优先用 Prompt 和 RAG，只有它们失败时才考虑。”
4️⃣ 高频追问 & 应对
追问 1：你说微调能嵌入新知识，那和 RAG 比，哪个更可靠？
两者各有优劣。RAG 的可靠性取决于检索质量：如果检索到的文档不相关，模型会“幻觉”。微调的可靠性取决于数据质量：如果训练数据有噪声，模型会“记住错误”。工程上，我通常用“混合方案”：先用 RAG 做知识检索，再对检索结果做微调后的“格式修正”。比如，在客服场景中，RAG 检索 FAQ，微调模型负责将 FAQ 内容转化为标准回复模板。这样既保证了知识实时性，又保证了输出一致性。
追问 2：如果只有 200 条数据，你还会微调吗？
不会。200 条数据微调大概率过拟合。我会优先用 Few-Shot + 数据增强：将 200 条数据扩展到 2000 条（如同义词替换、句式变换），然后做 LoRA 微调（只更新 0.1% 的参数）。如果效果仍不达标，我会考虑“蒸馏”：用 GPT-4 生成 5000 条合成数据，再微调小模型（如 Llama-3-8B）。核心原则：数据量 < 500 条时，不要全参数微调。
追问 3：微调后模型在通用任务上变差了，怎么办？
这是“灾难性遗忘”问题。解法：1）在微调数据中混入 10%-20% 的通用任务数据（如 MMLU 子集），保持通用能力；2）使用 LoRA 等参数高效微调方法，只更新少量参数，减少对原始权重的破坏；3）微调后做“模型合并”：将微调后的 LoRA 权重与原始模型按比例混合（如 0.7 原始 + 0.3 微调）。如果遗忘严重，说明微调数据量过大或学习率过高，需要回退。
5️⃣ 避坑 · 常见错误答法
- ❌ “只要任务复杂，就应该微调。” → ✅ “先评估 Prompt Engineering 和 RAG 能否解决。微调是成本最高的方案，只有前两者失败时才考虑。”
- ❌ “微调能让模型学会新知识。” → ✅ “微调只能让模型‘记住’训练数据中的模式，无法真正‘理解’新知识。如果知识需要频繁更新，用 RAG 更合适。”
- ❌ “微调数据越多越好。” → ✅ “数据质量比数量重要。1000 条高质量数据（人工标注 + 校验）远好于 10000 条自动爬取的低质量数据。低质量数据会导致模型‘学坏’。”
6️⃣ 简历呼应
- 如果你有 RAG 项目：从“RAG 与微调的边界”切入。例如：“在客服项目中，我对比了 RAG + Prompt 和微调的效果，发现当检索文档相关度 > 0.9 时，RAG 准确率 85%，微调 92%，但微调成本高 3 倍。最终选择 RAG + 后处理规则，平衡了效果和成本。”
- 如果你只做过传统 NLP：用“分类模型 vs. 生成模型”类比。例如：“传统 NLP 中，微调类似‘在预训练词向量上训练分类器’，而 Prompt Engineering 类似‘手工设计特征’。微调适合任务特异性高的场景，如情感分析中的特定领域术语。”
- 如果你是校招无项目：聚焦“论文复现 + 实验设计”。例如：“我复现了 LoRA 论文，在 Alpaca 数据集上微调 Llama-2-7B，发现 1000 条数据微调后，指令遵循能力提升 15%，但通用问答能力下降 5%。这让我理解了微调的 trade-off。”
- LoRA: Low-Rank Adaptation of Large Language Models (Hu et al., 2021)
- QLoRA: Efficient Finetuning of Quantized Language Models (Dettmers et al., 2023)
- RAG vs. Fine-tuning: Pipelines, Tradeoffs, and a Case Study on Agriculture (Lewis et al., 2020)
- The Power of Scale for Parameter-Efficient Prompt Tuning (Lester et al., 2021)
- 博客：Hugging Face PEFT 库文档 - 参数高效微调实战指南