为什么需要模型微调
1️⃣ 考察意图
面试官想考察你对“预训练-微调”范式的本质理解，而非背诵概念。核心是：为什么不能直接用预训练模型做推理？ 这背后涉及数据分布差异、任务适配性、计算资源权衡三个层面。刁钻点在于：候选人常混淆“微调”与“特征提取”（如用BERT做分类时只训练顶层），或忽略PEFT（LoRA/Adapter）的工程价值。答好了能展示你对模型泛化与特化的辩证理解，以及在实际部署中平衡效果与成本的决策能力。
2️⃣ 标准答
核心动机：预训练模型是“通才”，不是“专才”
预训练模型（如BERT、GPT-4）在通用语料（维基百科、书籍、网页）上训练，学习的是语言统计规律。但下游任务（如医疗NER、客服情感分类）的数据分布、标签空间、任务目标完全不同。直接零样本推理，效果往往差于随机基线——例如BERT在SST-2情感分类上零样本F1仅约50%，微调后可达93%+。
为什么不能只训练顶层？
- 特征提取（Feature Extraction）：冻结预训练参数，只训练分类头。适用于数据量极小（<100条）且任务与预训练数据高度相似（如通用情感分析）。但缺点是：底层特征可能不包含任务关键信息（如医疗术语的语义差异）。
- 全量微调（Full Fine-tuning）：更新所有参数，让模型“忘记”通用知识，专注任务。代价是：① 计算成本高（7B模型全量微调需8×A100 80G）；② 容易过拟合（小数据集下验证集loss不降反升）；③ 灾难性遗忘（在任务A上微调后，在任务B上性能下降）。
工程取舍：全量微调 vs PEFT
- 全量微调：适合大数据集（>10万条）且资源充足。例如在GLUE的MNLI任务上，全量微调RoBERTa-large需4小时（4×V100），F1达90.2%。但若数据只有1万条，全量微调后验证集F1反而比PEFT低2-3个点——因为模型记住了噪声。
- PEFT（LoRA/Adapter）：仅更新少量参数（如LoRA秩r=8，参数量仅为0.1%）。优势：① 训练速度提升3-5倍（7B模型用LoRA可在单卡A100上跑）；② 避免灾难性遗忘（基础权重不变，可同时服务多个LoRA模块）；③ 小数据集下更鲁棒（正则化效应）。实际落地坑：LoRA的秩r选择——r=8在代码生成任务上效果接近全量微调，但r=64可能过拟合；需在验证集上做超参搜索。
实际落地的坑 + 解法
- 坑1：数据量不足时，微调后模型“死记硬背”。例如用1000条客服对话微调GPT-2，模型学会重复模板而非泛化。解法：① 使用PEFT（LoRA）并加入dropout（0.1）；② 混合通用语料（如10%预训练数据）防止遗忘。
- 坑2：多任务微调导致任务间干扰。例如同时微调NER和情感分类，共享底层参数后NER精度下降5%。解法：使用Adapter（每个任务独立模块）或LoRA（每个任务独立低秩矩阵），推理时动态加载。
- 坑3：微调后推理速度变慢。全量微调后模型大小不变，但PEFT需额外计算低秩矩阵乘法。解法：推理前将LoRA权重合并回主权重（merge_and_unload），消除额外开销。
评估指标：如何验证微调必要性
- 对比零样本、特征提取、PEFT、全量微调在验证集上的F1/准确率。例如在SQuAD 2.0上，零样本EM=0，特征提取EM=45%，LoRA微调EM=78%，全量微调EM=82%。若PEFT与全量微调差距<2%，优先选PEFT。
- 监控训练损失曲线：若验证损失在3个epoch后不降反升，说明过拟合，需降低学习率（1e-5→5e-6）或使用早停。
总结：微调是预训练模型落地的必要步骤，但需根据数据量、计算资源、任务数量选择策略。全量微调适合大数据+单任务，PEFT适合小数据+多任务。核心原则：用最小的参数变动，换取最大的任务适配。
3️⃣ 答题模板（30 秒电梯版）
“这个问题我从三个层面回答：第一，预训练模型是通用语言模型，下游任务数据分布不同，直接推理效果差；第二，全量微调计算成本高且易过拟合，PEFT（如LoRA）在小数据下更鲁棒；第三，实际落地需权衡——大数据+单任务用全量微调，小数据+多任务用LoRA/Adapter。总结一句：微调是必要的，但策略选择比‘要不要微调’更重要。”
4️⃣ 高频追问 & 应对
追问 1：LoRA的秩r怎么选？为什么r=8比r=64好？
秩r控制低秩矩阵的容量。r=8时参数量约0.1%，适合小数据（<1万条），因为模型不会过拟合噪声；r=64时参数量约0.8%，在大数据（>10万条）下可能捕捉更多任务特征，但小数据下验证集F1反而低2-3个点。实际经验：从r=8开始，在验证集上做网格搜索（8,16,32,64），选择验证损失最低的。若r=8与r=64差距<1%，选r=8以节省存储（多个LoRA模块可同时服务）。
追问 2：微调后模型在原始预训练任务上性能下降怎么办？
这是灾难性遗忘问题。解法：① 使用EWC（Elastic Weight Consolidation）在损失函数中加入KL散度惩罚，约束参数变化；② 混合训练：每次batch中混入20%预训练数据（如C4数据集），保持通用能力；③ 使用Adapter：只更新Adapter层，基础权重不变，推理时加载原始权重即可恢复。实际工程中，推荐方案②，因为EWC需要计算Fisher信息矩阵，计算开销大。
追问 3：微调时学习率怎么设？为什么比预训练小？
预训练学习率通常1e-4到5e-5（如BERT），微调时需降至2e-5到5e-6。原因：预训练参数已接近最优，大学习率会破坏已有特征（如词向量方向偏移）。实际策略：使用余弦退火调度，初始学习率5e-5，在10%步数内线性预热，然后衰减到0。若验证损失震荡，降低学习率至1e-5并增加warmup步数。
5️⃣ 避坑 · 常见错误答法
- ❌ “微调就是重新训练整个模型，效果一定比零样本好。” → ✅ “微调不一定更好：小数据下全量微调易过拟合，PEFT或特征提取可能更优；且需评估计算成本与效果权衡。”
- ❌ “LoRA是万能的，任何场景都用LoRA。” → ✅ “LoRA在代码生成、数学推理等需要大量新知识的任务上，效果可能不如全量微调（差距>5%），此时需用全量微调或QLoRA（4-bit量化+LoRA）。”
- ❌ “微调后模型参数变了，需要重新部署整个模型。” → ✅ “PEFT（LoRA/Adapter）可独立保存权重文件（仅几MB），推理时动态加载，无需替换基础模型；全量微调后也可用模型蒸馏压缩。”
6️⃣ 简历呼应
- 如果你有RAG项目：从“微调检索器 vs 微调生成器”切入——例如用LoRA微调BGE embedding模型提升领域检索精度，对比全量微调的成本（训练时间从2天降到4小时）。
- 如果你只做过传统NLP：用“特征工程 vs 微调”类比——传统NLP中需手动设计特征（如TF-IDF、词性标注），微调相当于让模型自动学习任务相关特征，但需防止过拟合（类似正则化）。
- 如果你是校招无项目：聚焦“BERT微调实验”——在SST-2上复现零样本、特征提取、LoRA微调、全量微调，对比F1和训练时间，输出实验报告（可附GitHub链接）。
- 《LoRA: Low-Rank Adaptation of Large Language Models》—— 理解低秩矩阵原理与秩选择
- 《AdapterFusion: Non-Destructive Task Composition for Transfer Learning》—— 多任务微调方案
- 《Scaling Down: Pruning and Fine-tuning for Efficient LLMs》—— 微调与模型压缩结合
- 《QLoRA: Efficient Finetuning of Quantized Language Models》—— 4-bit量化+LoRA的工程实践
- 《The Power of Scale for Parameter-Efficient Prompt Tuning》—— 对比PEFT与全量微调的实验分析