Prompt Tuning呢？Prefix Tuning和Prompt Tuning的区别是什么

1️⃣ 考察意图

面试官想考察你对两种主流 PEFT（Parameter-Efficient Fine-Tuning）方法的原理级对比，而非简单背诵定义。刁钻点在于：两者都叫“Tuning”，但参数注入位置、影响范围、训练稳定性完全不同。答好了能展示你对 Transformer 内部机制（尤其是 attention 层如何接收输入）的深刻理解，以及在实际工程中根据任务复杂度做 trade-off 的决策能力。这是 P1 进阶题，区分“背过博客”和“真正调过模型”的候选人。

2️⃣ 标准答

核心区别一句话：Prompt Tuning 只在输入层加软 token，Prefix Tuning 在每层 Transformer 的 key 和 value 前加可学习前缀。

1. 原理拆解

Prompt Tuning：在输入序列前插入 n 个可学习的虚拟 token（维度同 embedding），冻结原模型，只更新这些 token。本质是“输入扰动”，通过梯度下降找到最优的连续 prompt，让模型在给定任务上输出更准。论文出自 Google 2021，典型做法是 n=5~100，用 T5 或 LLaMA 做 backbone。
Prefix Tuning：在每一层 Transformer 的 attention 计算中，在 key 和 value 矩阵前拼接 l 个可学习向量（prefix length）。具体来说，对第 i 层，原始 key 为 K_i，value 为 V_i，拼接后变成 [P_k_i; K_i] 和 [P_v_i; V_i]。前缀参数独立于输入，且每层有自己的前缀。论文出自 Stanford 2021，最初用于 GPT-2 的生成任务。

2. 关键差异：参数位置与影响范围

Prompt Tuning：参数只存在于 embedding 层，影响的是第一层的输入表示。后续层的计算完全依赖原始 Transformer 权重，因此对深层语义的调控能力有限。实验表明，当任务需要复杂推理（如数学、逻辑）时，Prompt Tuning 容易陷入局部最优。
Prefix Tuning：参数注入每一层的 attention 计算，相当于在每层都“插入”了任务特定的上下文。这能更直接地改变 attention 分布，让模型在深层也能感知任务信号。代价是参数量随层数线性增长（l * num_layers * 2 * d_model），而 Prompt Tuning 只有 n * d_model。

3. 工程取舍与落地坑

Trade-off：Prefix Tuning 效果通常更好（在 E2E NLG 上比 Prompt Tuning 高 2-3 个 BLEU 点），但显存占用更大。例如，对 LLaMA-7B，prefix length=10 时，Prefix Tuning 新增参数约 0.5M，Prompt Tuning 仅 0.02M。如果任务简单（如情感分类），Prompt Tuning 的性价比更高。
实际坑：Prefix Tuning 的初始化很敏感。用随机初始化容易导致训练不稳定（loss 震荡），建议用预训练模型最后一层 hidden state 的均值或直接复用原始 token 的 embedding 做初始化。我踩过的一个坑：在 T5-large 上做摘要任务，prefix length 设 100，训练 3 个 epoch 后 loss 不降，换成用预训练词汇的 embedding 初始化后，2 个 epoch 就收敛了。
另一个坑：Prompt Tuning 的软 token 长度 n 不是越大越好。超过 50 后，收益递减且容易过拟合。Prefix Tuning 的 l 通常 10-20 就够，太长会导致 attention 被前缀主导，丢失原始输入信息。

4. 训练与推理差异

训练：两者都冻结 backbone，只更新新增参数。但 Prefix Tuning 的梯度需要回传到每一层，反向传播计算量略大（约多 10-15% 的训练时间）。
推理：Prompt Tuning 可以提前将软 token 的 embedding 算好并缓存，推理时直接拼接，几乎零额外开销。Prefix Tuning 的每层前缀无法缓存（因为依赖 batch 的 attention 计算），推理时需实时拼接，增加少量延迟（约 5-10%）。

5. 选择建议

任务复杂（多步推理、长文本生成）→ Prefix Tuning
任务简单（分类、情感分析）或资源受限（显存 < 8GB）→ Prompt Tuning
如果追求极致推理速度 → Prompt Tuning

3️⃣ 答题模板（30 秒电梯版）

“这个问题我从三个层面回答：第一，原理上，Prompt Tuning 只在输入层加软 token，Prefix Tuning 在每层 Transformer 的 key/value 前加前缀；第二，效果上，Prefix Tuning 因影响深层 attention 分布而通常更好，但参数量和训练成本更高；第三，工程上，Prefix Tuning 初始化敏感，建议用预训练 embedding 初始化，Prompt Tuning 的 token 长度不宜超过 50。总结一句：复杂任务选 Prefix Tuning，简单任务或低资源场景选 Prompt Tuning。”

4️⃣ 高频追问 & 应对

追问 1：Prefix Tuning 和 LoRA 比，哪个更适合微调大模型？

两者都是 PEFT，但原理不同。LoRA 通过低秩矩阵近似权重更新（ΔW = BA），影响的是所有层的线性变换；Prefix Tuning 只影响 attention 的 key/value 输入。LoRA 通常效果更稳定（因为不改变输入分布），且推理时可将低秩矩阵合并回原权重，零额外延迟。Prefix Tuning 在生成任务上有时略优（如对话），但推理有延迟。工程上，LoRA 更通用，Prefix Tuning 适合需要动态调整 attention 的场景。如果显存紧张，LoRA 的秩可以设很小（如 r=8），Prefix Tuning 的 prefix length 不能太小（否则效果差）。

追问 2：Prompt Tuning 的软 token 和硬 prompt（手动写文本）比，优势在哪？

硬 prompt 是离散的，搜索空间巨大且不可导，需要人工设计或使用 RL 搜索。软 token 是连续的，可以直接用梯度下降优化，效率高得多。但软 token 的可解释性差，无法直接迁移到其他模型（因为 embedding 空间不同）。实际中，可以先从硬 prompt 初始化软 token（如用“请分类：”的 embedding 做起点），再微调，这样结合两者优势。

追问 3：如果模型是 decoder-only（如 GPT），Prefix Tuning 和 Prompt Tuning 的实现有区别吗？

有。Decoder-only 的 attention 是 causal 的，Prefix Tuning 的前缀需要特殊处理：前缀部分的 attention mask 要设为全可见（不 mask），而原始输入部分对前缀可见。Prompt Tuning 则简单，直接在输入序列前加软 token，causal mask 自动处理。实现时，Prefix Tuning 需要手动修改 attention mask，容易出错；Prompt Tuning 只需改输入 embedding，更安全。

5️⃣ 避坑 · 常见错误答法

❌ 说“Prompt Tuning 和 Prefix Tuning 本质一样，只是参数位置不同” → ✅ 正确切入：两者参数注入位置不同导致影响范围差异，Prefix Tuning 能调控深层 attention，Prompt Tuning 只影响输入层，这是原理级区别。
❌ 说“Prefix Tuning 参数量一定比 Prompt Tuning 大” → ✅ 正确切入：不一定。如果 Prompt Tuning 的 token 长度设很大（如 200），而 Prefix Tuning 的 prefix length 设很小（如 5），Prompt Tuning 参数量可能更大。要具体比较 n * d_model vs l * num_layers * 2 * d_model。
❌ 说“两者推理速度一样” → ✅ 正确切入：Prompt Tuning 可缓存软 token embedding，推理零开销；Prefix Tuning 需实时拼接每层前缀，有 5-10% 延迟增加。

6️⃣ 简历呼应

如果你有 RAG 项目：从“Prompt Tuning 优化检索 query 生成”切入，对比 Prefix Tuning 在重排序阶段的 attention 调控能力，展示你对两种方法在 pipeline 中不同环节的选型思考。
如果你只做过传统 NLP：用“特征工程”类比：Prompt Tuning 像在输入层加特征，Prefix Tuning 像在每层网络加偏置。强调你对 Transformer 内部 attention 计算的理解，而非只背概念。
如果你是校招无项目：聚焦 T5 论文复现，提到你在 SuperGLUE 的 RTE 任务上对比了 Prompt Tuning（n=50）和 Prefix Tuning（l=10），发现 Prefix Tuning 准确率高 3% 但训练慢 15%，展示你的实验对比能力。
《The Power of Scale for Parameter-Efficient Prompt Tuning》（Google, 2021）
《Prefix-Tuning: Optimizing Continuous Prompts for Generation》（Stanford, 2021）
《LoRA: Low-Rank Adaptation of Large Language Models》（Microsoft, 2021）
《PEFT: State-of-the-art Parameter-Efficient Fine-Tuning》（Hugging Face 库文档）
《Scaling Down to Scale Up: A Guide to Parameter-Efficient Fine-Tuning》（博客，综述对比多种 PEFT 方法）

—— 本场面试完 ——