先这样答
Embedding 微调不是默认项，决策顺序是：先用通用 embedding 加检索策略优化（查询改写、混合检索、重排）打样；当评测显示瓶颈确实在「向量排序本身」——领域术语、缩写、同义改写召回差，换更大的通用模型也救不了——才值得微调。它是整条检索链路里最贵的一味药，前面几层没做好就上微调，多半白花训练成本。
微调的训练数据是「查询、正样本、负样本」三元组。正样本来自真实命中文档或人工标注；负样本的质量决定成败：随机采的负例太容易区分，模型学不到东西，要用硬负例：检索结果里排在前、看似相关实际不相关的文档，专治模型混淆的边界。数据量级没有标准答案，几千条起是常见的经验说法，核心不是条数而是覆盖真实查询的分布。训练完必须在同一套检索评测上对比基线：召回率、排序指标涨了才算成功，同时防灾难性遗忘——微调后在通用查询上变差，通常混入一部分通用数据一起训练来缓解。
面试官会怎么追问
- 「没有标注数据怎么办？」 两条路凑：用大模型从文档合成「可能的查询-文档对」，再用真实查询日志的点击行为和硬负例挖掘补分布。合成对必须人工抽检，合成数据的偏差会原样进模型。
- 「微调 embedding 和加 rerank 怎么选？」 rerank 上线快、按查询量付费、随时可换模型；embedding 微调是一次性投入、推理成本不变但效果上限更高。常见路径是先上 rerank 救急，数据积累够了再微调，两者可叠加。
- 「怎么判断瓶颈真的在 embedding 而不是别处？」 做错误归因：目标文档根本不在向量检索的 top-k 里，是 embedding 的问题；在 top-k 里但排位差，重排就能救。先把检索失败的样本按「没召回」和「没排上」分桶，再决定投入方向。
回答的坑
- 上来就微调。多数场景瓶颈在分块策略和检索配置，微调是成本最高、见效最慢的一步，排最后。
- 只看训练损失不看检索指标。embedding 微调的唯一成功标准是检索评测变好，训练损失再漂亮，检索不涨就是失败，还要查通用能力有没有被带偏。
同系列的题
相关深度笔记
—— 本题完 ——