Embedding 微调的训练数据怎么来的

Embedding 微调的训练数据怎么来的

P1 · llm_training · 🏢 字节

📊 考点：fine-tuning · embedding

🏷 标签：data-collection

1️⃣ 考察意图

面试官想考察你从零到一构建高质量微调数据的工程实操能力，而非背诵理论。刁钻点在于：Embedding 微调（如 Sentence-BERT、SimCSE）需要对比学习数据（正/负例对），而大模型 SFT 只需要问答对，两者数据构造逻辑完全不同。答好了能展示你对数据质量、噪声控制、领域适配的硬实力，以及区分“学术 demo”和“工业级落地”的认知。

2️⃣ 标准答

Embedding 微调训练数据构造，核心是生成语义相似的正例对和区分性的负例对，而非简单堆砌问答。我分三个渠道讲，并给出工程取舍。

渠道一：从已有业务数据挖掘正例对

• 客服 QA 对：提取用户问题 + 客服回复中最相关的 1-2 句（用 BM25 或关键词匹配定位）。坑：客服回复常含无关寒暄（如“亲，您好”），需用规则或小模型（如 BERT 分类器）过滤，否则噪声会拉低 embedding 区分度。
• 搜索日志：从用户点击日志中提取 query + 点击文档标题/摘要。取舍：点击不一定代表语义相关（用户可能误点），需用停留时间 > 5 秒或后续行为（如翻页）作为置信度过滤，牺牲 30% 数据量换 2 倍效果提升。
• 文档内标题与段落：将文档标题作为 query，段落作为正例。坑：标题可能过于笼统（如“概述”），需用 TF-IDF 计算标题与段落的词重叠率，低于 0.3 的丢弃。

渠道二：人工标注生成合成数据

• 业务同事写模拟问题：给关键文档段落（如金融产品条款），让同事写 3-5 个不同表述的用户提问（如“利率怎么算” vs “年化收益多少”）。数量：1000 条覆盖核心术语即可，过多会引入标注者偏差。取舍：人工成本高，但能保证正例的语义多样性，比纯合成数据鲁棒 20% 以上。
• LLM 辅助生成：用 GPT-4 或 DeepSeek 根据段落生成问题，再用规则校验（如问题长度 < 20 词、不含段落原文）。坑：LLM 易生成“完美匹配”问题（如直接复述段落），导致模型学到抄袭而非语义理解，需加入“改写检测”（如 BLEU < 0.5 才保留）。

渠道三：负例构造（关键）

• Batch Negative：训练时用同 batch 内其他样本作为负例（SimCSE 标准做法）。取舍：batch size 越大负例越丰富，但显存有限，通常设 64-128，用梯度累积模拟更大 batch。
• Hard Negative：从检索结果中找 top-10 但语义不匹配的样本（如“苹果” vs “苹果公司”）。方法：先用 BM25 检索，再人工或 LLM 标注是否相关，保留 10% 作为 hard negative。坑：hard negative 太多会导致模型崩溃（所有样本都判为不相似），需控制比例在 1:3（正:负）。
• In-batch Cross Negative：对 query 和正例做交叉编码（如 ColBERT 的 late interaction），找出高相似但非正例的样本，作为额外负例。这能提升细粒度区分能力，但计算量翻倍。

实际落地的坑 + 解法：

• 数据不平衡：正例远少于负例（如 1:100），导致模型偏向输出低相似度。解法：对正例做数据增强（如回译、随机删除 10% 词），或使用 Focal Loss 加大正例权重。
• 领域漂移：通用 embedding（如 text-embedding-ada-002）在金融领域效果差。解法：用领域数据微调后，在 1000 条测试集上验证 recall@10，若低于 0.7 则需补充 500 条 hard negative。

3️⃣ 答题模板（30 秒电梯版）

“这个问题我从数据来源、负例构造、质量把控三个层面回答。数据来源上，主要用客服 QA 对和搜索日志挖掘正例，辅以人工写模拟问题；负例构造上，用 batch negative 和 hard negative 结合，比例控制在 1:3；质量把控上，用规则过滤噪声，并用 LLM 辅助生成时加入改写检测。总结一句：Embedding 微调数据核心是生成语义多样性的正例和区分性的负例，而非堆数量。”

4️⃣ 高频追问 & 应对

追问 1：你提到用 LLM 生成问题，怎么避免生成的数据和原始段落过于相似，导致模型过拟合？

应对策略：用两个指标过滤。一是 BLEU 分数，问题与段落原文的 BLEU < 0.5 才保留；二是语义相似度，用现成 embedding（如 text-embedding-3-small）计算问题与段落的余弦相似度，超过 0.95 的丢弃。另外，可以加入“改写指令”，如“用口语化表达，避免专业术语”，让 LLM 生成多样化问题。实际项目中，我过滤掉约 40% 的生成数据，但最终 recall@10 提升了 15%。

追问 2：如果只有 500 条标注数据，怎么微调 embedding 模型？

应对策略：用 SimCSE 的无监督版本初始化，再用 500 条数据做有监督微调。关键技巧：对每条正例做数据增强（如回译、随机删除 20% 词），扩充到 2000 条；负例用 batch negative 和 BM25 检索的 top-20 作为 hard negative。另外，使用对比学习损失（InfoNCE）时，温度参数 τ 设 0.05 能更好利用小数据。实际效果：500 条数据微调后，在领域测试集上 recall@10 从 0.5 提升到 0.7。

追问 3：你怎么评估微调后的 embedding 质量，而不是只看 loss？

应对策略：用两个指标。一是 recall@k（k=1,5,10），在 1000 条 query-doc 测试集上计算；二是 NDCG@10，考虑排序位置。另外，做人工评估：随机抽 100 条 query，让业务同事判断 top-5 结果是否相关，计算相关性准确率。如果 recall@10 > 0.8 且人工准确率 > 0.9，则认为模型可用。注意：loss 下降不一定代表检索效果提升，需定期做离线评估。

5️⃣ 避坑 · 常见错误答法

• ❌ 说“直接用公开数据集（如 MS MARCO）微调就行，不用自己造数据” → ✅ 正确切入：公开数据集与业务领域分布不同（如金融术语），必须用领域数据微调，否则效果会下降 30% 以上。可以先用公开数据预训练，再用领域数据微调。
• ❌ 说“正例越多越好，堆到 10 万条” → ✅ 正确切入：正例过多会导致模型学到重复模式，反而降低泛化能力。1000-5000 条高质量正例（覆盖核心语义变体）比 10 万条噪声数据更有效，关键在于负例的区分性。
• ❌ 说“负例直接用随机采样就行，简单高效” → ✅ 正确切入：随机负例太容易区分，模型学不到细粒度差异。必须加入 hard negative（如 BM25 检索的 top-10 不相关样本），否则 recall@10 会卡在 0.6 以下。

6️⃣ 简历呼应

• 如果你有 RAG 项目：从“搜索日志挖掘正例”切入，强调你如何用点击停留时间过滤噪声，并构造 hard negative 提升检索精度。可以提 recall@10 从 0.6 提升到 0.85 的具体数字。
• 如果你只做过传统 NLP：用“文本匹配任务”类比，说明 embedding 微调本质是学习语义相似度，数据构造类似“自然语言推理（NLI）数据集”的正/负例对。强调你如何用 BM25 和规则生成负例。
• 如果你是校招无项目：聚焦“SimCSE 论文复现”，说明你如何用公开数据（如 Wikipedia）生成正例（dropout 噪声），并手动构造 500 条领域数据验证效果。可以提你复现的 recall@5 达到论文基线。

7️⃣ 延伸阅读

• SimCSE: Simple Contrastive Learning of Sentence Embeddings (Gao et al., 2021)
• Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks (Reimers & Gurevych, 2019)
• ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT (Khattab & Zaharia, 2020)
• 博客：How to Fine-Tune Embedding Models for RAG (LlamaIndex, 2024)
• 工具：sentence-transformers 库的 train_sts.py 示例代码