❓ 向量检索 vs 关键词检索

P1 · rag

🏷 标签：rag, retrieval, vector-search, keyword-search, hybrid-search

1️⃣ 考察意图

面试官想考察你对 RAG 检索策略的底层理解深度，而非简单背诵定义。这是典型的“工程取舍 + 系统设计”题，刁钻点在于：你是否能跳出“向量检索就是好”的流行叙事，清晰说出关键词检索的不可替代性，以及混合检索的落地细节。答好了能展示：对检索原理的扎实掌握、对实际场景的权衡能力、以及解决“召回率-精确率”矛盾的实战经验。

2️⃣ 标准答

核心对比：原理与机制

关键词检索：基于倒排索引（Inverted Index）和词频统计。典型代表 BM25，公式核心是 TF（词频）和 IDF（逆文档频率），默认参数 k1=1.5, b=0.75。它精确匹配查询词，对罕见词（高 IDF）敏感。
向量检索：将文本通过嵌入模型（如 BERT、E5、BGE）转为稠密向量，用距离度量（余弦相似度、欧氏距离）计算语义相似度。它依赖近似最近邻（ANN）算法，如 HNSW（Hierarchical Navigable Small World）或 FAISS 的 IVF+PQ，牺牲少量精度换取速度。

优劣分析：工程取舍

向量检索优势：能处理同义词（“汽车” vs “轿车”）、语义相关（“苹果” vs “水果”），适合开放域问答。
向量检索劣势：领域敏感：通用嵌入模型（如 text-embedding-ada-002）在垂直领域（医疗、法律）效果差，需要微调（如使用 Sentence-BERT 在领域数据上 fine-tune）。
维度灾难：高维向量（768/1024维）在稀疏数据上表现差，且 ANN 索引构建耗时（如 HNSW 构建 O(N log N)）。
无法精确匹配：对代码、ID、日期等精确查询，向量检索会引入噪声。关键词检索优势：精确、可解释、零成本部署（无需嵌入模型），对罕见词（如“GRPO 论文”）召回率高。关键词检索劣势：无法处理语义鸿沟（“如何训练模型” vs “模型训练方法”），对同义词和拼写错误（“embeding” vs “embedding”）无效。

混合检索：实战解法

策略一：RRF（Reciprocal Rank Fusion）：对两个检索结果按排名倒数求和，公式 score = 1/(k + rank)，k 通常取 60。简单有效，但无法处理分数尺度差异。
策略二：加权融合：score = α * cosine_sim + (1-α) * BM25_score，α 需在验证集上调优（如 0.3-0.7）。坑：BM25 分数和余弦相似度不在同一量级，需先归一化（如 min-max 或 z-score）。
策略三：级联检索：先用关键词检索做精确过滤（如过滤掉不包含关键实体的文档），再用向量检索做语义排序。适合代码搜索（先匹配函数名，再排序语义相关）。
实际落地的坑：混合检索的延迟是两者之和（BM25 毫秒级 + ANN 毫秒级），但 RRF 排序本身 O(N log N) 可能成为瓶颈。解法：对 Top-K 结果（如 K=100）做融合，而非全量。

场景选择：决策树

开放域问答（如“什么是 Transformer？”）→ 向量检索为主，BM25 做兜底。
精确匹配（如“Bug #12345”、“用户 ID=abc”）→ 关键词检索为主，向量检索做扩展。
代码搜索（如“Python 实现二分查找”）→ 级联检索：BM25 匹配函数名，向量排序语义。
多语言/跨语言（如“中文查询搜英文文档”）→ 必须用跨语言嵌入模型（如 LaBSE、mE5），关键词检索无效。

评估指标

召回率：Recall@k（k=10/20），衡量检索覆盖率。
排序质量：MRR（Mean Reciprocal Rank）和 NDCG（Normalized Discounted Cumulative Gain）。
端到端：RAG 系统的最终答案准确率（如 F1/EM），因为检索只是中间步骤。

3️⃣ 答题模板（30 秒电梯版）

“这个问题我从原理、优劣、混合策略三个层面回答。原理上，向量检索基于语义嵌入（如 BERT），关键词检索基于倒排索引（如 BM25）。优劣上，向量检索擅长语义泛化但领域敏感，关键词检索精确但无法处理同义词。混合策略上，我常用 RRF 或加权融合，并在代码搜索场景用级联检索。总结一句：没有银弹，选择取决于查询类型和领域数据特性。”

4️⃣ 高频追问 & 应对

追问 1：你提到混合检索用 RRF，那如果两个检索结果分数尺度差异很大（比如 BM25 分数 0-10，余弦相似度 0-1），怎么处理？

应对策略：RRF 基于排名而非分数，所以不受尺度影响，这是它的优势。但加权融合必须归一化。我常用 z-score 归一化（减去均值除以标准差），或者 min-max 归一化（缩放到 0-1）。坑：归一化参数（均值、标准差）需在训练集上计算，不能在线实时算，否则会引入偏差。另一个解法是使用学习到的权重（如 LambdaRank），但需要标注数据。

追问 2：如果查询是“如何用 Python 实现二分查找”，向量检索和关键词检索哪个更好？为什么？

应对策略：关键词检索更好。因为“二分查找”是精确术语，向量检索可能匹配到“二分法”、“二分搜索”等变体，但代码搜索需要精确函数名或算法名。我会用级联检索：先用 BM25 匹配包含“二分查找”的文档，再用向量检索对结果排序，确保语义相关（如 Python 实现 vs Java 实现）。实际坑：BM25 对中文分词敏感，需用 jieba 或 HanLP 做分词，否则“二分查找”可能被切分为“二分”和“查找”，导致召回下降。

追问 3：你的混合检索系统在线上延迟是多少？如何优化？

应对策略：假设文档库 100 万，BM25 延迟约 5ms，HNSW 向量检索约 10ms，RRF 排序约 2ms（Top-100 结果），总延迟约 17ms。优化点：1）将 BM25 和向量检索并行执行，而非串行；2）对高频查询做缓存（如 LRU 缓存 Top-10 结果）；3）使用近似 BM25（如 Elasticsearch 的 BM25 实现）和近似 ANN（如 FAISS 的 IVF+PQ，牺牲 5% 召回换取 2 倍速度）。如果延迟要求 <10ms，可考虑只用向量检索，但需在离线评估中确认召回损失。

5️⃣ 避坑 · 常见错误答法

❌ “向量检索比关键词检索好，因为语义理解更强。” → ✅ “向量检索擅长语义泛化，但关键词检索在精确匹配和罕见词召回上不可替代，两者是互补关系。”
❌ “混合检索就是把两个分数加起来。” → ✅ “混合检索需要解决分数尺度差异（归一化）和排名融合（RRF vs 加权），且需在验证集上调优融合参数。”
❌ “向量检索用 cosine 相似度就行。” → ✅ “余弦相似度适合归一化向量，但欧氏距离在某些场景（如聚类）更好。实际中需根据嵌入模型和任务选择，如 BERT 输出用余弦，Sentence-BERT 用点积。”

6️⃣ 简历呼应

如果你有 RAG 项目：从“我在项目中对比了 BM25 和 DPR 的 Recall@10，发现混合检索提升 15%”切入，强调你如何调优融合参数（如 RRF 的 k 值）和评估指标。
如果你只做过传统 NLP：用“文本分类中的 TF-IDF vs BERT 类比”迁移，说明“关键词检索类似 TF-IDF 的精确性，向量检索类似 BERT 的语义性”，并补充你如何用 Elasticsearch 实现 BM25。
如果你是校招无项目：聚焦“在 MS MARCO 数据集上复现混合检索论文（如 ColBERT-v2 的 late interaction）”，展示你对 RRF 和 HNSW 的理解，并给出 Recall@10 的对比数据。
论文：Robertson & Zaragoza (2009) - “The Probabilistic Relevance Framework: BM25 and Beyond”
论文：Khattab & Zaharia (2020) - “ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT”
工具：FAISS (Facebook AI Similarity Search) - 向量检索库，支持 HNSW 和 IVF+PQ
工具：Elasticsearch - 关键词检索引擎，内置 BM25 实现
博客：Pinecone - “What is Hybrid Search?” - 混合检索的工程实践和 RRF 详解

—— 本场面试完 ——