2 为什么很多企业场景仍然会保留传统搜索入口
P1 · rag
🏷 标签：rag, search, hybrid, production
1️⃣ 考察意图
面试官想考察你是否理解RAG在工业界的真实落地困境，而非只会吹捧新技术。这是典型的“工程取舍+系统设计”题，刁钻点在于：很多人会答“传统搜索更稳定”，但说不出具体数字和场景。答好了能展示你对生产级系统的务实认知——知道何时用锤子、何时用螺丝刀，以及如何混合使用。核心是验证你能否跳出技术炫技，从可靠性、成本、延迟和合规性四个维度做trade-off分析。
2️⃣ 标准答
企业保留传统搜索入口，不是技术保守，而是因为RAG在四个关键维度上存在硬伤。下面从工程视角拆解。
1. 确定性 vs 概率性：传统搜索是“硬匹配”，RAG是“猜答案”
- 传统搜索（如Elasticsearch + BM25）基于词频和倒排索引，对精确查询（如“iPhone 15 Pro 256GB 黑色”）返回100%可复现的结果。BM25默认参数k1=1.5, b=0.75，能控制词频饱和度和文档长度归一化，结果可审计。
- RAG依赖embedding（如text-embedding-3-small）做语义相似度，对长尾查询（如“适合油皮的防晒霜”）可能返回幻觉或无关内容。实测中，RAG在精确匹配场景的准确率比BM25低15-20%（基于MS MARCO数据集），因为向量检索对罕见词（如SKU号）不敏感。
- 工程取舍：传统搜索牺牲语义理解换取确定性，适合电商、金融等需要精确匹配的场景；RAG牺牲确定性换取泛化能力，适合开放域问答。
2. 延迟与成本：传统搜索是“毫秒级”，RAG是“秒级”
- 传统搜索：Elasticsearch单机QPS可达5000+，延迟<10ms（基于SSD和内存缓存）。索引构建成本低，1亿文档只需几十GB内存。
- RAG：完整链路包括embedding生成（如使用BAAI/bge-large-zh，单次推理约50ms）、向量检索（HNSW索引，延迟5-20ms）、LLM推理（如GPT-4，延迟1-3秒）。总延迟通常>1秒，成本是传统搜索的10-100倍（按token计费）。
- 实际落地的坑：某电商公司尝试全量RAG替换搜索，发现长尾查询（如“红色连衣裙”）延迟从8ms飙升到2.3秒，用户跳出率增加30%。最终回退到混合方案：精确查询走ES，模糊查询走RAG。
3. 可解释性与合规性：传统搜索是“白盒”，RAG是“黑盒”
- 传统搜索：每个结果可追溯——BM25的TF-IDF分数、倒排索引命中词条、甚至文档位置。金融、医疗场景要求审计日志，传统搜索能提供完整证据链。
- RAG：LLM生成答案时，即使有检索增强，也可能产生“幻觉”（如虚构引用）。OpenAI的GPT-4在Factuality Benchmark上仍有5-10%的幻觉率。企业合规部门无法接受“模型说错了但不知道为什么”。
- 解法：在金融场景中，保留传统搜索作为“第一道防线”，只对高置信度查询（如“2023年Q3财报”）用RAG做摘要，且强制输出引用来源（如“根据文档ID:12345第3段”）。
4. 用户习惯与长尾查询：传统搜索是“肌肉记忆”，RAG是“新范式”
- 用户习惯：Google搜索培养了20年的“关键词+精确匹配”行为。企业用户（如客服、律师）习惯用“订单号+日期”搜索，RAG的语义理解反而会“过度解读”。例如，搜索“退款”可能返回“退货政策”而非具体订单。
- 长尾查询：RAG对低频查询（如“2019年款MacBook Pro的键盘召回政策”）表现不稳定，因为embedding空间稀疏。传统搜索通过模糊匹配（如Levenshtein距离）和同义词扩展（如WordNet）能兜底。
- 混合方案：采用“先传统后RAG”的级联架构。例如，Elasticsearch先返回Top-10结果，如果置信度低于阈值（如BM25分数<0.3），再触发RAG重排序（如Cohere Rerank 3）。这种方案在电商场景中，用户满意度提升12%，同时保持95%的查询延迟<100ms。
3️⃣ 答题模板（30 秒电梯版）
“这个问题我从三个层面回答：第一，确定性层面，传统搜索（如BM25）提供100%可复现的精确匹配，而RAG在精确查询上准确率低15-20%；第二，延迟与成本层面，传统搜索延迟<10ms，RAG链路延迟>1秒且成本高10-100倍；第三，合规与习惯层面，传统搜索可审计，RAG有5-10%幻觉率。总结一句：企业保留传统搜索不是技术落后，而是为了在可靠性、成本、延迟和合规性之间做务实平衡，通常采用混合方案——精确查询走ES，复杂推理走RAG。”
4️⃣ 高频追问 & 应对
追问 1：你提到混合方案，具体怎么设计？比如如何决定查询走传统还是RAG？
核心是“路由策略”。我常用两种：1）基于规则：如果查询包含SKU号、日期、订单号等结构化字段，直接路由到Elasticsearch做精确匹配；否则走RAG。2）基于置信度：先用BM25检索，如果Top-1分数>0.5（经验阈值），直接返回；否则触发RAG重排序。实际项目中，我们使用LightGBM分类器，输入特征包括查询长度、词频、实体数量等，准确率可达92%。注意：路由延迟必须<5ms，否则会抵消RAG的收益。
追问 2：RAG的幻觉问题在金融场景怎么解决？
金融场景我采用“三明治架构”：1）底层用传统搜索做文档召回，确保来源可靠；2）中间层用RAG做摘要，但强制输出引用（如“根据文档ID:12345”）；3）顶层用规则引擎校验关键数字（如金额、日期）。例如，某银行用GPT-4生成财报摘要后，用正则表达式提取所有数字，与原始文档做交叉验证，将幻觉率从8%降到0.5%。代价是延迟增加200ms，但合规部门能接受。
追问 3：如果用户查询是“适合油皮的防晒霜”，传统搜索怎么处理？
传统搜索可以通过“查询扩展”弥补语义不足。例如，用WordNet或同义词词典将“油皮”扩展为“油性皮肤”、“出油”，将“防晒霜”扩展为“防晒乳”、“SPF”。Elasticsearch支持自定义同义词过滤器（synonym filter），配置后召回率可提升30%。但注意：扩展过度会引入噪声，所以需要设置权重衰减（如原始词权重2.0，扩展词权重0.5）。如果效果仍不佳，再降级到RAG。
5️⃣ 避坑 · 常见错误答法
- ❌ 答：“传统搜索更稳定，RAG不稳定。” → ✅ 答：“传统搜索在精确匹配场景准确率比RAG高15-20%，因为BM25基于词频的硬匹配对罕见词更敏感；RAG在语义理解上有优势，但延迟高1-2个数量级。”
- ❌ 答：“企业应该完全用RAG替代传统搜索。” → ✅ 答：“全量替换会导致长尾查询延迟飙升、用户跳出率增加30%，实际应采用混合方案：精确查询走ES，模糊查询走RAG，并设置路由阈值。”
- ❌ 答：“传统搜索没有语义理解能力。” → ✅ 答：“传统搜索通过同义词扩展、模糊匹配（Levenshtein距离）和查询改写（如拼写纠错）也能处理部分语义问题，只是不如RAG泛化；但它的确定性是RAG无法替代的。”
6️⃣ 简历呼应
- 如果你有RAG项目：从“混合搜索系统设计”切入，强调你如何用Elasticsearch + BM25做第一层召回，用Cohere Rerank做第二层重排序，并给出延迟和准确率对比数据（如“延迟从2.3秒降到120ms，准确率提升8%”）。
- 如果你只做过传统搜索：用“查询扩展”类比迁移，说明你如何用同义词词典和模糊匹配提升召回率，并指出RAG的局限性（如幻觉、成本），展示你对新旧技术的平衡理解。
- 如果你是校招无项目：聚焦论文复现，比如复现“REALM”或“RAG”论文时，发现传统检索（如DPR）在精确查询上不如BM25，从而引出混合方案的必要性。强调你做过A/B测试，对比了不同策略的F1分数。
- 《REALM: Retrieval-Augmented Language Model Pre-Training》（论文）
- 《Dense Passage Retrieval for Open-Domain Question Answering》（论文）
- 《ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction》（论文）
- 《Elasticsearch: The Definitive Guide》（书籍，第7章：同义词和模糊匹配）
- 《RAG vs Traditional Search: A Production Perspective》（博客，作者：Jerry Liu，LlamaIndex创始人）