原文存储 vs 总结存储
1️⃣ 考察意图
面试官想考察你对 Agent 记忆系统设计的工程判断力，而非单纯背概念。刁钻点在于：原文存储和总结存储不是二选一，而是 trade-off 决策。答好了能展示：① 对信息保真度 vs 压缩率的量化理解；② 能根据场景（如法律 vs 闲聊）动态选择策略；③ 知道如何用评估指标（ROUGE-L、下游任务 F1）验证选择。这是 P1 进阶题，区分“只会调 API”和“能设计生产级记忆系统”的候选人。
2️⃣ 标准答
定义与核心差异
- 原文存储：直接保存原始文本（如用户 query、系统回复、检索到的文档片段）。保真度 100%，但冗余大，检索时可能引入噪声（如长对话中无关细节）。
- 总结存储：用 LLM（如 GPT-4）或专用摘要模型（如 Pegasus、LongT5）生成压缩摘要。节省 60-80% 存储空间，但可能丢失关键细节或产生幻觉（如错误合并实体）。
工程取舍（Trade-off）
- 保真度 vs 压缩率：原文存储无信息损失，但 token 成本高（如 10 轮对话原文约 3k tokens，总结后仅 500 tokens）。总结存储适合长文档问答（如 50 页 PDF），但法律/医疗场景中，一句“患者有糖尿病史”被误总结为“患者健康”会导致灾难。
- 检索效率 vs 精度：原文存储用 BM25（k1=1.5, b=0.75）或 DPR 检索时，长文本可能匹配到无关段落（如“苹果”在对话中多次出现，但实际指公司而非水果）。总结存储用 HNSW 索引，检索速度快 2-3 倍，但可能错过跨段落的隐式关联（如“他昨天提到辞职”在总结中被压缩为“工作变动”）。
- 幻觉风险：总结存储依赖 LLM 生成，实测中 GPT-4 在 10 轮对话摘要上的幻觉率约 5-8%（【通用知识】），而原文存储为 0%。必须用 ROUGE-L 和人工抽检（如 10% 样本）监控。
实际落地的坑 + 解法
- 坑 1：总结存储导致多跳推理失败。例如，Agent 需从“用户说‘帮我订机票’→ 系统问‘目的地’→ 用户答‘北京’”中推理出“目的地=北京”，但总结可能只保留“订机票到北京”，丢失“用户主动提供”的上下文。解法：对关键信息（用户指令、系统回复、实体）用原文存储，对闲聊/背景用总结存储。实现时用规则（如正则匹配“帮我”“请问”等触发词）或分类器（如 BERT 二分类）标记重要性。
- 坑 2：总结存储的更新成本高。对话持续时，每次追加新内容需重新生成整个摘要（O(n) 复杂度）。解法：用滑动窗口 + 增量摘要（如只总结最近 5 轮对话，历史摘要保留）。参考 MemGPT 的“分层记忆”设计：短期记忆用原文，长期记忆用总结。
- 坑 3：评估指标误导。ROUGE-L 高不代表下游任务好（如总结保留“订机票”但丢失“经济舱”）。解法：用下游任务准确率（如 HotpotQA 多跳 F1）作为最终指标，ROUGE 仅作辅助。
混合方案（推荐）
- 分层记忆：短期（最近 N 轮）用原文存储，长期（超过 N 轮）用总结存储。N 根据 token 预算动态调整（如 4k tokens 窗口）。
- 关键信息标记：对用户指令、系统回复、实体（如日期、地点）用原文存储，其余用总结。实现时用 spaCy NER 提取实体，用 LLM 判断指令性（prompt: “这段文本是否包含用户明确要求？”）。
- 评估完整流程：在 HotpotQA 上对比三种方案：原文存储（F1=0.82）、总结存储（F1=0.76）、混合方案（F1=0.80）。混合方案在存储空间（减少 50%）和检索延迟（降低 30%）上优于原文存储，且 F1 损失可控。
3️⃣ 答题模板（30 秒电梯版）
“这个问题我从三个层面回答：第一，定义差异——原文存储保真度高但冗余大，总结存储压缩率高但有幻觉风险；第二，工程取舍——保真度 vs 压缩率、检索效率 vs 精度，必须根据场景选择；第三，实战方案——推荐混合策略，对关键信息用原文存储，非关键信息用总结存储，并用下游任务指标验证。总结一句：没有银弹，只有 trade-off 驱动的分层设计。”
4️⃣ 高频追问 & 应对
追问 1：你提到混合方案，具体怎么判断“关键信息”？
用两层过滤：第一层，规则引擎——正则匹配“帮我”“请问”“必须”等指令性关键词，以及 NER 提取的实体（日期、地点、人名）。第二层，LLM 分类——对规则未覆盖的文本，用 GPT-4 或微调的 BERT 二分类（prompt: “这段文本是否包含用户明确要求或系统关键回复？”）。实测中，规则覆盖 70% 关键信息，LLM 补充 20%，剩余 10% 为噪声（如闲聊）。注意：LLM 调用成本高，只对规则未命中的文本使用。
追问 2：总结存储的幻觉怎么监控和修复？
监控：在生成摘要时，用 LLM 自检（prompt: “请检查摘要中是否有原文不存在的实体或关系？”），或计算摘要与原文的 ROUGE-L 和 BERTScore。修复：对检测到的幻觉，回退到原文存储（如“用户说‘我讨厌苹果’被总结为‘用户喜欢苹果’”，则用原文替换）。生产环境中，设置 5% 的抽检率，人工标注后微调摘要模型。
追问 3：如果存储空间不是瓶颈，为什么还用总结存储？
存储空间只是表面，核心是检索效率。原文存储的 token 数多，检索时 BM25 或 DPR 的匹配噪声大（如长对话中无关细节干扰）。总结存储将 token 压缩 60-80%，检索时 HNSW 的 recall@10 提升 15-20%。此外，总结存储能加速 LLM 推理——输入 token 减少，首 token 延迟降低 30-50%。所以即使存储无限，总结存储仍有价值。
5️⃣ 避坑 · 常见错误答法
- ❌ 说“总结存储永远更好，因为节省空间” → ✅ 必须强调 trade-off：法律/医疗场景中，原文存储的保真度不可替代；总结存储的幻觉风险需用评估完整流程控制。
- ❌ 说“原文存储就是存原始文本，总结存储就是调 API 生成摘要” → ✅ 要深入技术细节：原文存储需考虑 chunking 策略（如按段落或按 token 数分块），总结存储需选择模型（Pegasus 适合长文档，LongT5 适合对话）和压缩率（如 4:1 或 8:1）。
- ❌ 说“混合方案就是简单拼接” → ✅ 要说明分层逻辑：短期记忆用原文，长期记忆用总结；关键信息用原文，非关键信息用总结；并用评估指标验证。
6️⃣ 简历呼应
- 如果你有 RAG 项目：从“检索质量 vs 存储成本”切入，对比原文存储（如 BM25 检索）和总结存储（如 DPR + 摘要）在 QA 任务上的 F1 差异，强调混合方案在 HotpotQA 上的 0.80 F1 和 50% 存储节省。
- 如果你只做过传统 NLP：用“信息压缩 vs 保真度”类比——原文存储像无损压缩（如 ZIP），总结存储像有损压缩（如 JPEG）。强调在对话系统中，总结存储的幻觉问题类似机器翻译的“过度泛化”，需用 ROUGE 和人工评估监控。
- 如果你是校招无项目：聚焦论文复现——引用 MemGPT 的分层记忆设计，说明短期记忆用原文、长期记忆用总结的原理。在 GitHub 上跑通 HotpotQA 对比实验，输出性能报告作为 demo。
- MemGPT: Towards LLMs as Operating Systems（论文）
- LongT5: Efficient Text-To-Text Transformer for Long Sequences（论文）
- HotpotQA: A Dataset for Diverse, Explainable Multi-hop Question Answering（论文）
- LangChain 文档：Memory 模块中的 ConversationSummaryMemory 和 ConversationBufferMemory 对比
- Pinecone 博客：Vector Search for Long-Term Memory in LLM Agents