每句话都存 vs 只存重要信息
1️⃣ 考察意图
面试官想看你是否理解 Agent 长期记忆（Long-Term Memory）中存储粒度与检索效率之间的核心 trade-off。这不是背概念题，而是系统设计 + 工程取舍题。刁钻点在于：很多候选人只会说“存重要信息”，但说不清“什么是重要”、“怎么提取”、“丢了细节怎么办”。答好了能展示你对记忆系统的分层设计能力、对检索噪声的敏感度，以及实际落地的成本意识（Token 开销、延迟、存储量）。
2️⃣ 标准答
这个问题本质是记忆系统的存储策略选择，没有银弹，必须根据记忆类型和场景做分层设计。我从三个维度拆解：记忆类型、存储粒度、压缩策略。
1. 记忆类型决定存储策略
- 对话历史（短期上下文）：必须全量存，但用滑动窗口（如最近 20 轮）控制长度。原因：Agent 需要完整追踪用户意图演变，丢失任何一句都可能导致误解。坑：窗口大小不能固定，要根据 Token 数动态截断，否则长句会撑爆上下文。
- 用户偏好（长期知识）：只存关键信息，如“用户喜欢简洁回复”、“用户是 Python 开发者”。用 LLM 提取结构化 Key-Value 对，存到向量数据库（如 Chroma）或关系表。Trade-off：提取精度依赖 LLM 质量，误提取会污染记忆。
- 任务状态（过程记忆）：全量存但压缩。例如在 MultiWOZ 数据集上，Agent 需要记住“用户已预订酒店，但未确认餐厅”。用状态机（State Machine）记录关键决策点，而非每轮对话。坑：状态机设计要覆盖所有分支，否则状态丢失导致 Agent 重复问。
2. 存储粒度：全量 vs 选择性
- 全量存储：保留完整上下文，适合需要回溯细节的场景（如法律咨询、代码调试）。代价：检索时噪声大，BM25 或 Dense Retrieval（如 DPR）可能召回大量无关片段，增加 Rerank 负担。实测：在 1000 轮对话中，全量存储的检索延迟比选择性存储高 3-5 倍（基于 HNSW 索引）。
- 选择性存储：只存关键实体（如人物、地点、数字）、意图标签、摘要。优点：存储量减少 80%，检索精度提升。缺点：丢失细节，例如用户说“我不喜欢红色”，只存“颜色偏好：非红色”可能漏掉“但蓝色可以”的后续修正。
3. 压缩策略：LLM 摘要 + 关键信息提取
- LLM 摘要：用 GPT-4 或 Claude 对每轮对话生成一句话摘要，存为向量。Trade-off：摘要质量依赖 Prompt 设计，且每次摘要消耗 100-200 Token，成本高。解法：只在记忆写入时做一次摘要，避免重复计算。
- 关键信息提取：用命名实体识别（NER）提取实体，用意图分类（如 BERT-based）提取用户目标。优点：结构化，便于检索。坑：实体消歧（如“苹果”是水果还是公司）需要上下文，否则误存。
- 混合方案（推荐）：短期全量（滑动窗口）+ 长期摘要 + 关键信息索引。例如：LangGraph 中，Memory 模块维护一个环形缓冲区存最近 50 轮对话，同时每 10 轮触发一次 LLM 摘要，摘要和关键信息存入向量库。检索时，先查向量库召回 Top-5 摘要，再结合滑动窗口中的原始对话做 Rerank。
实际落地的坑 + 解法：
- 坑：全量存储导致检索结果中重复信息过多，Rerank 模型（如 Cohere Rerank）被噪声淹没。解法：在写入时做去重，用 SimHash 或 MinHash 计算文本相似度，相似度 > 0.9 的片段只保留最新版本。
- 坑：选择性存储丢失了用户情绪或语气信息（如“你确定吗？”可能是质疑）。解法：额外存一个情感标签（Positive/Neutral/Negative），作为检索时的过滤条件。
3️⃣ 答题模板（30 秒电梯版）
“这个问题我从记忆类型、存储粒度、压缩策略三个层面回答。首先，对话历史必须全量存但用滑动窗口，用户偏好只存关键信息，任务状态用状态机压缩。其次，全量存储保留细节但增加检索噪声，选择性存储节省空间但可能丢失上下文，推荐混合方案：短期全量+长期摘要+关键信息索引。最后，实际落地要注意去重和情感标签。总结一句：没有最优策略，只有根据场景做分层设计。”
4️⃣ 高频追问 & 应对
追问 1：你怎么定义“重要信息”？如果用户说“我不喜欢这个，但那个也行”，怎么存？
重要信息是对后续决策有直接影响的实体、意图和约束。对于模糊表达，用 LLM 提取核心意图：先识别否定词（“不喜欢”），再提取替代项（“那个”），存为“偏好：非 A，但可接受 B”。如果“那个”指代不明，存为“未消歧实体”，并在下一轮对话中主动追问。Trade-off：过度提取会引入噪声，所以设置置信度阈值（如 0.8），低于阈值的存为待确认状态。
追问 2：如果存储空间和 Token 成本都有限（比如边缘设备），你怎么选？
边缘设备上，全量存储不可行。我会用关键信息提取 + 固定大小摘要：用 MobileBERT 或 TinyBERT 做 NER 和意图分类，只存结构化数据（实体、关系、时间戳）。摘要用 50 Token 以内的压缩版本，用 DistilGPT-2 生成。坑：小模型精度下降，所以需要离线评估，在设备端用少量样本做微调。如果必须保留细节，用滑动窗口存最近 5 轮对话，其余丢弃。
追问 3：你怎么评估不同存储策略的效果？给具体指标。
三个核心指标：记忆召回率（用户之前提过的关键信息在后续对话中被正确引用的比例）、下游任务准确率（如 MultiWOZ 上的成功率）、存储开销（Token 数 + 向量维度 + 延迟）。实验设计：在 MultiWOZ 上对比全量、摘要、关键信息三种策略，用 GPT-4 作为 Agent 评估。结果通常显示：摘要策略在召回率上接近全量（90% vs 95%），但存储量减少 70%；关键信息策略召回率低（70%），但延迟最低。
5️⃣ 避坑 · 常见错误答法
- ❌ “只存重要信息，因为全量存太浪费。” → ✅ “不能一刀切。对话历史必须全量存，否则 Agent 会丢失上下文；用户偏好才只存关键信息。需要根据记忆类型分层设计。”
- ❌ “用 LLM 做摘要就行，简单有效。” → ✅ “LLM 摘要成本高（每轮 100-200 Token），且摘要质量依赖 Prompt。实际中要结合关键信息提取，并设置去重和情感标签，避免丢失细节。”
- ❌ “全量存，然后用 RAG 检索。” → ✅ “全量存会导致检索噪声大，Rerank 模型被淹没。需要做去重和滑动窗口，否则延迟和成本都不可控。”
6️⃣ 简历呼应
- 如果你有 RAG 项目：从“检索噪声控制”角度切入，对比 BM25 和 Dense Retrieval 在全量 vs 摘要存储下的召回率差异，强调去重和 Rerank 的重要性。
- 如果你只做过传统 NLP：用“信息抽取”类比，说明 NER 和意图分类在选择性存储中的作用，并提到状态机设计（如有限状态自动机）在任务记忆中的应用。
- 如果你是校招无项目：聚焦论文复现，比如引用“MemGPT”或“Generative Agents”中的记忆分层设计，展示你对存储粒度和压缩策略的理论理解。
- MemGPT: Towards LLMs as Operating Systems (2023)
- Generative Agents: Interactive Simulacra of Human Behavior (2023)
- LangGraph: Building Stateful, Multi-Agent Applications
- MultiWOZ: A Large-Scale Multi-Domain Wizard-of-Oz Dataset
- Cohere Rerank: Improving Retrieval Quality with Cross-Encoder Models