AgentAlpha · 面试间← 返回主站

公司题库 · 拼多多

拼多多大模型 Agent 面试题

Agent 研发社招面试强度大，MCP 交互细节、内部数据安全与上下文压缩是高频方向；大模型算法岗的推理与 RL 追问链业内最深。

题目口径：来自 拼多多 等公开渠道的面经与岗位 JD 高频归纳，不是内部真题。 按大家实际被问到的方向整理，每题一页带答案与追问。

Q · 上下文压缩必然丢信息，怎么把丢失降到最低？降低丢失的核心是分层保留与结构化提取，将不可丢弃的约束常驻系统区，对历史对话做带引用锚点的摘要，并保留外部原文以便随时回溯。
Q · DPO 训练时 chosen 和 rejected 的概率同时下降，是什么原因、怎么处理？DPO损失只关注相对概率差，不保证绝对概率上升。当数据存在标注颠倒或同质化严重时，模型会同时压低两者概率。处理时首要检查清洗数据，其次考虑在训练侧增加SFT损失项托底或采用变体。
Q · 梯度累积和直接增大 batch size，效果完全等价吗？数学上在理想条件下近似等价，但在工程实现中，由于批次统计层、梯度裁剪粒度、调度器计步以及浮点误差的存在，两者并不完全等价。
Q · 训练 loss 看着正常，怎么判断是梯度溢出、梯度消失还是数据有问题？诊断顺序是先监控各层梯度范数分清是溢出、消失还是爆炸，再通过小数据集过拟合测试区分是代码超参问题还是数据标签问题，最后根据具体分支定位处理。
Q · 训练时的显存都花在哪？参数、梯度、优化器状态、激活值怎么估算？训练显存分为静态模型状态和动态激活值，Adam混合精度下静态占用约16倍参数量，动态激活值随序列长和批次增长，长序列需靠重算和ZeRO分片解决。
Q · RL 训练中 Rollout 为什么会成为瓶颈？异步收集的旧策略数据还能用吗？Rollout 瓶缘来自自回归生成受访存限制、长尾序列拖批和与训练争抢 GPU；异步收集的旧策略数据是 off-policy 数据，不能直接当 on-policy 用，要配重要性采样修正并限制陈旧度。
Q · 怎么判断一个算子是带宽瓶颈还是计算瓶颈？Roofline 模型是什么？判断瓶颈的核心是对比算子的计算强度与硬件的拐点。Roofline 模型通过横轴计算强度和纵轴性能，直观展现算子是被内存带宽限制还是被算力限制。
Q · 投机解码的工程细节：树状草稿怎么组织？未命中的候选怎么处理？草稿长度为什么不是越长越好？树状草稿通过保留多分支和树注意力掩码让大模型一次性并行验证多条路径；未命中的分支会被丢弃并由大模型重采样修正；草稿长度过长会导致尾部接受率极低白耗算力，需根据任务动态调节。
Q · VLM 里视觉编码器和 LLM 之间怎么连接？线性投影、Q-Former、MLP 各差在哪？视觉与文本分布不同，需连接层做对齐。大上下文时代主流是 MLP，因其保留全部视觉 token 且成本可控，不丢细节。Q-Former 压缩率高但丢细节，线性投影则表达能力有限。
Q · VLM 怎么减少 vision token？视觉 token 太多带来什么问题？视觉 token 太多会挤占上下文预算并推高延迟，减少 token 的方法包括降低分辨率、Patch 合并、池化压缩、学习型压缩和动态分辨率，实际应用中通常根据任务容忍度选择压缩档位。
Q · 知识库到千万级文档，为什么只调向量库参数救不了召回？千万级规模下相似内容海量增加，向量区分度被稀释，单靠调参解决不了干扰项暴增的问题，必须通过检索架构升级、数据治理和模型调优来应对。
Q · 把内部文档接进 RAG，文档权限怎么带进检索链路？核心原则是权限过滤必须发生在检索阶段之前或之中。通过给 Chunk 附加权限元数据或按权限域隔离物理分区，检索时传入用户身份在引擎做标量过滤，并在生成侧做好引用脱敏兜底。