五厂面经真题集华为面经高频工业质检多模态Agent速答 · 约 5 分钟更新 2026-09-29

设计一个工业质检大模型 Agent。

一句话结论

用图像采集接入 VLM 检测缺陷,再用工艺参数 RAG 对照标准,输出返工、报废或放行建议;低置信人工复核,并按时延和样本量分级处理。

先这样答

结论:我会把 Agent 设计成一条从图像采集到处置建议的质检链路。先采集产品图像,再交给 VLM 做缺陷检测。模型需要判别表面缺陷的类型和位置。检测结果进入标准对照环节。Agent 用工艺参数做 RAG 检索,判断当前缺陷是否超过标准。

最后,Agent 根据检测结果和标准对照结果给出处置建议。建议包括返工、报废或放行,并说明对应依据。漏检要按零容忍设计。只要置信度不足,就转人工复核,不能直接放行。产线延迟需要分级处理。先用秒级初筛快速筛出结果,再把需要更深判断的样本异步送去复核。缺陷样本少时,先用 few-shot 提高模型对少见缺陷的识别能力,再用增量学习持续吸收新增样本。

面试官会怎么追问

  • 「为什么不让模型直接决定返工、报废或放行?」 质检漏检不能接受。模型置信度不足时必须人工复核,处置建议还要带上标准对照依据,方便人判断。

  • 「如果产线不能等待完整推理,你怎么设计时延?」 我会把推理分成两级。第一阶段做秒级初筛,第二阶段对需要进一步判断的样本做深度复核,并采用异步处理。

  • 「缺陷样本很少,VLM 可能识别不好,怎么处理?」 先用 few-shot 给模型提供少量缺陷示例,帮助它识别类型和位置。新增缺陷样本后,再用增量学习更新识别能力。

回答的坑

只说用多模态模型识别缺陷,却不说明标准对照和处置依据,答案会缺少落地链路。

只强调追求低延迟,却没有说明低置信结果必须人工复核,无法满足漏检零容忍。

—— 本题完 ——