Q01规划Memory吴师兄 · 公众号 吴师兄学大模型5 分钟

面试官问:LLM 和 Agent 到底有什么本质区别?

面试官原题

说说 LLM 和 Agent 的核心区别?为什么现在大家都在从 LLM 迈向 Agent?

面试官 · Agent 岗面试现场

大家好,我是吴师兄。

这一两年,很多同学在简历上写了“做过 LLM 应用”“做过智能问答系统”,但一到现场面试,面试官往往会抛出一个看似基础、实则杀伤力极大的问题:

这个问题如果回答不好,往往会直接暴露认知天花板。

但如果结合工程视角讲清楚,会让面试官立马知道: 这是一个真的做过工程落地,而不是停留在概念层面的候选人。

今天,我们把这个问题剖开讲透。

LLM 的“天花板”在哪里?

很多人在 ChatGPT 出来时感到震撼,但继续深入用就发现,它本质上仍是一个 被动的大型问答机

在直播中,我们总结过:

  • 没有“手”:无法执行真实动作,例如“把文件发给老板”。

  • 没有“感知”:无法访问实时天气、最新股票、网页信息。

  • 没有“记忆”:稍微长一点的对话就忘记历史。

一句话总结:

LLM 只擅长“生成”,但不会“行动”。

这也是为什么企业把 LLM 称为“文本生成器”,它能写文案、写代码,但无法完成真正的任务链路。

Agent 的出现,本质上是为 LLM 装上“大脑 + 手脚 + 记忆”

给 Agent 的来个定义:

Agent = LLM(大脑) + Planning(规划) + Memory(记忆) + Tools(工具)

这句话直接点明了 LLM 到 Agent 的进化方向。

如果把 LLM 比作一个“刚毕业的清北博士”,Agent 就是:

  • 给他配上 工具箱(工具调用)

  • 给他配上 互联网(感知模块)

  • 给他配上 工作笔记(长期记忆)

  • 给他配上 项目管理 SOP(规划模块)

于是,一个“会思考但不会干活的博士”,被改造成真正能完成任务的“数字员工”。

那到底什么是 Agent 的“规划(Planning)”?

LLM 的回答方式是“直觉型”的,一句话进,一句话出。

但现实任务极其复杂,需要多步骤思考。

例如让 Agent 做这样一个任务:

“帮忙分析哪家科技巨头去年在 AI 上投入最大。”

Agent 必须分解:

  1. 找财报

  2. 找各自的 AI 投入

  3. 判断来源是否最新

  4. 做对比

  5. 输出结论

Agent 的核心能力之一是:

  • Subgoal Decomposition(子任务拆解)

  • Reflection(自我反思)

也就是说它不仅能规划任务,还能执行后检查自己是否犯错。

这点是纯 LLM 完全做不到的。

Agent 的“记忆(Memory)”解决了 LLM 最关键的问题

LLM 的上下文是“滑动窗口式”,内容多了会被挤出去。 企业级需求中,很多对话必须跨轮次、跨任务。

例如:

“像上次一样帮我订票。”

如果没有 Memory,LLM 会完全忘记“上次”指什么。

Agent 利用:

  • 短期记忆(Context Window)

  • 长期记忆(向量库 + RAG)

来确保多轮任务的连续性。

Context Window 的载入方式 —— Messages List 才是真实记忆的根本机制。

对面试官来说,这句话能直接看出你是真做过工程的。

最关键的差异:Agent 具备“行动能力(Tool Use)”

这是 LLM 和 Agent 最本质的区别。

LLM:只会生成文本

Agent:可以执行动作

执行动作靠什么?

核心关键技术:

Function Calling(函数调用)是 Agent 技术的基石。

Function Call 的流程包括:

  1. 定义可用工具

  2. LLM 判断要调用什么

  3. 返回结构化 JSON

  4. 后端执行真正的 API

  5. 再把结果交给 LLM 整理

这让 LLM 能够:

  • 查实时数据

  • 写入数据库

  • 操作系统

  • 执行代码

  • 控制硬件

  • 甚至运营一个网站

从“问答机”进化成“执行者”,这是质变。

面试官真正想听到的总结

面试官的潜台词是:

“是否理解 LLM 的极限,以及 Agent 为什么是未来趋势?”

一个行业级回答应该是这样的:

  • LLM 是静态的文本生成器

  • Agent 是具备规划、记忆、行动能力的自治系统

  • 企业想要的不是聊天机器人,而是能真正 替人干活的数字员工

  • 这种能力必须依赖 Planning / Memory / Tool Use / Function Calling

  • Agent 技术才是企业真正愿意投入预算的方向

—— 本场面试完 ——

把题练成肌肉记忆。公众号「吴师兄学大模型」每周更新面试真题拆解;想系统上手 Agent 工程,看 AgentAlpha 训练营。