大家好,我是吴师兄。
这一两年,很多同学在简历上写了“做过 LLM 应用”“做过智能问答系统”,但一到现场面试,面试官往往会抛出一个看似基础、实则杀伤力极大的问题:
这个问题如果回答不好,往往会直接暴露认知天花板。
但如果结合工程视角讲清楚,会让面试官立马知道: 这是一个真的做过工程落地,而不是停留在概念层面的候选人。
今天,我们把这个问题剖开讲透。
LLM 的“天花板”在哪里?
很多人在 ChatGPT 出来时感到震撼,但继续深入用就发现,它本质上仍是一个 被动的大型问答机。
在直播中,我们总结过:
-
没有“手”:无法执行真实动作,例如“把文件发给老板”。
-
没有“感知”:无法访问实时天气、最新股票、网页信息。
-
没有“记忆”:稍微长一点的对话就忘记历史。
一句话总结:
LLM 只擅长“生成”,但不会“行动”。
这也是为什么企业把 LLM 称为“文本生成器”,它能写文案、写代码,但无法完成真正的任务链路。
Agent 的出现,本质上是为 LLM 装上“大脑 + 手脚 + 记忆”

给 Agent 的来个定义:
Agent = LLM(大脑) + Planning(规划) + Memory(记忆) + Tools(工具)
这句话直接点明了 LLM 到 Agent 的进化方向。
如果把 LLM 比作一个“刚毕业的清北博士”,Agent 就是:
-
给他配上 工具箱(工具调用)
-
给他配上 互联网(感知模块)
-
给他配上 工作笔记(长期记忆)
-
给他配上 项目管理 SOP(规划模块)
于是,一个“会思考但不会干活的博士”,被改造成真正能完成任务的“数字员工”。

那到底什么是 Agent 的“规划(Planning)”?
LLM 的回答方式是“直觉型”的,一句话进,一句话出。
但现实任务极其复杂,需要多步骤思考。
例如让 Agent 做这样一个任务:
“帮忙分析哪家科技巨头去年在 AI 上投入最大。”
Agent 必须分解:
-
找财报
-
找各自的 AI 投入
-
判断来源是否最新
-
做对比
-
输出结论
Agent 的核心能力之一是:
-
Subgoal Decomposition(子任务拆解)
-
Reflection(自我反思)
也就是说它不仅能规划任务,还能执行后检查自己是否犯错。
这点是纯 LLM 完全做不到的。
Agent 的“记忆(Memory)”解决了 LLM 最关键的问题
LLM 的上下文是“滑动窗口式”,内容多了会被挤出去。 企业级需求中,很多对话必须跨轮次、跨任务。
例如:
“像上次一样帮我订票。”
如果没有 Memory,LLM 会完全忘记“上次”指什么。
Agent 利用:
-
短期记忆(Context Window)
-
长期记忆(向量库 + RAG)
来确保多轮任务的连续性。
Context Window 的载入方式 —— Messages List 才是真实记忆的根本机制。
对面试官来说,这句话能直接看出你是真做过工程的。
最关键的差异:Agent 具备“行动能力(Tool Use)”
这是 LLM 和 Agent 最本质的区别。
LLM:只会生成文本
Agent:可以执行动作
执行动作靠什么?
核心关键技术:
Function Calling(函数调用)是 Agent 技术的基石。

Function Call 的流程包括:
-
定义可用工具
-
LLM 判断要调用什么
-
返回结构化 JSON
-
后端执行真正的 API
-
再把结果交给 LLM 整理
这让 LLM 能够:
-
查实时数据
-
写入数据库
-
操作系统
-
执行代码
-
控制硬件
-
甚至运营一个网站
从“问答机”进化成“执行者”,这是质变。
面试官真正想听到的总结
面试官的潜台词是:
“是否理解 LLM 的极限,以及 Agent 为什么是未来趋势?”
一个行业级回答应该是这样的:
-
LLM 是静态的文本生成器
-
Agent 是具备规划、记忆、行动能力的自治系统
-
企业想要的不是聊天机器人,而是能真正 替人干活的数字员工
-
这种能力必须依赖 Planning / Memory / Tool Use / Function Calling
-
Agent 技术才是企业真正愿意投入预算的方向
