项目实战与企业级
从 demo 到生产的差距:私有知识、权限边界、可审计、业务集成、成本可控。项目题八成问的是这五件事。
本篇分类真题集
PICKED
本方向读法
LEARN PATH
本方向的取用顺序。要完整系统学,去主线课程第 10 章「项目深挖」(本方向归属章)。
先建立概念
0 个术语的一句话定义与机制,链到术语页。
这个方向的术语页在补,先从刷题开始。
刷透高频题
16 道速答题,每题一页:先这样答 → 面试官追问 → 回答的坑。下方题单收前 8 道,全部进分页列表。
深挖机制与选型
782 篇深度解析 + 1 篇对比选型,逐层拆到原理与工程取舍。
实战检验
项目面试包讲「项目怎么讲才扛住追问」;再按公司检验:五厂真题集。
速答题单
共 16 道
分类内题目
共 787 篇
教程深挖
深度解析与对比选型 · 3 篇
有 ChatGPT 为什么还要自建 Agent 系统
为什么企业宁愿自建 Agent 系统,也不直接用 ChatGPT?
为什么很多人做不出企业级 Agent:卡住的从来不是模型
为什么很多人做不出企业级 Agent?核心问题是哪几个?
2026 年 Agent 岗面试变天了:从「你用过什么」到「你能不能扛住四层追问」
2026 年 Agent 岗的面试筛选逻辑变成了什么样?
真题解析
宝典真题完整解析 · 779 篇 · 去真题库总览
为什么模型“记得某些知识”不等于它能稳定调用这些知识
面试官想看你是否理解LLM的“记忆”本质是参数化知识,而非人类式的语义记忆。考察类型是工程取舍+系统设计,刁钻点在于:候选人常把“模型能回答”等同于“模型稳定掌握”,忽略了注意力机制、训练分布、上下文冲突等工程瓶颈。答好
What is prompt engineering, and why is it important for LLMs
面试官想看的不是“背定义”,而是你能否区分 prompt engineering 是工程实践而非玄学。考察类型:概念 + 工程取舍。刁钻点在于:很多人把 prompt 等同于“写指令”,但面试官真正想听的是你理解 pro
What is the difference between zero-shot and few-shot prompting
面试官想考察你对 LLM 核心能力——上下文学习(In-Context Learning, ICL)的理解深度,而非简单背诵定义。刁钻点在于:你是否能说清 zero-shot 和 few-shot 在模型推理机制上的本质
What is a system prompt, and how does it differ from a user prompt
这道题看似基础,但面试官真正想看的不是你对“系统提示词”和“用户提示词”的字典式定义。它属于工程取舍与系统设计的考察类型。刁钻点在于:候选人能否从“API 调用中的两个字段”上升到对话系统的控制平面与数据平面分离的设计哲
Why is context important in designing prompts
面试官想看的不是“上下文很重要”这种废话,而是你能否从系统设计和工程取舍角度拆解:上下文如何影响 LLM 的推理质量、如何量化其效果、以及如何避免“给太多”或“给太少”的陷阱。刁钻点在于:很多人只会背“上下文提供背景”,
How would you structure a prompt to ensure the LLM output is in a specific format, like JSON
面试官真正想看的不是你会不会写“output JSON”这句话,而是你对 LLM 输出控制的工程化理解。这道题属于工程取舍 + debug 类型,刁钻点在于:LLM 本质是概率生成器,你无法强制它输出合法 JSON,只能
What are the different phases in LLM development
面试官想看你是否具备 LLM 开发全流程的宏观视野,而非仅停留在“训练模型”的单一概念。这道题是典型的“系统设计+概念梳理”型问题,刁钻点在于:候选人常把“微调”和“对齐”混为一谈,或忽略数据工程和评估迭代的工程价值。答
What are the different types of LLM fine-tuning
面试官想考察你对 LLM 微调技术栈的系统性分类能力,以及工程取舍的敏感度。这题看似基础,但刁钻点在于:能否区分“全参数微调”与“参数高效微调(PEFT)”的适用场景,并解释为什么 LoRA 成为主流。答好了能展示:你不
How do you prevent overfitting during fine-tuning
面试官想看的不是“背出过拟合定义”,而是你在资源受限(小数据集、高参数量)的微调场景下,如何系统性地平衡模型容量与泛化能力。考察类型是工程取舍 + debug。刁钻点在于:候选人常只提“早停”或“Dropout”,但无法
| Q12 | What is tokenization, and why is it necessary in LLMs
这道题看似基础,但面试官真正想看的不是“背定义”,而是你对 LLM 底层数据流(text → tokens → embeddings → logits)的系统性理解。考察类型是“概念 + 工程取舍”。刁钻点在于:很多人能
为什么上下文越长不一定效果越好
面试官想考察你是否真正理解 Transformer 架构在长上下文场景下的理论瓶颈与工程取舍,而非仅仅背诵“注意力复杂度 O(n²)”。刁钻点在于:你能否区分“模型能处理多长”和“模型有效利用多长”是两回事。答好了能展示
| Q36 | Can you briefly explain the difference between LLM training and inference
面试官想确认你是否真正理解 LLM 的生命周期,而不仅仅是背概念。这道题看似基础,但刁钻点在于:训练和推理在计算图、内存、精度、优化目标上的本质差异,以及这些差异如何影响工程决策。答好了能展示你对深度学习全流程的掌控力,
| Q37 | What is latency in LLM inference, and why is it important
面试官真正想看的是:你是否能清晰定义 LLM 推理延迟的两个核心维度(首 token 延迟 vs. 逐 token 延迟),并理解其对实际系统(如聊天机器人、实时翻译)的致命影响。这是典型的“背概念 + 工程取舍”题,刁
| Q38 | What is batch inference, and how does it differ from single-query inference
面试官想确认你是否真正理解 LLM 推理的底层工程原理,而非仅背概念。这题看似基础,但“刁钻点”在于:你是否能区分静态批处理(static batching)和动态批处理(continuous batching),以及能
| Q39 | How does batching generally help with LLM inference efficiency
面试官想考察你对 LLM 推理底层原理的理解,而非简单背诵“批处理能加速”。核心是看你能不能从 GPU 计算模型(SIMT)、内存带宽瓶颈、以及计算与通信重叠三个角度,解释“为什么批处理能提升吞吐量,但并非无脑增大 ba
| Q55 | What is the purpose of temperature in LLM inference, and how does it affect the output
面试官想考察你是否真正理解温度参数(Temperature)的数学原理与工程实践,而非仅背诵“低温确定、高温多样”的教科书定义。这是典型的“背概念+工程取舍”混合题,刁钻点在于:多数人只知其一,不知其二——比如温度如何与
| Q56 | What is autoregressive generation in the context of LLMs
面试官想确认你是否真正理解 LLM 生成文本的底层机制,而非只会调 API。这是“背概念”题,但刁钻点在于:很多人能说出“逐个 token 生成”,却说不清因果注意力掩码的具体形状、KV cache 为何能加速、以及它与
| Q66 | What is mixed precision, and why is it used during inference
面试官想考察你对混合精度推理的底层理解,而非简单背诵定义。这是一道“概念+工程取舍”题,刁钻点在于:多数人只知混合精度训练(AMP),却忽略推理场景下精度选择(FP16/BF16 vs FP32)的权衡。答好了能展示你对
| Q70 | How do you measure LLM inference performance
面试官想看你是否真正理解 LLM 推理性能的“多维性”,而非只背指标。考察类型是工程取舍 + 系统设计。刁钻点在于:候选人常只提延迟或吞吐,忽略质量-效率的 trade-off(如量化后 perplexity 上升多少可
| Q71 | What are the different LLM inference engines available
面试官想考察你对 LLM 推理生态的广度认知和工程选型能力。这题看似是“背概念”,但刁钻点在于:你是否理解不同引擎背后的核心优化思想(如 PagedAttention vs. 算子融合),以及能否根据硬件、延迟、成本等约
什么是 lost in the middle
面试官想考察你是否真正理解大模型在长上下文场景下的“反直觉”行为,而不仅仅是背概念。这是典型的工程取舍+系统设计题,刁钻点在于:候选人往往只说出“模型记不住中间内容”,但答不出背后的注意力机制缺陷、位置编码衰减、以及训练
| Q74 | What is Chain-of-Thought prompting, and when is it useful
面试官想看你是否真正理解 Chain-of-Thought(CoT)的本质,而不仅仅是背定义。考察类型是 概念理解 + 工程取舍。刁钻点在于:CoT 不是万能药,它何时失效、为什么失效、以及如何用变体弥补,才是区分“会用
| Q77 | What is prompt engineering, and why is it important for LLMs
面试官想确认你是否真正理解提示工程(Prompt Engineering)的本质——它不是“写咒语”,而是通过结构化输入来约束LLM的生成空间,从而提升输出质量、减少幻觉、控制格式。考察类型是“背概念+工程取舍”,刁钻点
| Q78 | What is the difference between zero-shot and few-shot prompting
面试官想考察你对 LLM 提示工程基础概念的掌握深度,而非简单背诵定义。真正想看的是:你是否理解两种策略背后的模型行为差异(预训练 vs. 上下文学习)、工程选型权衡(成本 vs. 效果),以及实际落地中的坑(示例质量、
| Q81 | What is a system prompt, and how does it differ from a user prompt
面试官想考察你对 LLM 交互机制的理解深度,而非简单背诵概念。这是典型的“背概念+工程取舍”混合题,刁钻点在于:很多人能说出“系统提示定义角色,用户提示提问题”,但无法解释为什么需要这种分离、系统提示的优先级如何实现、
| Q84 | Why is context important in prompt design
面试官想看你是否真正理解“上下文”在 prompt 设计中的核心作用,而不仅仅是背概念。考察类型是工程取舍:你需要解释上下文如何影响模型输出质量,并权衡信息量与模型能力(如注意力衰减、窗口限制)。刁钻点在于:很多人只会说
| Q107 | What is gradient accumulation, and how does it help with fine-tuning large models
面试官想确认你是否真正理解梯度累积的底层机制,而非只会背“模拟大batch”的结论。考察类型是工程取舍+debug,刁钻点在于:① 能否讲清梯度累积与Batch Normalization的冲突(很多候选人栽在这);②
| Q110 | What is the difference between casual language modeling and masked language modeling
面试官想确认你是否真正理解两种预训练范式的核心差异,而非仅背出“GPT是自回归,BERT是双向”。考察类型是概念辨析+工程取舍。刁钻点在于:能否从注意力机制、训练目标、下游适配三个维度展开,并点出各自在计算效率、生成质量
| Q111 | How do LLMs handle out-of-vocabulary (OOV) words
面试官想看你是否理解现代LLM处理OOV的核心机制——不是靠词表硬匹配,而是通过子词分词将OOV拆解为已知片段。考察类型是概念+工程取舍,刁钻点在于:候选人常停留在“用BPE解决OOV”的表面,但说不出BPE、WordP
| Q115 | What is the significance of self-supervised learning in LLM pretraining
面试官想考察你对 LLM 预训练核心机制的理解深度,而非简单背诵“自监督学习”的定义。这是一道“背概念 + 工程取舍”混合题。刁钻点在于:候选人常把“自监督”等同于“无监督”,或只提 Next Token Predict
What are the typical distance metrics used for similarity search in vector databases, and why are they chosen
面试官想考察你对向量数据库底层原理的理解深度,而不仅仅是背诵几个距离公式。这题看似基础,但刁钻点在于:为什么选这个度量,而不是那个? 答好了能展示你从“会用”到“懂为什么这么用”的硬实力——包括对 embedding 模
长文本输入会带来哪些典型问题
面试官想看你能否系统性地拆解长文本输入带来的多维问题,而非只背一两个“显存爆炸”或“Lost in the Middle”。这是一道系统设计 + 工程取舍题,刁钻点在于:你需要区分理论瓶颈(如注意力复杂度)和实际落地坑(
What are the frameworks or libraries used for LLM finetuning
面试官想考察你对 LLM 微调工具链的实战选型能力,而非简单罗列框架名称。这道题看似基础,但刁钻点在于:能否区分不同框架的适用场景、显存优化原理和工程取舍。答好了能展示你对分布式训练、显存管理(ZeRO、梯度检查点)和社
What is the primary objective of the pretraining phase for a Large Language Model (LLM)
面试官想看的不是“预训练就是学语言”这种空泛定义,而是你能否精准区分预训练与微调的本质差异,并理解其核心目标——通过自监督学习从海量文本中捕获可迁移的通用语言表示(词汇、句法、语义、世界知识),而非针对特定任务优化。刁钻
What is tokenization in the context of LLM pretraining, and why is it important
面试官想考察你是否真正理解 tokenization 不是“切词工具”,而是 LLM 预训练的输入瓶颈和性能杠杆。这是典型的概念 + 工程取舍题,刁钻点在于:多数人只会背 BPE 流程,但答不出词汇表大小如何影响训练吞吐
How is the performance of an LLM typically evaluated during or after the pretraining phase
面试官想考察你对 LLM 评估体系的系统性理解,而非简单罗列指标。核心是区分内在评估(如 perplexity)与外在评估(如 benchmark 准确率),并理解两者的关联与脱节。刁钻点在于:你是否知道 perplex