先这样答
核心区别是底层范式的变化。NLP 时代把任务定义在数据集上。工程师拿到需求后需要先拆解问题。文本分类和序列标注各管一段。每一个子任务都需要构造专属的训练数据。大家针对具体任务去定制特定的模型架构。这种做法导致模型和任务强绑定。一个模型只能解决一个特定问题。任务之间存在明确的边界。
LLM 时代把任务定义在提示词上。模型先通过大规模预训练学习通用知识。工程师接着使用指令微调技术对齐具体需求。这套流程彻底打通了传统 NLP 的任务边界。现在你只需要修改输入给模型的提示词。同一个大模型就能直接处理分类、抽取或者生成任务。模型本身不再为单一任务做定制开发。
这是美团大模型应用算法一面常考的开场题。面试官想看你有没有建立起大模型时代的工程直觉。你在这里把范式演进的层次感答出来。面试官对你的技术视野预期就会变高。后续提问的质量也会随之改变。
面试官会怎么追问
-
「你提到指令微调打通了任务边界,具体是怎么做到的?」 指令微调把各类传统任务统一转换成问答形式。工程师把分类或抽取需求写成自然语言指令。模型学习根据这些指令生成对应的文本回复。统一的输入输出格式消除了不同任务在模型结构上的差异。
-
「现在任务定义在提示词上,那以前构建数据集的工作还有价值吗?」 高质量数据集依然有核心价值。现在的数据集主要用于模型的指令微调阶段。数据格式从特定任务标签变成了指令和回复对。工程师依然需要清洗和构造这些数据来规范模型的输出行为。
-
「如果不为任务定制模型,遇到特定领域的复杂任务怎么处理?」 工程师现在首选在提示词层面做优化。你可以通过提供少样本示例来引导模型。如果提示词无法解决问题,再考虑对模型进行微调。微调依然沿用通用大模型架构去更新参数。
回答的坑
只罗列模型参数量变大,没有讲透底层任务定义方式的根本转变。
在开场题陷入具体算法细节,忘记先给出范式变化的宏观结论。
同系列的题