从会回答到会做事:认识 Transformer、LLM 与 AI Agent
从机器学习、Transformer 和大语言模型出发,沿着一个评价分析案例看懂检索、工具调用、固定工作流与 AI Agent 的真实关系。
本文目录 15 节 · 展开收起
AI / LANGUAGE MODEL / AGENT · 一份技术图解入门
同样一句“帮我分析这些商品评价”,有的 AI 只会告诉你怎么做;有的系统却能读取评价、整理问题、核对资料,再把结果保存成报告。
这并不是因为后一种 AI 突然“拥有了手脚”。更准确地说,它是把模型的语言能力接到了外部资料、程序工具和任务控制机制上。
要理解这件事,需要分清三个层次:模型为什么能产生有用的输出、应用怎样让它接触外部世界,以及谁来决定下一步要做什么。 我们沿着同一个假设案例,从早期 AI 讲到今天的 Agent。
贯穿全文的案例(教学假设):一家电商企业每天收到大量键盘评价,希望识别主要问题、核对售后规则,并形成可追溯的运营报告。下文用于说明技术机制,不代表某套真实系统已经实现这些功能,也不宣称任何实际准确率。
一、从写规则到让机器学习:AI 最早在解决什么?
如果要找出商品评价里的质量问题,最容易想到的方法是写规则:出现“坏了”就标记故障;出现“没反应”就标记连接异常。
这种方法的优点非常直接:判断条件清楚、执行稳定、容易核查。但用户可能写“连接总是断断续续”“用了三天就连不上”,也可能写“不是说它坏了,只是不会配对”。关键词一多,规则就容易漏掉变化、误判否定句,维护也会越来越困难。
**机器学习(Machine Learning)**提供了另一条路:收集已有标签的评价,让算法从例子中学习文本特征与问题类别之间的关系,再尝试分类新评价。这里的“学习”不是程序获得了人类经验,而是训练过程调整了模型内部的参数,使预测更符合训练目标。
**深度学习(Deep Learning)**通常指使用多层神经网络学习数据表示的方法。它属于机器学习的重要分支;机器学习又属于更广泛的人工智能(AI)研究与实践。AI 还包含推理、搜索、规划等不必都依赖深度学习的技术路线。
这个区别也解释了一个常见误解:人工智能不等于 ChatGPT,也不是直到大语言模型出现才开始研究。 1955 年的达特茅斯研究计划已明确讨论让机器使用语言、形成抽象概念和解决问题;1956 年夏季项目常被视为 AI 学科历史上的重要节点。来源:达特茅斯原始研究计划。
概念关系 · 谁属于哪一层?
Agent 属于系统/行为层面的概念:可以使用模型,也可以组合规则、工具与其他算法,并不被画进“深度学习的下一层”。
代表性节点 · 发生了什么?
- 1955–56达特茅斯 AI 研究计划与夏季项目
- 1995智能 Agent 已有系统性的理论与架构研究
- 2012深度学习在图像识别取得代表性进展
- 2017Transformer 论文发表
- 2018–20生成式预训练语言模型持续发展
- 2020–22RAG、ReAct 等研究扩展检索与行动能力
- 近年LLM 与工具、工作流和 Agent 系统加速结合
理解了“从规则到学习”,还没有回答语言里最棘手的问题:同一个词放在不同上下文里,意思可能完全不同。
二、Transformer:为什么模型需要关注上下文?
想象两条评价:
“这个键盘很轻,出差携带方便。”和“这个键盘的按键很轻,容易误触。”
同样出现“轻”,第一条更接近便携性的优点,第二条可能在描述按键触发力度的问题。只抓取单个词,很难理解它在句子中的作用。
神经网络处理文字,需要先将输入切分成 Token,再映射为数值表示。Token 是模型分词器使用的单位,可能是字符、字词片段或其他片段,并不等于汉语的一个字或英语的一个词。
2017 年发表的 《Attention Is All You Need》 提出 Transformer 架构。它的重要机制之一是 Self-Attention(自注意力):计算一个位置的表示时,让网络依据当前内容,综合序列中其他可访问位置的信息。模型借此学习上下文相关的表示,而不只是给一个词查固定词典。
可能指重量轻、便于外出
可能指触发力度小
原始 Transformer 还包含位置信息、前馈网络等组成部分,并使用编码器—解码器结构。今天常见的自回归文本生成模型多采用 仅解码器(decoder-only) 等架构变体,不能把所有 Transformer 模型画成同一套固定结构。
相比当时广泛采用的循环式序列建模方法,Transformer 允许在许多训练计算中更充分地并行处理序列位置,这是它获得广泛应用的重要原因之一;但注意力机制并不是在 2017 年才第一次出现。2012 年以 AlexNet 为代表的视觉深度学习进展,也说明现代 AI 的发展有多条并行研究线索,而不是 Transformer 单独开启了一切。
那么,这种能够处理上下文的网络,怎样变成一个会写回答的语言模型?
三、LLM:一句回答究竟是怎样生成的?
**大语言模型(Large Language Model,LLM)**是在大量数据上训练、能够处理和生成语言等内容的模型。许多现代 LLM 使用 Transformer 变体,但“LLM”描述的是模型的规模与语言能力范畴,“Transformer”描述的是架构,两者不是同义词。
对常见的自回归语言模型来说,基础训练目标之一是:根据已有上下文,预测下一个 Token。 训练会调整海量参数,让模型逐渐学到语法、表达、文本中的模式与大量统计关联。之后的指令微调、偏好优化等后训练方法,又会改变它响应任务和对话的方式。
当你输入“请总结这批评价的主要问题”,模型在一次推断过程中,根据输入上下文与已有参数,计算下一 Token 的候选分布,再按照解码策略选出一个;把它接到已有内容后继续生成,直到达到结束条件。
这里有两个容易混淆的阶段:
- 训练:通过数据和计算修改模型参数,通常是事先完成的过程。
- 推断:使用已经训练好的参数处理当前输入、计算并输出结果。你在聊天框里提供新信息,通常不会因此直接改写模型参数。
2018 年的 GPT 早期研究展示了生成式预训练与语言任务相结合的潜力;2020 年 GPT-3 研究展示了扩大语言模型规模与少样本任务表现之间的重要联系。2022 年 ChatGPT 的发布,则让对话式使用方式得到更广泛的公众关注。这些是代表性节点,不是说语言模型到这些年份才诞生。
既然模型能够根据海量文本形成有用的表示,它也可能生成看似合理却不符合事实的内容。“生成了一个答案”与“答案经过核实”是两件事。 参数里的知识并不是实时数据库,模型也不天然知道企业今天更新了哪些规则。
四、Prompt、RAG 和工具调用:模型怎样接触外部世界?
假设电商公司刚修改售后规则,而我们要求 AI:“按最新规定检查昨天的评价,并把需要处理的问题整理成报告。”
只靠模型已有参数不够。要区分三种能力:
Prompt:把任务说明白
Prompt 是交给模型的输入,包括任务目标、背景、约束和示例。“按最新规则判断”是一项要求,但仅仅写下这句话,并不会自动让模型拥有最新规则。
RAG:先找资料,再辅助生成
**RAG(Retrieval-Augmented Generation,检索增强生成)**把检索到的外部材料提供给模型,帮助它基于相关资料回答问题。例如先找到现行售后政策,再让模型对照评价判断。2020 年的 RAG 代表性论文系统研究了结合预训练模型与外部检索信息生成文本的方法。
检索增强的是信息来源与可追溯性,不是事实正确性的保证:找错文件、材料过期、解读错误,结果仍可能出错。
Tool Calling:请求程序执行一个动作
如果模型需要“打开评价表、读取数据、计算数量、保存文件”,就不能只停留在文字回答。
使用工具调用(Tool Calling)时,应用可以提供有名称、参数和权限边界的工具。例如模型产生一个“读取指定评价表”的调用请求,由外部程序或受管理的工具环境真正执行,再把执行结果交回模型。对于一些托管工具,平台会负责执行;但模型生成调用内容本身仍不等于动作完成。参考:OpenAI 工具调用文档。
这三者不是谁取代谁:
| 机制 | 主要回答的问题 | 单独使用时的边界 |
|---|---|---|
| Prompt | 你希望模型做什么? | 不会凭空提供模型拿不到的资料 |
| RAG | 相关外部资料在哪里? | 找到资料并不等于完成业务动作 |
| 工具调用 | 怎样读取、计算或执行? | 请求动作仍需授权、执行和验证 |
一个应用可以同时使用三者;也可以只用 Prompt 或 RAG 完成某类任务,并不一定需要 Agent。
五、Workflow 和 Agent:谁来决定下一步?
现在模型会整理文字、检索资料,也能提出工具调用请求。但当任务有多个步骤时,还有一个更关键的问题:执行路线是事先写好的,还是需要运行时根据结果动态决定?
固定 Workflow:步骤由程序预先安排
例如每天的评价日报始终是:读取数据 → 去重 → 分类 → 汇总 → 生成报告 → 按规则交付。
系统早已定义执行步骤和条件,模型可能在其中负责分类、摘要或写作。这仍然可以是一个使用 AI 的强大工作流,优势在于流程容易控制、测试和重复执行。
Agent:允许模型动态选择部分行动
另一项任务是:“查出最近‘连接断开’投诉增多的原因。”
事先很难确定完整调查路线。模型可能先检查问题集中在哪些型号,再请求查看固件版本、售后记录或已知故障说明;看见新证据后,决定继续调查哪个方向。如果资料不足,它也应该承认无法下结论。
在本文采用的工程定义中,Agent 指能围绕目标、依据执行反馈,由模型动态选择部分后续步骤或工具的系统。这并非全行业唯一的定义;Agent 的概念早在 LLM 出现前就存在。1995 年的 《Intelligent Agents: Theory and Practice》已系统讨论智能 Agent 的理论与架构。
- 读取昨天的评价
- 按既定规则整理、汇总
- 调用模型撰写日报
- 检查条件并交付
- 收到“调查连接故障”的目标
- 依据现有信息选择工具
- 执行查询,观察真实结果
- 根据反馈决定继续或结束
这一工程区分也见于 Anthropic 的 《Building Effective Agents》:工作流主要由预设代码路径协调,Agent 则把更多执行控制交给模型。对定义存在差异的现实保持清楚,比争论哪个产品“算不算 Agent”更有帮助。
Agent 不天然比 Workflow 高级。 如果每天的评价日报始终遵循相同规则,固定流程可能更便宜、更快、更容易审计;如果下一步取决于未知调查结果,动态决策才可能有价值。真正实用的系统常常把两种方式结合起来。
六、一个 Agent 真正做事时,谁负责什么?
把刚才的异常调查放进实际软件系统,过程大致是这样的:
- 用户设定目标:“调查近七天连接故障评价增加的原因。”
- 系统提供允许读取的数据、背景规则和可用工具。
- 模型根据上下文选择下一步,提出工具及参数。
- 工具执行环境检查权限,再执行真实查询。
- 工具返回数据、错误或其他结果。
- 模型结合反馈决定继续查询、形成结论、请求人工确认或结束。
- 系统核对交付条件,记录实际完成的动作与证据。
这里最容易发生的误解,是把“模型说已经保存报告”当成“文件已经保存成功”。真正可靠的执行,需要拿到工具结果,并检查文件、记录或业务状态是否满足目标。工具调用失败、写入权限不足或报告内容缺失,都应该如实反映。
这种“获取反馈后再选择行动”的思路,与 2022 年的 ReAct 研究存在明确联系。不过 ReAct 是一项代表性研究,并非所有 Agent 都必须使用相同的推理输出形式或循环实现。
多 Agent 是不是下一阶段的必然选择?
不一定。假如一项复杂调查可以拆成互相独立的“型号统计”“售后规则核查”“故障记录调查”,多个 Agent 可以分别处理,再由协调者合并证据。但它们也会带来重复查询、结论冲突、通信成本及协调复杂度。能够由单个 Agent 或确定性程序清楚完成的任务,没有必要为了“更智能”而强行拆分。
多 Agent 只是组织系统的一种方案,不是比单 Agent 更先进的固定等级。
七、Agent 的能力边界:能行动,不代表应该放手
从回答问题到执行动作,最大的变化不仅是效率,还包括错误可能造成的实际影响。
生成一份报告草稿,即使内容有误,通常还可以在交付前修改;自动向客户发送错误承诺、批量更改库存或删除资料,则可能带来直接损失。
因此需要区分三件事:
| 行动 | 适合的控制方式 | 原因 |
|---|---|---|
| 读取非敏感公开资料、生成草稿 | 可以相对自动化,保留必要验证 | 主要风险在信息质量 |
| 修改内部业务数据、对外发送内容 | 明确权限、对象范围及交付校验 | 会产生真实业务后果 |
| 大规模删除、资金操作等高风险动作 | 更严格的审批、审计与防误操作机制 | 错误可能难以撤销 |
即使模型表现良好,也会受数据质量、上下文限制、工具故障与任务不确定性影响。检索到的网页或文档是待判断的信息,不应该因为被模型读到了,就自动变成更高优先级的指令。 这也是 Agent 系统需要防范提示注入和越权调用的原因之一。
未来,模型、工具和任务执行环境可能在可靠性、长期任务处理、评估和协作方面继续改善;但哪些领域能够实现多高程度的自主化,仍取决于具体系统、成本、权限和现实验证,不能当成已经确定的结论。
结语:把三个层次分开,才能真正理解 Agent
我们从一个非常普通的评价分析任务出发,看到三层不同的进展:
模型层:从人工规则与机器学习,到能处理上下文并生成内容的语言模型。
连接层:通过 Prompt、检索与工具,让模型获得当前任务的资料,并提出外部动作。
系统层:用 Workflow 或 Agent 组织步骤、权限、状态和反馈,把“可能正确的回答”变成“经过核对的任务结果”。
AI Agent 的价值不是神秘的自主意识,而是把模型的动态判断嵌入可执行、可验证的系统。适合固定流程的任务,就用固定流程;确实需要边观察边决定的任务,再考虑 Agent。
如果想进一步理解怎样设计这样的执行系统,可以继续阅读 《如何设计一个可维护的自动化 Agent 工作流》;如果想看它如何与商品评价、真实数据和交付状态结合,可以阅读 《电商评价分析 Agent》。
资料与进一步阅读
以下优先列出原始研究及官方技术资料。文章中的业务场景与机制图为教学示意,并非对真实模型内部状态的测量。
- McCarthy 等,《达特茅斯人工智能研究计划》,1955:AI 早期研究议题。
- Wooldridge 与 Jennings,《Intelligent Agents: Theory and Practice》,1995:智能 Agent 的早期理论与架构。
- Vaswani 等,《Attention Is All You Need》,2017:Transformer 原始论文。
- OpenAI,生成式预训练语言模型研究,2018;GPT-3 研究,2020:语言模型能力发展。
- Lewis 等,《Retrieval-Augmented Generation》,2020:检索增强生成。
- Yao 等,《ReAct》,2022:语言模型与环境行动结合。
- OpenAI,Function Calling 官方文档:调用请求、外部执行与结果反馈。
- Anthropic,《Building Effective Agents》,2024:Workflow 与 Agent 的工程划分(非唯一学术定义)。