AI Agent 与大模型 API：从问答引擎到任务决策引擎的范式跃迁
AI Agent 与大模型 API：从问答引擎到任务决策引擎的范式跃迁
深度调研报告 | 2026年7月 面向技术开发者的全面技术分析
摘要
本报告系统性地回答了一个在2025-2026年AI工程领域被高频提出的问题：AI Agent 与直接调用大模型 API 到底有什么区别？ 通过三轮递进式调研——综合网络调研、学术/技术深挖、交叉验证与综合分析——本报告从结构、能力、交互、记忆四个维度厘清了二者的本质差异，梳理了从 ReAct 到多智能体协作的架构演进脉络，揭示了当前技术"能力承诺远超实际交付"的冷峻现实，并为开发者提供了一条从 API 到 Agent 的渐进式工程化路径。
核心发现可以浓缩为一句话：大模型 API 是"用完即弃"的文本生成服务，AI Agent 是"持续进化"的自主任务系统。 前者回答"说了什么"，后者解决"做了什么"。这一区别不是量变，而是质变。然而，Gartner 预测到2027年底超过40%的 Agentic AI 项目将被取消，AgentBench 和 WebArena 的学术评测也显示 GPT-4 在真实网页环境仅获14.41%的任务完成率——冷现实提示我们，Agent 技术正处于爆发前夜，但当前能力水位远低于市场宣传。
1. 引言
1.1 研究背景
2023年被视为AI Agent的学术奠基年——ReAct、HuggingGPT、Reflexion、Self-Refine 四篇标志性论文均发表于 ICLR/NeurIPS 等顶级会议。2024年是评测与反思年，AgentBench 和 WebArena 揭示了能力的真实水位。2025-2026年，Agent 进入工程化与治理年，LangGraph 1.0、AutoGen v0.4、CrewAI 2.x 等框架相继发布稳定版本，企业级部署从概念验证走向规模落地。
然而，随着"Agent"一词成为行业热词，概念雾化现象日益严重。什么才叫 Agent？给大模型加上 Function Calling 就是 Agent 吗？Agent 和我直接调 GPT API 加几行编排代码有何不同？这些问题不仅关乎概念厘清，更直接影响技术选型和工程投入。据 Grand View Research 数据，AI编排市场2025年规模已达110.2亿美元，预计到2034年将膨胀至664.8亿美元 (Grand View Research, 2025, AI Orchestration Market Size Report)。IDC 数据显示，2025年中国企业级 Agent 市场规模已达190亿元，预计未来三年复合增长率超过110% (IDC, 2025, China Enterprise AI Agent Market Tracker)。全球57%的企业已在生产环境部署多步工作流AI Agent (McKinsey, 2025, The State of AI Survey)。但 Gartner 同时预测，到2027年底超过40%的 Agentic AI 项目将被取消 (Gartner, 2026, Predicts 2024: AI Trust, Risk and Security Management)。
这一矛盾格局——天文数字的市场预期与严酷的工程现实并存——正是本报告的研究出发点。
1.2 研究方法
本报告采用三轮递进式调研方法：第一轮综合网络调研覆盖8个产业源，聚焦行业趋势、框架对比与企业落地实践；第二轮学术/技术深挖覆盖13篇核心学术论文（含5篇 ICLR/NeurIPS 论文），从理论框架和评估基准层面验证和深化第一轮发现；第三轮交叉验证将两轮发现按主题对比综合，识别共识与矛盾，形成整合分析。
1.3 报告结构
本报告按以下逻辑组织：第2章厘清 Agent 与 API 的本质区别；第3章梳理架构范式的演进脉络；第4章分析当前技术局限性与评估结果；第5章提供工程化路径与实践指南；第6章讨论未解争议与未来方向；附录提供完整参考文献和源质量评估。
2. 本质区别：从"问答引擎"到"任务决策引擎"
2.1 结构维度：无状态函数 vs 分层系统
大模型 API 的交互模式可以概括为"一问一答"的线性流程。用户发送一段提示词（Prompt），模型返回一段文本（Completion），交互周期在此终结。从软件架构的角度看，这是一个典型的无状态函数——调用结束即遗忘，每一次调用都是全新的起点。模型既不知道上次调用的结果，也不关心下次调用是否与这次有关。正如腾讯云开发者社区 deephub 的文章所指出的："单轮提示-响应的交互根本没有任何的意义，而真正有意义的跃迁发生在AI开始具备这些能力的时候：思考、规划、行动、观察、循环往复，这和我们处理复杂问题的方式几乎一致" (deephub, 2026-03-31, 构建生产级 AI Agent 系统的4大主流技术, 腾讯云开发者社区)。
AI Agent 的架构则是一个分层的自主执行系统。复旦大学 Wang 等人（2024）在综述论文 "A Survey on Large Language Model based Autonomous Agents" 中，将 Agent 架构拆解为四个核心模块：规划（Planning）、记忆（Memory）、工具使用（Tool Use）和行动（Action）(Wang et al., 2024, A Survey on Large Language Model based Autonomous Agents, Frontiers of Computer Science, arXiv:2308.11432)。Lilian Weng（2023）在其标志性博文中提出了广为引用的公式——Agent = LLM + Planning + Memory + Tool Use (Weng, 2023, LLM Powered Autonomous Agents, lilianweng.github.io)。这一公式虽然出自博客而非经同行评审的论文，但其被学术共同体引用的频率之高——超过许多正式发表论文——使其具备了事实上的学术权威性。
其中，记忆模块是区分 Agent 与纯 API 调用的关键结构性差异。API 的"记忆"仅限于单次调用的上下文窗口，对话结束即归零。Agent 的记忆则是分层持久的：短期记忆承载当次任务的中间结果，长期记忆存储跨任务的经验与知识。Wang 等人将记忆细分为短期记忆（上下文窗口内的即时信息）和长期记忆（外部向量数据库、知识图谱等持久化存储），这一维度在产业叙述中常被忽视，但实际上是 Agent 区别于 API 的核心分水岭 (Wang et al., 2024)。
2.2 能力维度：静态集 vs 开放集
大模型 API 的能力边界由训练数据和模型参数固化，能力天花板在部署时即已锁定。模型能回答什么、不能回答什么，取决于训练语料覆盖了什么。对于训练后发生的实时信息、企业内部的专有数据、需要动手操作的系统交互，API 只能"不知道"或"编一个看起来合理的回答"（即幻觉问题）。
Agent 的能力则通过工具调用（Tool Use）动态扩展。工具的本质是将 LLM 从"只会说话"的封闭世界拉入可以触达数据库、搜索引擎、代码解释器、API 接口、文件系统的真实世界。学术研究对工具学习（Tool Learning）的探索已形成两条成熟路线：Toolformer（Schick et al., 2023, NeurIPS 2023 Oral）代表自监督学习路线，让模型自主发现工具使用的时机和方式——在文本中采样潜在的 API 调用位置，执行调用后将结果插入原文，通过困惑度过滤决定哪些调用值得保留，最终用增强后的数据集微调模型 (Schick et al., 2023, Toolformer: Language Models Can Teach Themselves to Use Tools, NeurIPS 2023, arXiv:2302.04761)；Gorilla（Patil et al., 2023）代表检索增强微调路线，基于 LLaMA 架构在 Torch Hub、TensorFlow Hub 和 HuggingFace 三个大规模 API 数据集上微调，并引入文档检索器动态获取最新 API 文档，在 APIBench 评测上甚至超过了 GPT-4 (Patil et al., 2023, Gorilla: Large Language Model Connected with Massive APIs, arXiv:2305.15334)。
二者的差异不只是"能不能调工具"——纯 API 调用也能通过 Function Calling 触达外部世界——而是工具调用的编排方式。CSDN 的架构分析文章强调了一个关键区分："普通工具调用是单步的、无依赖关系的，而规划模块会构建一个完整的、可调整的执行路径" (CSDN, 2026-07-10, 2026新版 AI Agent 三大核心开发范式详解)。这意味着 Agent 的工具使用不是孤立的调用，而是嵌入在推理-行动循环中、受规划模块协调的系统性行为。
2.3 交互维度：被动响应 vs 主动推进
API 交互是单轮的请求-响应范式，用户承担全部编排责任——组织提示词、解析输出、处理异常、串联步骤。用户的每一步动作都需要自己发起、自己判断结果、自己决定下一步。
Agent 交互则是多轮自主循环。以 ReAct 范式为例，Yao 等人（2023）提出的核心机制是让 LLM 在推理（Reasoning）和行动（Acting）之间交替迭代：模型先生成推理步骤（以"Thought"前缀标记），再选择并执行动作（以"Action"前缀标记），观察环境反馈后继续推理 (Yao et al., 2023, ReAct: Synergizing Reasoning and Acting in Language Models, ICLR 2023, arXiv:2210.03629)。这种"边想边做"的范式使 Agent 能根据中间结果灵活调整策略，而非沿着预设路径机械推进。
从交互方式、输出形式、信息获取、记忆跨度、出错处理五个维度，Chatbot（即大模型 API 的直接调用）与 Agent 存在系统性差异：交互方式从被动响应变为接收目标后自主执行；输出形式从纯文本变为文本加实际操作；信息获取从依赖训练知识变为实时查询和即时调用；记忆跨度从仅限当前对话窗口变为跨步骤、跨会话持续积累；出错处理从可能生成幻觉变为检测错误并自主修正 (CSDN, 2026-06-07, AI Agent四大主流框架深度对比报告)。
2.4 记忆维度：瞬时状态 vs 持久积累
这是两个视角交叉验证后浮现的最具区分力的维度，也是产业叙述中被最严重低估的维度。
API 的"记忆"是上下文窗口内的瞬时状态。对话一旦结束，所有的中间推理、用户偏好、历史交互结果全部归零。每次调用都是一张白纸。即使依赖对话历史拼接来模拟"上下文"，这本质上仍是手动编排，而非 Agent 的自主记忆管理。
Agent 的记忆则是分层持久的。短期记忆承担当次任务的上下文管理——跟踪已执行的步骤、收集的中间结果、待解决的问题。长期记忆则存储跨任务的经验与知识——成功的策略、失败的教训、用户的偏好、环境的规律。Reflexion 框架（Shinn et al., 2023, NeurIPS 2023）进一步将记忆提升为"行动-评估-反思-存储"的动态学习循环，使 Agent 具备了"从失败中学习"的能力 (Shinn et al., 2023, Reflexion: Language Agents with Verbal Reinforcement Learning, NeurIPS 2023, arXiv:2303.11366)。这意味着 Agent 不会在同一个错误上反复跌倒——至少理论上如此。
值得警惕的是，反思机制存在潜在陷阱。自我确认偏差（Self-Confirmation Bias）意味着 Agent 可能在反思中强化而非纠正自身错误——一个"自信地坚持错误"的 Agent 比一个"承认不知道"的 API 更具破坏性。这一点在后文的技术局限性章节中将深入讨论。
小结： 综合四个维度，Agent 与 API 的本质区别可浓缩为一个判断——API 是"用完即弃"的文本生成服务，Agent 是"持续进化"的自主任务系统。这不是能力大小的量变，而是能否闭环的质变。
3. 架构范式：从单步调用到多智能体协作的演进
3.1 ReAct：推理-行动交替循环
ReAct 是当前最流行的 Agent 规划方式，由普林斯顿大学与谷歌大脑团队的 Yao 等人于2022年提出，发表于 ICLR 2023。其核心洞察是让 LLM 在推理（Thought）和行动（Action）之间交替推进——每一步行动的结果都成为下一步推理的输入，形成闭环。
ReAct 的实验证明，这种"边想边做"的范式在 HotPotQA 和 ALFWorld 等基准上显著优于纯推理（Chain-of-Thought）和纯行动（Action-Only）两种极端模式，且产生了更具可解释性的推理轨迹 (Yao et al., 2023)。CSDN 上2026年7月的文章指出，"ReAct依靠思考行动交替循环实现动态任务处理"，适合简单任务和即时响应场景，如日常问答、一次性信息搜索和基础工具调用 (CSDN, 2026-07-10)。
然而，后续研究揭示了 ReAct 的结构性弱点——推理漂移（Reasoning Drift）。在长链推理中，Agent 的中间推理步骤逐渐偏离原始目标。这就像一个人在思考复杂问题时被各种细节带偏，最后忘了最初要解决什么。这一弱点直接催生了对更结构化范式的需求。
3.2 Plan-and-Execute：先规划后执行
Plan-and-Execute 范式与 ReAct 那"边走边拆"的风格形成对照。它要求 Agent 在动手之前一次性生成完整的执行计划，然后按顺序逐步执行。腾讯云 deephub 的文章以两阶段描述了这一模式：Phase 1 是在 Planning 阶段生成完整的步骤序列，Phase 2 是在 Execution 阶段逐步执行 (deephub, 2026-03-31)。
这一范式的学术根基可追溯至 HuggingGPT（Shen et al., 2023, NeurIPS 2023），由微软研究院与浙江大学联合完成。HuggingGPT 提出了一种"LLM 作为控制器"的架构：ChatGPT 负责任务分解和模型选择，HuggingFace 上的专家模型负责具体执行 (Shen et al., 2023, HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in Hugging Face, NeurIPS 2023, arXiv:2303.17580)。这种"先规划后执行"的模式在多模态任务上展现了优势，但 Shen 等人也坦诚指出其三大局限——规划依赖性强（一旦初始规划错误则全盘失败）、效率问题（串行执行导致延迟累积）和令牌长度限制。
Huang 等人（2024）在综述 "Understanding the Planning of LLM Agents" 中进一步将规划策略细化为五种类型：单路径分解、多路径分解、反思驱动重规划、外部规划器辅助和记忆增强规划 (Huang et al., 2024, Understanding the Planning of LLM Agents: A Survey, arXiv:2402.02716)。这比简单的"ReAct vs Plan-and-Execute"二元架构丰富得多，Plan-and-Execute 实际上是一个方法论家族。
3.3 Function Calling：底层能力还是独立范式？
这是产业界与学术界认知分歧最大的区域。一种观点认为，只要给大模型加上了 Function Calling 能力，它就变成了 Agent——这种观点在部分技术博客中相当普遍。另一种则坚持更严格的定义，认为 Agent 必须同时具备感知、规划、行动、反思四大模块的闭环才算真正的自主智能体。
学术视角给出了更精确的定位：Function Calling 不是与 ReAct、Plan-and-Execute 同层的架构范式，而是它们的底层能力。 ReAct 的"行动"步骤依赖 Function Calling 来触达外部世界，Plan-and-Execute 的"执行"步骤同样依赖它来分解为可操作的工具调用。"Function Calling 是否等于 Agent 的边界之争"恰恰源于层级混淆——如果将 Function Calling 等同于 Agent，就忽略了规划与记忆的不可或缺性；如果完全否认其独立地位，则无法解释大量"轻量 Agent"以 Function Calling 为核心架构的现实。
更合理的看法是：Function Calling 是 Agent 的必要条件而非充分条件，它定义了 Agent 能力的下界，但不定义其上界。 它可以独立构成"最小可行 Agent"（适用于简单场景），但完整 Agent 范式还需叠加规划与记忆。
3.4 反思机制：从静态模块到动态学习循环
Reflexion（Shinn et al., 2023, NeurIPS 2023）将"反思"从静态模块提升为动态学习循环。它提出了"口头强化学习"（Verbal Reinforcement Learning）的概念，让语言智能体通过自然语言反思（而非权重更新）从失败中学习。架构包含三个模型：执行者（Actor）生成文本和动作，评估者（Evaluator）对输出进行打分，自我反思模型（Self-Reflection）生成语言反馈存储在记忆中供后续尝试使用 (Shinn et al., 2023)。
Self-Refine（Madaan et al., 2023, NeurIPS 2023）从另一角度佐证了这一方向：该论文证明 LLM 可以通过"生成→反馈→精炼"的迭代循环，在无需外部监督或额外训练的情况下持续改进输出质量 (Madaan et al., 2023, Self-Refine: Iterative Refinement with Self-Feedback, NeurIPS 2023, arXiv:2303.17651)。
反思机制的升级标志着 Agent 架构从"执行器"向"学习者"的范式跃迁。 API 是无状态的单次调用，而具备反思能力的 Agent 是有状态的多轮试错学习系统——这是二者深层差异的根源。
3.5 多智能体协作：从确定性编排到涌现式协作
Microsoft Research 的 AutoGen（Wu et al., 2023）采用"对话即编排"（Conversation-as-Orchestration）的设计哲学：多个具备不同角色和能力的智能体通过自然语言对话协作解决复杂任务 (Wu et al., 2023, AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation, arXiv:2308.08155)。不同于传统工作流引擎将流程硬编码，AutoGen 让智能体在对话中动态协商任务分配、互相批评纠正并自然终止，这代表了从确定性编排到涌现式协作的范式转变。
然而，ICLR 2024 上获得最高评分的 Agent 论文提出了基于标准操作程序（SOP）的多智能体框架，通过角色扮演和结构化对话来解决"简单连接多个 LLM 导致不可控性"的问题——这实际上是对纯粹涌现式协作的修正。2024-2025年的工业实践趋势也验证了这一点：从纯粹的 Agent 自主性向 "Workflow + Agent"混合模式回归，在灵活性与可控性之间寻求平衡。
3.6 Agent 成熟度模型
综合以上范式演进，本报告提出一个类似自动驾驶分级的 Agent 成熟度模型，作为贯穿技术讨论的概念框架：
| 级别 | 名称 | 能力特征 | 典型实现 |
|---|---|---|---|
| L0 | 纯 API 调用 | 无状态、单轮请求-响应 | requests.post("openai-api", ...) |
| L1 | API + Function Calling | 可调用外部工具，但无规划循环 | OpenAI Function Calling |
| L2 | L1 + 记忆 | 短期/长期记忆，跨会话上下文 | LangChain ConversationChain + VectorStore |
| L3 | L2 + 规划循环 | ReAct/Plan-Execute 自主拆解任务 | LangGraph ReAct Agent |
| L4 | L3 + 反思学习 | 从失败中学习，策略迭代 | Reflexion Agent |
| L5 | 多 Agent 自主协作 | 角色分工、动态协商、涌现协作 | AutoGen / CrewAI 多Agent系统 |
这一模型既保留了实践中的模糊地带（大量系统处于 L1-L2 之间），又提供了可操作的分类框架。
3.7 主流框架映射
2026年的 Agent 开发框架已从概念验证进入工程化选型阶段。CSDN 发布的四大框架深度对比报告对 LangChain/LangGraph、Microsoft AutoGen、CrewAI、Claude Code Agent SDK 进行了系统性分析 (CSDN, 2026-06-07)。网易的分析则提供更宏观的视角，指出市场上存在五家核心选择：LangGraph、微软 AutoGen、CrewAI、n8n 以及仍在演化中的模型上下文协议 MCP (网易, 2026-07-15, 2026年AI代理编排工具选型避坑)。
LangGraph 是 LangChain 团队推出的新一代 Agent 框架，2025年10月发布1.0正式版，GitHub 星标超过33,900。其核心创新在于"图状态机"（Graph State Machine）——将 Agent 的执行流程建模为有向图，每个节点代表处理步骤，每条边代表状态转移条件。内置原生检查点机制和"时间旅行调试"能力。特别适合对执行路径控制和流程可观测性有严格要求的企业级场景（金融审批、医疗诊断辅助、法律合规分析），但学习曲线陡峭。
AutoGen 于2025年底发布 v0.4 正式版，采用 Actor 模型架构实现异步事件驱动。没有中心化规划器节点，任务执行路径不是预先定义的，而是由多个 Agent 在运行时通过动态协作推进。天然支持分布式部署，但流程可预测性较差。已与 Semantic Kernel 合并为 Microsoft Agent Framework（MAF）。特别适合需要多个专家角色反复讨论、对抗式论证的复杂决策任务。
CrewAI 通过"角色-任务-团队"三层声明式抽象简化多 Agent 协作编排，学习成本最低，2.x 版本拥有45k GitHub 星标。特别适合快速搭建多角色协作系统的原型开发。
网易的比喻精准地点出了选型核心原则："这五个东西解决的问题根本不重叠，硬拿来横向打分，就像拿锤子、菜刀和瑞士军刀比谁更能切菜"——选型应回归业务需求本身，而非寻找"最强框架"。
4. 技术局限性与评估：冷现实
4.1 学术评估的严酷数据
AgentBench（Liu et al., 2024, ICLR 2024）对25个主流 LLM 进行了系统评测，覆盖操作系统、数据库、知识图谱、卡牌游戏等8个环境。GPT-4 的综合表现远超其他模型，而大部分开源模型在多数环境中几乎无法获得有效分数 (Liu et al., 2024, AgentBench: Evaluating LLMs as Agents, ICLR 2024, arXiv:2308.03688)。
WebArena（Zhou et al., 2024, ICLR 2024）构建了高度仿真的网页环境，包含812个自然语言指令。结果更为严峻：即使是当前最强的 GPT-4，在真实网页环境中的任务完成率也仅为14.41% (Zhou et al., 2024, WebArena: A Realistic Web Environment for Building Autonomous Agents, ICLR 2024, arXiv:2307.13854)。
这两个数字——14.41% 的任务完成率——是对所有"Agent 无所不能"叙事最严厉的修正。它意味着当前最先进的 Agent 系统，在面对真实世界的复杂交互时，每7个任务中会失败6个。
4.2 具体技术瓶颈
推理漂移（Reasoning Drift）： ReAct 范式在长链任务中的目标偏离问题，学术端有精确诊断 (Yao et al., 2023)，产业端体现为"Agent 跑偏"的运维痛点。一旦 Agent 的中间推理逐渐偏离原始目标，后续所有步骤都在错误方向上累积，最终产出与预期南辕北辙。
工具选型可靠性： Toolformer 和 Gorilla 代表的两条工具学习路线各有局限——自监督学习难以覆盖长尾工具，检索增强依赖工具描述质量。产业端观察到 Function Calling 的幻觉问题——模型可能调用不存在的工具或传递错误参数。
反思的自我确认偏差： Reflexion 的"口头强化学习"可能让 Agent 在反思中强化而非纠正错误。这在产业实践中极为危险——一个"自信地坚持错误"的 Agent 比一个"承认不知道"的 API 更具破坏性。当前关于自我确认偏差的实证研究几乎空白，这是一个亟待深入的领域。
多智能体可控性： AutoGen 的"对话即编排"在理论上赋予了系统涌现式解决问题的能力，但在工程实践中带来了不可控性。CrewAI 用声明式编排试图规避此问题，但本质上只是将可控性压力从"运行时"转移到了"设计时"。
4.3 产业冷信号
Gartner 预测到2027年底超过40%的 Agentic AI 项目将被取消，上千家自称 Agent 的供应商中只有约130家是"真正的"代理型 AI 供应商 (Gartner, 2026)。这暗示当前市场存在大量将简单工具调用包装为 Agent 的"伪Agent"现象。
40% 取消率与14.41% 完成率并非巧合，而是同一问题的两面：当前 Agent 技术的真实能力水位与市场宣传之间存在显著鸿沟。 Agent 1 观察到的"框架选型权威性分歧"（各框架各有拥趸而无共识）实际上也是技术不成熟的表现——成熟技术栈通常会收敛到少数几个主导方案。
4.4 评估方法论本身的局限
当前评测几乎完全采用"任务完成率"作为核心指标，但 Agent 的实际价值可能更依赖于"优雅降级"能力——即在无法完美完成任务时，能否识别自身局限、请求人类介入或提供部分有用的结果。Huang 等人（2024）指出，对 Agent 规划能力的评估需要同时考察规划质量、规划效率和规划鲁棒性三个维度，当前评测体系对后两者关注严重不足 (Huang et al., 2024)。
此外，AgentBench 和 WebArena 的任务类型偏重数字操作型任务，对创意-决策型任务覆盖不足。这意味着 Agent 在某些场景的实际表现可能优于评测数字，但在评测覆盖的场景中，问题只会比数字显示的更严重而非更好。
5. 工程化路径：从 API 到 Agent 的渐进指南
5.1 企业落地的三种路线
中国经济新闻网归纳了三条差异化路线 (中国经济新闻网, 2026-07-10, 内嵌型、平台型与底座型，2026年 AI Agent 实战路径解析)：
内嵌型以小鹅通为代表。AI 不是单独使用的工具，而是融入业务系统本身的智能能力——用户不需要切换平台或学习新界面，AI 就在日常操作的每一个环节里自动发挥作用。小鹅通已将 AI Agent 贯穿私域运营全链路，并接入 OpenClaw 实现"一句指令直接执行"。适合面向 C 端用户、对学习成本零容忍的业务场景。
平台型以递蓝科技（股票代码02556.HK）为代表。构建通用的智能体创建平台，通过标准化模板批量生成各类 AI Agent。AI-Agentforce 平台已具备多角色编排和协同执行技术栈，2025年上半年 AI 部分业务实现超1亿元收入。适合需要跨行业、跨场景批量生成 Agent 的 B 端服务场景。
底座型以华为和阶跃星辰为代表。聚焦底层大模型和基础设施，为上层应用提供"水电煤"级的支撑。华为基于盘古大模型面向政务、运营商、金融等行业提供"集约化+敏捷部署"的服务能力。适合对底层技术自主可控有强烈诉求的大型央国企。
5.2 Agent 成熟度驱动的渐进路径
综合产业实践与学术洞察，为开发者提炼一条从 API 到 Agent 的渐进路径：
Phase 0 — 能力评估： 在启动任何 Agent 项目前，用 AgentBench 思维评估目标任务的复杂度。如果任务可被3步以内的单链推理解决，API + 少量编排足矣，无需 Agent。过度工程化是当前 Agent 项目失败的主因之一。
Phase 1 — API + Function Calling + 记忆增强（L1→L2）： 从 API 的 Function Calling 能力出发，叠加短期记忆（对话历史管理）和长期记忆（向量数据库/RAG），形成"增强型 API"。这不是完整的 Agent，但已能覆盖大量实用场景——客服问答、文档检索、数据查询等。
Phase 2 — ReAct 循环 + 反思校验（L2→L3→L4）： 引入推理-行动循环解决多步任务，同时加入反思校验机制。关键工程原则：反思需外部锚定——内部反思循环必须搭配外部评估信号（人类反馈、规则引擎、独立评估 Agent），以对冲自我确认偏差。单一 Agent 的自我反思存在自我确认偏差风险，需要"第二意见"。
Phase 3 — Plan-and-Execute + 人工介入点（L3→L4）： 对复杂任务转向先规划后执行范式，在关键决策节点保留人工审批（Human-in-the-Loop），避免推理漂移的失控后果。
Phase 4 — 多 Agent 协作 + 治理层（L4→L5）： 规模化部署时引入多智能体编排，同时建立治理层——可观测性、权限控制、成本审计、回滚机制。CSDN 上智泊AI的深度分析指出，Agent 的商业化落地须经历四个阶段——任务特定型、通用多 Agent、战略级规划、治理闭环——不可跨越，试图一步到位的企业失败率超过70% (CSDN, 2026-06-01, 从"会聊天"到"能决策"：AI Agent商业实战进化四部曲)。
5.3 框架选型务实建议
| 任务特征 | 推荐框架 | 核心理由 |
|---|---|---|
| 单 Agent、流程可预见 | LangGraph | 状态图可视化便于调试推理漂移 |
| 多 Agent、对话式协作 | AutoGen | 对话即编排降低开发门槛 |
| 多 Agent、角色明确 | CrewAI | 声明式角色定义提升可维护性 |
| 任何场景 | 必须搭配可观测性基建 | LangSmith/LangFuse 等在线调试 |
5.4 三条核心工程原则
-
记忆先行： 在架构设计阶段优先确定记忆策略（短期/长期分层、存储介质、过期策略），而非作为事后补丁。学术界的研究表明，记忆模块是被严重忽视的维度，但其对 Agent 性能的影响可能超过规划模块。
-
反思需外部锚定： 内部反思循环必须搭配外部评估信号（人类反馈、规则引擎、独立评估 Agent），以对冲自我确认偏差。
-
渐进式自主性： Agent 的自主决策范围应随可靠性验证逐步扩大，而非一次性全自主。这与航空航天的自主等级模型一致——从L0到L5，每级升级都需通过严格验证。
6. 未解争议与未来方向
6.1 Agent 性：离散阈值 vs 连续谱系
是否存在一个明确的阈值，使得系统从"带工具调用的 API"跃迁为"真正的 Agent"？还是说这一属性是连续的渐变谱系？Masterman 等人（2024）在综述中隐含地采用了谱系观，将系统按自主程度从 Reactive Agent 到 Autonomous Agent 排列，但并未给出明确的分界标准 (Masterman et al., 2024, The Landscape of Emerging AI Agent Architectures, arXiv:2404.11584)。本报告提出的 L0-L5 Agent 成熟度模型是一种调解尝试——既承认连续谱系的存在，又提供可操作的分级标准。
6.2 多智能体系统的可预测性
AutoGen 的"对话即编排"在理论上赋予了系统涌现式解决问题的能力，但在工程实践中带来了不可控性。2024-2025年工业趋势是从纯粹的Agent自主性向"Workflow + Agent"混合模式回归。SOP框架的出现是对纯粹涌现式协作的修正。灵活性与可控性之间的张力将持续存在。
6.3 反思机制的有效性边界
Reflexion 和 Self-Refine 在相对简单的任务（编程竞赛、文本改写）上展示了令人印象深刻的效果，但在需要长程依赖和复杂错误诊断的开放域任务中，"自我反思"是否能避免自我确认偏差仍然是一个未充分验证的假设。实证研究几乎空白，这是未来研究的重要方向。
6.4 Agent 自主决策的法律责任
当 Agent 开始参与现实经济活动甚至完成支付时，谁为其财税后果负责？Coinbase 与 Chainalysis 数据显示，截至2026年上半年仅在 x402 网络中 AI Agent 之间已累计完成大量自主交易 (百家号, 2026-07-14, 当 AI Agent 开始自主决策，谁为其财税后果负责？)。技术上 Agent 越来越自主，但治理和合规框架远未跟上技术步伐。
6.5 产业趋势展望
从行业维度看，制造业的落地最为深入——工信部2025年人工智能应用典型案例名单中，实在智能凭借实在 Agent 通用智能体平台入选工业赛道代表 (数商云, 2026-05-29, 企业级AI Agent落地标杆案例)。金融领域对准确性、稳定性和合规性提出了最严苛的要求。医疗行业仍处于辅助决策阶段。零售业以万店掌 CamClaw 为代表，实现了从"人工→决策→执行"到"系统→决策→人工协同执行"的范式转变。
参考文献
学术论文（A-B级来源）
-
Yao, S., Zhao, J., Yu, D., Du, N., Shafran, I., Narasimhan, K., & Cao, Y. (2023). ReAct: Synergizing Reasoning and Acting in Language Models. ICLR 2023. arXiv:2210.03629
-
Schick, T., Dwivedi-Yu, J., Dessì, R., et al. (2023). Toolformer: Language Models Can Teach Themselves to Use Tools. NeurIPS 2023 (Oral). arXiv:2302.04761
-
Patil, S., Zhang, T., Wang, X., & Gonzalez, J. (2023). Gorilla: Large Language Model Connected with Massive APIs. arXiv:2305.15334
-
Shinn, N., Cassano, F., Gopinath, A., Narasimhan, K., & Yao, S. (2023). Reflexion: Language Agents with Verbal Reinforcement Learning. NeurIPS 2023. arXiv:2303.11366
-
Madaan, A., Tandon, N., Gupta, P., et al. (2023). Self-Refine: Iterative Refinement with Self-Feedback. NeurIPS 2023. arXiv:2303.17651
-
Wang, L., Ma, C., Feng, X., et al. (2024). A Survey on Large Language Model based Autonomous Agents. Frontiers of Computer Science, 18(6), 186345. arXiv:2308.11432
-
Liu, X., Yu, H., Zhang, H., et al. (2024). AgentBench: Evaluating LLMs as Agents. ICLR 2024. arXiv:2308.03688
-
Zhou, S., Xu, F. F., Zhu, H., et al. (2024). WebArena: A Realistic Web Environment for Building Autonomous Agents. ICLR 2024. arXiv:2307.13854
-
Shen, Y., Song, K., Tan, X., et al. (2023). HuggingGPT: Solving AI Tasks with ChatGPT and its Friends in Hugging Face. NeurIPS 2023. arXiv:2303.17580
-
Wu, Q., Bansal, G., Zhang, J., et al. (2023). AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation. arXiv:2308.08155
-
Huang, X., Liu, W., Chen, X., et al. (2024). Understanding the Planning of LLM Agents: A Survey. arXiv:2402.02716
-
Masterman, T., Sawtell, M., & Chao, A. (2024). The Landscape of Emerging AI Agent Architectures for Reasoning, Planning, and Tool Calling: A Survey. arXiv:2404.11584
权威博文（B-C级来源）
- Weng, L. (2023). LLM Powered Autonomous Agents. lilianweng.github.io/posts/2023-06-23-agent/
产业报告与行业分析（B-C级来源）
-
deephub (2026-03-31). 构建生产级 AI Agent 系统的4大主流技术. 腾讯云开发者社区. https://cloud.tencent.com/developer/article/2648535
-
Python_cocola (2026-06-07). AI Agent 四大主流框架深度对比报告. CSDN. https://blog.csdn.net/Python_cocola/article/details/161777350
-
CSDN (2026-07-10). 2026 新版 AI Agent 三大核心开发范式详解. https://blog.csdn.net/2301_76168381/article/details/162763695
-
CSDN (2026-06-01). 从"会聊天"到"能决策"：AI Agent商业实战进化四部曲. https://blog.csdn.net/2401_84204413/article/details/161598787
-
中国经济新闻网 (2026-07-10). 内嵌型、平台型与底座型，2026年 AI Agent 实战路径解析如何抉择？. https://www.cet.com.cn/wzsy/cyzx/10439118.shtml
-
网易 (2026-07-15). 2026年AI代理编排工具选型避坑. https://www.163.com/dy/article/L1RCADVR05561FZI.html
-
数商云 (2026-05-29). 企业级AI Agent落地标杆案例. https://www.shushangyun.com/article-36952.html
-
百家号 (2026-07-14). 当 AI Agent 开始自主决策，谁为其财税后果负责？. https://baijiahao.baidu.com/s?id=1870683800910437669
附录
A. 源质量评估
| 编号 | 来源 | 级别 | 说明 |
|---|---|---|---|
| 1-12 | 学术论文（ICLR/NeurIPS/综述） | A | 同行评审顶会论文，最高可信度 |
| 13 | Lilian Weng 博文 | B- | 未经同行评审但学术引用量极高 |
| 14-21 | 产业报告与行业分析 | B-C | 权威行业媒体，但未经学术验证 |
B. Agent 成熟度模型速查
| 级别 | 关键词 | 何时选用 | 典型技术栈 |
|---|---|---|---|
| L0 | 无状态API | 简单文本生成 | OpenAI API 直调 |
| L1 | Function Calling | 需要触达外部数据 | OpenAI Function Calling |
| L2 | +记忆 | 跨会话上下文 | LangChain + VectorStore |
| L3 | +规划循环 | 多步推理任务 | LangGraph ReAct Agent |
| L4 | +反思学习 | 需要从失败中改进 | Reflexion Agent |
| L5 | 多Agent协作 | 大规模复杂系统 | AutoGen / CrewAI |
C. 关键数据速查
- GPT-4 在 WebArena 真实网页环境任务完成率：14.41% (Zhou et al., 2024)
- Gartner 预测 Agentic AI 项目取消率：>40% (Gartner, 2026)
- AI编排市场2025年规模：110.2亿美元 (Grand View Research, 2025)
- 中国企业级 Agent 市场规模：190亿元 (IDC, 2025)
- 全球57%企业已部署多步工作流 AI Agent (McKinsey, 2025)
