RAG 救不了企业 Agent

每家公司都有一个进了 “概念验证” 就再没出来的 agent。

这不是夸张。麦肯锡 2025 年的调查显示，全球已有 88% 的企业在至少一个业务功能里常规使用 AI，其中 62% 已在实验或部署 AI agent。数字很漂亮，但同一份报告里另一个数字不太好看：真正报告出 EBIT 改善的企业，只有 39%。

换句话说：多数企业已经在跑 agent，但多数 agent 并没有挣到钱。

Gartner 的预测更直接。它说，到 2027 年底，超过 40% 的 agentic AI 项目将被取消，理由是成本上升、商业价值不清、风险无法控制。它还提醒了一件企业界心知肚明却不太说破的事：很多所谓 agent，不过是把聊天机器人、RPA 和老式流程自动化重新包装了一遍，本质没变，只是名字换了。

这种现象有个词，叫"agent washing"。

问题出在哪里？主流的解释是"模型还不够强"、"幻觉太多"、"工具调用不稳定"。这些都是事实，但都是表面。更深的一层是：大多数企业 agent 的失败，不在模型，在记忆。准确说，是在决策记忆的缺失。

那堆文档不能替它做判断

企业上 agent 的第一动作，几乎都是 RAG。

逻辑很自然：把内部知识库、合规文件、操作手册喂给模型，让它"知道"公司规则，然后代替人做决策。这条路走起来快，效果演示也好，但进入真实业务流程之后往往撑不住。

RAG 能做到的事是：从文档里检索出相关内容。它找得到"差旅报销政策第 3.2 条"，也找得到"客户退款操作规范 2023 版"。但它回答不了的问题是：这条规则现在还算数吗？它和另一条规则有没有冲突？在这个具体场景里，它的优先级是高还是低？

这就是决策上下文（decision context）和文档检索之间的本质区别。

一个人类新员工读完合规手册，并不等于他知道怎么做决策。他还需要时间去理解：哪些规则是硬约束，哪些可以灵活处理；哪条政策已经被一封内部邮件事实上废掉了；为什么同样的退款请求，某个大客户走的是绿色通道。这些东西写在文档里吗？不一定。写在 RAG 里吗？肯定没有。

企业的业务规则不是一张静态的表格，它是一套活的、有时序的、充满例外和优先级的系统。它有有效期：某个折扣政策在促销期结束后就失效了，但文档库里那条记录没有被删。它有冲突：客服手册说先退款，财务手册说先审批，agent 拿到两条规则，不知道谁更优先。它有例外：同样的情况，A 类客户走 A 流程，B 类客户走 B 流程，但例外本身不在任何手册里，只在老员工的肌肉记忆里。

把文档塞进向量数据库，agent 就能"知道"这些了吗？不能。

出了错，没有人能说清楚为什么

第二个失败层比第一个更难修。

假设 RAG 真的检索到了正确的规则，agent 也做出了一个决策，但决策是错的。接下来发生的事情，往往是：没有人知道为什么。

这是企业在 agent 部署里踩到的第二个坑，叫做决策不可追溯。

人类做决策是有路径的。他翻了哪几份文件，参考了哪条规定，做了什么权衡，这个过程是可以被问责的。但今天大多数 agent 的决策过程像一个黑箱：输入进去，结论出来，中间发生了什么，模型不解释，日志不记录，框架不支持审计。

这在 C 端应用里也许无所谓，但在企业环境里是致命的。客户投诉了，合规部门要查；监管机构来了，需要解释这笔交易为什么被批准；内部审计要了解这个 agent 在过去三个月里做了多少例外处理、模式是什么。

这些问题，今天多数企业 agent 都答不上来。

OpenAI 在它的企业 agent 构建指南里花了大量篇幅讲 guardrails，覆盖数据隐私、品牌行为、认证授权。微软在 2026 年发布的 agent governance 白皮书更直接地把 agent 定义成需要被管理的"数字员工"或操作主体，它有权限范围，有行为边界，有责任归属。这两个方向说的是同一件事：agent 不只是工具，它是一个行为主体，企业需要对它的行为负责。

但负责的前提是能看见。能看见的前提是有审计路径。这套基础设施，大多数 agent 框架现在都还没有。

越复杂的框架，越先死

第三个失败层更让人沮丧，因为它是自找的。

agent 热度起来之后，各种框架、编排平台、多智能体协作系统如雨后春笋。市场上有一种隐性假设：复杂度等于能力，更多的 agent 协作等于更强的自动化。于是很多企业在还没有跑通单一 agent 的情况下，就开始搭多 agent 系统，做任务拆解，做智能路由，做分布式决策。

结果这些系统更难调试，更难回滚，出了问题更难定位是哪个 agent 的错。

Anthropic 在自己的工程经验里给出了一个反直觉的结论：成功的 agent 实现，通常依赖简单、可组合的模式，而不是复杂框架。这不是在说模型能力不重要，而是在说企业 agent 的瓶颈，卡在工作流拆解、工具调用、评估与可控性这几件工程事情上。做不好这几件事，用再强的模型也没用。

这个判断和 Gartner 的观察是互相印证的。很多被取消的 agent 项目，死因不是"模型回答错了"，而是"系统太复杂，出了问题修不了，干脆放弃"。过度工程化是 agent 项目常见的死法之一，它往往在演示阶段非常惊艳，在真实运维里举步维艰。

SAP 时代有过类似的故事。很多企业买了 ERP，花了几年上线，最后发现系统太重，流程被绑架，定制化成本无底洞，还不如用 Excel 配几个脚本来得实在。企业 agent 今天走的这条弯路，和当年高度定制化 ERP 的弯路形状很接近。

Agent 的数量还在涨，问题没有消失

事情的另一面是：这些问题存在，但 agent 的部署不会因此停下来。

Gartner 预测，企业应用中的任务型 AI agent 占比将从 2025 年的不足 5% 增长到 2026 年底的 40%。这个数字不是靠企业自己搭的，是 Salesforce、ServiceNow、SAP、微软这些软件供应商把 agent 内嵌进了他们已有的产品里。用户不需要主动"上 agent"，只要续了软件的订阅，agent 就默默出现在工作流里了。

这件事创造了一种新的风险形态：企业以为自己没有 agent 问题，但 agent 已经在帮他们做决策了。

CRM 里的客户评分模型、工单系统里的自动分流、财务软件里的异常检测，这些东西正在从"辅助工具"悄悄变成"自动决策者"。只是它们的包装没有叫 agent，它们的决策路径同样不透明，它们触发的审计风险同样真实。

这意味着企业的应对窗口比他们想的要短。

赢家不一定是模型最强的那家

这一轮企业 AI 的真正竞争，不在模型。

模型的差距在缩窄。GPT-4 级别的能力正在变成白菜价，推理成本一直在降，开源模型已经可以本地部署。模型能力本身会越来越难以作为差异化的护城河。

真正的护城河，在基础设施。

能把企业知识库里的规则赋予时间有效性、优先级、例外条件；能给 agent 的每一步决策生成可审计的操作日志；能让 CIO 知道 agent 在权限边界内运行，能让法务部门拿到合规证据；能让业务团队用低代码工具修改 agent 的决策逻辑，而不需要每次找工程师改 prompt，做到这些事的公司，才是真正解决了企业 agent 的问题。

这不是模型问题，是产品问题。准确说，是一个没有被充分产品化的基础设施层——决策上下文管理、权限与治理体系、可解释审计路径，这三件事还没有一个主流平台把它做成开箱即用的东西。

现在的状况类似于 2010 年代初的数据仓库时代：每家企业都知道数据很重要，但大多数企业的数据治理靠的是几个懂 SQL 的人手动维护。后来 Snowflake 出现了，它做的不是"更强的数据库"，它做的是把数据治理变成了一个可以被非技术人员管理的基础设施产品。

企业 agent 现在等的，是那个"Snowflake 时刻"。

谁能先把决策上下文、权限管理和审计路径打包成一个产品，谁就不只是在卖 agent，而是在卖 agent 能活下去的土壤。

至于那 40% 最终会被取消的项目，它们的失败会留下一些有用的东西：一批知道"坑在哪里"的 CIO，和一个真正知道企业需要什么的市场需求。有时候，这才是推动基础设施产品真正成熟的那双手。

END本文来自至顶AI实验室，一个专注于对AI计算机、工作站及各类AI相关硬件设备，开展基于真实使用场景评测的研究机构。