一边竞速，一边喊停：AI巨头的矛盾时刻

（来源：麻省理工科技评论）

上周末，Anthropic CEO 达里奥·阿莫迪（Dario Amodei）发表了一篇文章，呼吁放慢 AI 大语言模型的开发速度。在他看来，这项技术带来的风险正在迫近，从网络攻击、生物恐怖主义，到对经济体系造成严重冲击，都值得警惕。

更引人注意的是，美国另外三家顶尖 AI 实验室的负责人都公开表示支持，包括 OpenAI CEO 山姆·奥特曼（Sam Altman）、Google DeepMind 董事长德米斯·哈萨比斯（Demis Hassabis），以及 SpaceXAI CEO 埃隆·马斯克（Elon Musk）。

“Dario 是对的。”马斯克在社交媒体 X 上写道。

稍微想一想，就会发现这个场面多少有些超现实。就在几个月前，马斯克和奥特曼还在法庭上互相攻击对方的信誉。那场最终败诉的官司由马斯克发起，对象正是他的 OpenAI 前同事奥特曼。至少从诉讼表面来看，争议的核心之一，正是奥特曼是否值得信任，能否妥善管理这样一种可能十分危险的技术。

阿莫迪与 OpenAI 之间的裂痕甚至更深。Anthropic 之所以在 2021 年成立，一个重要原因是阿莫迪认为，奥特曼没有足够认真地对待他们正在开发的技术所带来的风险。此后，Anthropic 和 OpenAI 一直处在一场近乎赢家通吃的竞争中。哈萨比斯虽然基本置身这些争议之外，但 Google DeepMind 同样是它们的直接竞争对手。

而现在，这几家公司似乎突然达成了共识：最新一代 AI 大语言模型并不够安全，所有人都必须想办法解决这个问题。顶尖 AI 实验室对外释放的信号，明显开始带上更浓厚的“末日风险”色彩。

当然，人们完全有理由对此保持怀疑。首先，目前根本没人说得清所谓“放慢速度”究竟意味着什么，又该如何真正实施。这些公司同样非常在意自己的公众形象。OpenAI 和 Anthropic 都将万亿美元级 IPO 视为潜在目标，它们既需要向投资者证明自己是房间里最成熟、最负责任的那群人，又希望暗示自己已经造出了极其强大的“怪物”，而且有能力将其驯服。

呼吁放慢 AI 开发速度，恰好可以同时实现这两个目的。不过，几家公司的高层氛围似乎确实发生了变化。阿莫迪发表这篇文章的六天前，OpenAI 首席科学家雅库布·帕乔基（Jakub Pachocki）也发布了一篇文章，解释了为什么如果大语言模型继续以当前速度发展，他会感到担忧。简单来说，帕乔基担心的是，OpenAI 制造强大模型的能力，已经远远超过了监控和控制这些模型的能力。

阿莫迪和帕乔基都提到了今年 7 月发生的OpenAI 智能体攻击 AI 公司 Hugging Face 的事件。当时，一群 OpenAI 智能体对 Hugging Face 发起网络攻击，而直到整个事件结束几天后，OpenAI 才意识到攻击曾经发生。两人都把这起事件视为一次警钟。

但仔细看，他们究竟主张什么，其实并没有那么清楚。帕乔基一方面呼吁放慢 AI 开发，另一方面又强调，保持领先同样十分紧迫。“在我看来，继续快速训练更聪明模型最有力的理由，是我们需要建立防御系统，应对其他 AI 带来的危险。”他写道。

按照帕乔基的逻辑，AI 公司实际上已经陷入了一场真正意义上的军备竞赛。放慢速度当然很好，但赢得比赛更重要。别忘了，就在不久前，OpenAI 还投入了数百万美元和惊人的算力，只为了赶在 Anthropic 前几天发布一项充满争议的数学研究成果。

不过，我们不妨假设这些公司真的决定减速。顶尖 AI 实验室达成共识，不再把主要时间和资源用于开发更强大的模型，而是投入更多精力寻找监控和控制现有模型的方法，同时邀请外部审计机构参与模型评估。

这样的协调行动，究竟能够解决什么问题？

还是回到 Hugging Face 遭攻击的事件。OpenAI 表示，当时驱动大多数失控智能体的，是一款正在内部测试的下一代模型。公司将它描述为“高度执着”（highly persistent）。这样的表述很容易让人产生一种印象：OpenAI 已经制造出了一个强大到危险的模型。

但如果仔细阅读 OpenAI 和第三方 AI 评估机构 METR 发布的调查报告，得出的结论可能完全不同。OpenAI 曾邀请 METR 协助调查这起事件，而从两份报告呈现的信息来看，真正的问题似乎并不是模型强大到 OpenAI 无法驾驭，而是 OpenAI 根本没有把这个模型训练好。

这些智能体之所以会留下信息互相沟通、把任务分配给其他智能体，甚至搜索环境中一切可能帮助自己完成任务的方法，是因为在训练过程中，它们恰恰因为做这些事情而获得了奖励。训练设置本身也存在问题。例如，有些任务实际上根本无法完成，这迫使模型寻找意料之外的替代路径，而这些行为同样得到了奖励。当时，许多问题要么没有被发现，要么没有得到充分报告。

OpenAI 表示，公司已经停止训练这款新模型，并将其封存起来。这样的说法听起来，仿佛 OpenAI 刚刚把一头危险的野兽重新关进笼子里。但从另一个角度看，它其实只是搁置了一款存在缺陷的产品。

当然，这并不意味着有缺陷的产品就不危险。历史上，软件故障确实曾经导致人员死亡。但随着“放慢 AI 发展速度”的讨论越来越热，有一点值得记住：眼下这些问题，很大程度上都是 AI 公司自己制造出来的。减速或许确实会带来一些有益的附带效果，但更直接的作用，可能只是给这些科技巨头多一点时间，让它们有机会收拾自己生产线上留下的烂摊子。

如果真想改革、约束或监管前沿 AI，提高这些顶尖实验室的透明度至关重要。否则，无论 AI 发展的速度是快还是慢，外界依然只能依靠这些公司自己告诉我们：它们究竟造出了什么，以及这些东西到底有多安全。

https://www.technologyreview.com/2026/09/14/1144048/the-ai-industry-has-taken-a-doomer-turn-what-now/