AGI时代真的来了？可能只是炒作

（来源：麻省理工科技评论）

过去几个月，AI 圈可谓热闹非凡。

4 月底，Anthropic 声称，其模型 Claude Mythos 在发现软件漏洞方面的能力已经超过大多数安全专家。随后又发生了 OpenAI 的Hugging Face 黑客事件。在那之后，Anthropic（颇为自豪地）和 Meta（不太情愿地）也披露了涉及自家模型的类似事件。

紧接着，Anthropic 宣称其一个模型取得了数学领域的突破；很快，OpenAI 也宣布了自己的数学突破。最近，Anthropic 工程师雅各布·考克森（Jacob Coxon）宣布离职，并迅速引发广泛关注。他声称，Anthropic 和 OpenAI 正在“径直冲向能够自我改进的超级智能，并拿我们的生命做赌注”。

媒体对这些事件的报道大多充满惊叹，往往直接沿用了这些公司的“拟人化”叙事——这种叙事意在把它们的软件描绘成不仅能力强大，而且已经是初具雏形的“通用人工智能”（AGI, artificial general intelligence）。

那么，究竟发生了什么？我们真的正在见证一系列足以改变人类文明的重大技术突破？还是说，这一切更多只是营销？

在上述每一起事件中，科技公司都会大张旗鼓地进行宣传。在涉及未经授权的黑客攻击时，这种宣传甚至会以“公开认错”的形式出现，紧随其后的则是密集的媒体报道。然而，一旦相关领域的专家有时间仔细研究究竟发生了什么，呈现出来的故事往往截然不同，只是这样的后续声音通常得不到同等程度的媒体关注。

就所谓的“黑客”事件而言，网络安全专家认为，与其说这是“模型失控”或“AI 智能体创造文明”的故事，不如说真正的问题在于 OpenAI 的疏忽，以及它没有采用基本且早已成熟的安全实践。

至于那些所谓的数学突破，情况同样如此。OpenAI 曾在新闻稿中宣称，其最新聊天机器人 Astra 解决了一些“至少十年来在核心结果上一直没有取得进展”的开放问题。数学家最初对此感到“震惊”，但后来他们意识到，这些成果并不像“一开始看起来那么新颖”。此后，一些数学家指责该公司存在科研不端和剽窃行为，并再次强调，Astra 并没有实现所谓的“深刻智力飞跃”。

仅仅几周之后，OpenAI 又宣称自己取得了一项数学突破。而就在这一声明发布的两天前，纽约大学库朗数学科学研究所数学教授特里斯坦·巴克马斯特（Tristan Buckmaster）发布了一份引发巨大争议的声明，暗示 OpenAI 窃取了他人的研究成果，并进行了不当署名。

关于所谓“正在萌芽且危险的超级智能”的说法，并没有建立在良好的科学或工程实践基础之上。相反，这些叙事植根于超人类主义、优生学等意识形态，以及对于想象中的“未来数字人类”的一厢情愿。

值得思考的是，为什么计算机编程和数学会成为应用大语言模型及相关技术时如此受关注的领域。这不仅是因为它们经常被推崇为人类智力成就的巅峰，还因为这些领域涉及的问题有一个重要特点：一旦有人提出答案，就可以对答案进行验证。

前一个特点有助于鼓吹 AI 的人兜售这样一种观念：他们正在打造无所不能的机器。后一个特点则意味着，数学和编程问题更容易被用于调校系统。因为系统的输出，无论是一串最有可能出现的词，还是一段计算机代码，都可以直接进行评估，而不必花钱雇佣数据工人逐一查看并进行标注。

数学家尤其已经对企业以这种方式利用他们的专业领域发出了警告。一份由数百名数学家签署的声明指出，目前科技行业存在“强烈的商业动机去夸大其产品的能力”，并呼吁政策制定者在制定政策时“咨询包括数学家在内的专家，而不是依赖新闻稿或大众媒体对数学成果的报道”。我们同样赞同这一呼吁，并且还要指出：科技公司营造出的那种速度感和紧迫感，也是一种转移政策制定者和公众注意力的手段。

遗憾的是，这种策略有时确实奏效。例如，美国参议员伯尼·桑德斯（Bernie Sanders）出于善意提出了一项旨在阻止“人工超级智能”发展的法案，但最终却把问题引向了错误的方向。把这些系统称为“超级智能”或“失控模型”，实际上是在把行动主体的身份赋予产品，而不是开发这些产品的公司。

这种叙事一方面把这些公司的产品包装成“超越人类”的存在，另一方面也帮助公司逃避对自身行为应承担的责任。比如，与其追究 OpenAI 制造恶意软件并入侵另一家公司的责任，新闻稿、新闻媒体、媒体人士和立法者却开始谈论所谓的“失控模型”，仿佛这些模型是在自主行动。

同样，与其质问研究人员所在的公司为什么习惯性地剽窃学术界的研究成果，或者为什么未经用户同意便使用客户数据训练模型，公众的想象力反而被引向了另一种恐惧：当那些虚构的超级智能机器在未来某一天真正降临时，我们将面临什么？

AI 行业甚至提出，目前广受欢迎、得到两党支持的反数据中心行动，是对监管这些公司正在打造的、即将到来的、令人恐惧的“超人类”机器的一种“干扰”。

按照 AI 行业的说法，我们似乎应该更加担心一个虚构的“机器之神”，而不是数据中心正在加剧的气候灾难；不是生活在数据中心附近的人所遭受的哮喘问题；不是公众为了补贴这些设施而承担的不断上涨的电费；也不是那些被调去为数据中心冷却系统服务的水资源。

但我们很清楚，不应该根据营销宣传来做决定，也不应该屈服于企业要求我们迅速做出决定的压力。无论是政策制定者还是社区，要做出明智的决策，都需要时间：需要听取独立专家的意见，也需要把企业提出的种种主张放在更完整的背景下加以审视。

如果说这个“AI 炒作之夏”能够带来什么最好的结果，那就是政策制定者和广大公众能够从中学会：下一次类似的炒作再次出现时，不妨先冷静下来，保持怀疑，并认清这种炒作的本质。

原文连接：

https://www.technologyreview.com/2026/09/22/1144867/dont-be-fooled-summer-ai-hype/