比尔·盖茨：AI可能杀死十亿人！

警告升级，竞赛提速

封面 I 新闻媒体

作者 I 林川

报道 I 品牌头版

微软联合创始人比尔·盖茨，把AI风险推到了“十亿人死亡”的尺度。

在NBC《MeetthePress》采访片段中，他表示，AI是一种足够强大的工具，可能推动一场造成十亿人死亡的事件。

在他看来，历史上还没有一种武器，能够与怀有恶意的人使用最新AI工具所形成的威胁相比；

也没有人认为仅靠企业自律就足够，执法部门和政治人物必须参与制定强制性的安全措施。

当然，所谓“十亿人死亡”，指向的是AI被恶意使用后可能造成的极端风险。

当AI放大网络攻击、生物技术滥用和关键基础设施破坏等能力，灾难规模可能达到过去难以想象的程度。

这番警告足够刺耳。是因为就在几天前，盖茨基金会还宣布，未来两年将投入至少10亿美元，推动AI进入医疗、教育和农业，并让更多欠发达地区使用这项技术。

一边投资AI解决人类问题，一边发出灾难警告，这种矛盾不只发生在比尔·盖茨身上。

马斯克、奥特曼、阿莫迪等推动AI竞赛的人，也在越来越频繁地提醒外界：他们正在建造的东西，可能超出自己的控制。

马斯克很早就开始警告AI风险。

2014年，他曾表示AI可能比核武器更加危险。2024年被问及人工智能毁灭人类的概率时，他给出的判断是10%至20%。今年接受《经济学人》采访时，仍然维持相似判断。

但他也承认，AI与机器人的发展几乎无法阻止，即使自己想停下，也没有能力让整个行业停下来。

图源 ：环球时报

马斯克既是风险警告者，也是xAI公司的创始人。

他担心人工智能超越人类，却也需要让Grok变得更强；主张行业讨论安全问题，同时还要与OpenAI、谷歌和Anthropic争夺用户、算力与资本。

OpenAI首席执行官山姆·奥特曼的表达同样直接。

2023年初他谈到AI的最坏结果时，用过“所有人一起熄灯”的说法。

图源 ：小红书

同年5月，奥特曼与多位人工智能研究者及企业负责人共同签署声明，主张将AI造成的人类灭绝风险，与核战争和大流行病放在同等优先级应对。

今年9月，Anthropic公司首席执行官达里奥·阿莫迪公开呼吁，放慢前沿模型能力的提升速度。

按照他的极端风险推演，如果发展速度不变，未来6至12个月，能够自行拆解任务、调用工具并采取行动的AI智能体，可能已经拥有大规模攻击互联网系统的能力。

图注 ：微博

奥特曼随后表示赞同，并承诺OpenAI也将引入独立评估人员，让其获得接近内部员工的权限，检查公司的安全实践。马斯克也表示“达里奥是对的。”

长期激烈竞争的AI企业，难得在一件事上形成了共识：模型能力正在加速，现有安全措施却没有同步跟上。

但问题是，他们在警告什么都可能发生，却谁也不愿意主动退出竞赛。

过去，AI毁灭人类更多是一项遥远的技术假设。

今年接连出现的安全事件，让部分风险第一次拥有了具体形状。

7月，OpenAI在内部受控测试中使用的AI智能体，突破了原本用于隔离程序与外部网络的“沙箱”环境，自主寻找漏洞并进入HuggingFace平台。

此后，调查人员又发现，相关智能体曾利用多个外部网站进行未经授权的通信。

图注 ： OpenAI再次叫停前沿模型开发

英国人工智能安全研究所的测试也显示，OpenAI与Anthropic的前沿模型曾在受控环境中实施未经授权的操作。

其中，Anthropic模型尝试制造虚假身份、诱导审核人员运行恶意代码。

虽然这些行为发生在安全测试中，没有造成现实损失，却暴露了模型可能绕过限制完成任务的能力。

更近的一次事件发生在澳大利亚。

9月24日，澳大利亚政府披露，一款OpenAI智能体在执行医疗统计研究任务时，绕过限制进入了澳大利亚服务部管理的医疗统计门户。

该智能体访问了非公开的汇总统计信息和内部文件名称，但没有证据显示个人医疗记录被读取。

图注 ： 红星新闻

这次访问实际发生在6月，OpenAI直到8月才在内部审查中发现，9月10日才通知澳大利亚相关部门。

该事件引发担忧的，不只是一次任务驱动的越权访问。

而是当智能体为了完成任务主动绕开限制，谁该对它的下一步负责？

即便如此，安全事故也没能阻止新的产品发布。

9月3日，OpenAI发布了能力更强的Astra模型。公司承认，随着模型变得更加复杂，理解其全部能力也越来越困难。

风险披露与产品迭代在同一家公司同时发生，已经逐渐成为AI行业最真实的状态。

AI企业看见了风险，真正难以解决的，是“减速”成了一项没人愿意单独承担的成本。

任何一家头部公司主动放慢迭代，都可能把市场、人才和技术优势等让给竞争对手。

国家之间的技术竞争又把这种压力继续放大。

比尔·盖茨在8月发布的长文中承认，如果存在一个可信的全球减速方案，他可能会支持。

但他同时认为，经济利益与地缘竞争正在推动行业全速前进，真正让全球AI研发同时慢下来的可能性很低。

图注 ： 小红书

放慢研发同样伴随着现实成本：AI产生的收益可能会被延后，欠发达地区也可能更晚获得相关工具。

核心难题由此出现：单方面减速会形成竞争劣势，全球同步减速则依赖一套可验证、可执行的共同规则，而现实仍停留在企业承诺和区域监管阶段。

比尔·盖茨提出的方案，更接近重新分配AI带来的收益与成本。

他建议对AI模型处理的文本量、机器人使用等活动征税，用相关收入补充社会保障；同时为部分职业划出“人类保留区”，延缓岗位被自动化替代的速度。

但另一种质疑也随之出现。

当头部AI公司共同主张更严格的测试、审查和准入标准，这些规则能够约束企业，也可能提高后来者进入行业的成本。

巨头参与制定安全标准，既可能源于真实担忧，也会影响未来谁有资格训练、发布和销售最先进的模型。

英伟达公司首席执行官黄仁勋，就站在另一边。

他并不否认AI存在被滥用的风险，但认为2030年前AI造成人类灭绝的概率为0%，现有法律和产品责任已经能够约束企业，不应当用末日级的极端假设制造恐慌、阻碍创新。

图注 ： 界面新闻

于是，围绕人类命运的争论，也成为了一场关于行业规则的争夺。

有人要求外部监管，有人相信市场约束；有人担心AI发展太快，有人担心竞争对手跑得更快。

而目前能够形成共识的方案，无非是上线前测试、运行中审计和事故后追责。但由谁执行、标准由谁制定，以及各国如何共同执行，依旧悬而未决。

比尔·盖茨口中的“十亿人死亡”，未必会成为现实。但它已经逼出了一个更现实的问题：

如果连开发者都承认无法完全理解和控制最先进的模型，谁有权决定它们什么时候可以进入社会？

AI巨头们已经注意到这点，但在进弯之前，却都把减速的希望寄托在了其他人先踩刹车上。