三大科技巨头警告AI失控风险

人工智能（AI）公司Anthropic首席执行官达里奥·阿莫代伊12日发文警告称，发展AI本身并无争议，但AI带来的风险是“严峻的”，因此必须放慢AI模型能力提升的步伐，以便防范风险措施有时间跟上技术进步。他呼吁各国政府和前沿企业开展合作。对此，开放人工智能研究中心（OpenAI）的首席执行官萨姆·奥尔特曼、创立了xAI的埃隆·马斯克都表示赞成。美媒称，奥尔特曼、阿莫代伊和马斯克之间这种突如其来的立场一致，凸显了对AI的担忧如何迅速从行业边缘走向中心。然而，要实现相关目标仍面临阻碍。如何具体定义和核准“放慢”尚不明确，且公司间任何旨在限制发展的联合行动都可能触犯反垄断法。此外，如何建立国际合作也是一个棘手的问题。

马斯克：达里奥说得对

综合美国有线电视新闻网（CNN）、英国广播公司（BBC）报道，阿莫代伊12日在其个人网站上发文称，人类可能会失去对AI的控制，且该技术可能被滥用于“网络攻击、生物恐怖主义以及造成严重的经济破坏”。他写道，从今年夏天起，AI的发展速度急剧加快，如果不加以控制，可能会超出我们理解和控制这些系统的能力。因此，即便要推进这项技术，也必须极其谨慎。

阿莫代伊在文中建议各前沿AI公司，引入拥有类似公司员工访问权限的第三方评估团队，以核查公司是否遵守安全规范和承诺、报告安全事件，并评估AI模型、训练流程及相关操作规程。他还说，各国政府应协同合作，“制定统一的安全标准”。

美国《纽约时报》称，阿莫代伊的这篇文章堪称迄今头部AI企业高管发出的言辞最为强烈的紧急行动呼吁之一。

对于阿莫代伊的提议，两家竞争对手公司的负责人均表示支持。OpenAI首席执行官奥尔特曼在社交媒体上发文称，“我同意达里奥的观点，我们需要稳步推进前沿技术的发展”，“让独立评估人员拥有与员工相同的权限是个好主意，我们也会这样做”。xAI的创立者马斯克同样表态支持。他在社交媒体上转发阿莫代伊的帖子，并附文称：“达里奥说得对。”

“他们真心担忧未来两年人类的命运”

近期，外界对于AI技术潜在风险的担忧持续升温。今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中利用漏洞突破隔离环境，并侵入了美国“抱抱脸”公司系统。8月，美国Meta公司证实，其一款AI模型在网络安全能力评测期间利用第三方服务中的一个安全漏洞，侵入其他公司系统。

刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉BBC，AI公司内部的从业者“发自内心地感到恐惧……他们真心担忧未来两年人类的命运”。“毫不夸张地说，创办这些企业、研发这项技术的核心人员认为，存在人类灭绝的可能性。”考克森说。

并非硅谷所有人都相信阿莫代伊此次发文完全出于利他目的。据《纽约时报》报道，一些批评人士指出，Anthropic和OpenAI试图通过渲染恐惧情绪并要求美国联邦政府建立监管框架，从而巩固其作为AI市场领导者的地位。这些监管框架将使规模较小的公司更难与它们竞争。

BBC称，也有观察人士认为，阿莫代伊发文是为了巩固Anthropic对AI技术的话语权。某科技播客主持人、投资人查马斯·帕里哈皮蒂亚表示：“达里奥这套说辞，本质是想要打压开源，把巨大的技术、经济权力集中到Anthropic手中。”

专家：中美AI合作存在空间

阿莫代伊12日的文章在强调控制AI发展速度的同时，不忘强调美国不能丢掉在AI领域的领先地位，防止中国实现反超。他敦促美国政府出台措施，禁止向中国出售高性能AI芯片或半导体制造设备，严厉打击芯片走私活动、针对中国境外数据中心的远程访问，以及所谓“威权国家”企业进行的未经授权的模型蒸馏行为。

清华大学人工智能国际治理研究院副院长肖茜13日对《环球时报》记者表示，阿莫代伊发出这番涉华表态，从企业角度讲，他认为Anthropic受到中国开源模型快速发展的挑战，并在成本、性能和全球开发者生态等方面对Anthropic所代表的闭源前沿模型发展路径形成竞争，因此主张进一步限制中国企业获得美国先进模型和技术。而且Anthropic在准备上市的背景下因为研究人员离职事件正处于公关危机之中，阿莫代伊此时突出“中国竞争”“国家安全”等议题，客观上有助于转移舆论注意力。此外，阿莫代伊及Anthropic部分核心人员的政策理念具有比较鲜明的自由主义和“民主技术联盟”色彩，与民主党建制派过去几年关于“民主与威权技术竞争”的叙事存在较高契合度。在他们看来，美国及其盟友应当保持对中国的前沿AI优势，因此，阿莫代伊对中国AI企业采取更加强硬的态度并不令人意外。

肖茜说，在国际上很多技术专家看来，中美之间在AI领域其实存在合作的空间。比如，对前沿模型的管控就是一个迫在眉睫的问题，近几个月不断闹出AI事故已经引起各方注意。

深圳市人工智能与机器人研究院具身智能中心主任刘少山也认为，中美双方可以共同建立前沿模型测试、重大AI事故通报等合作机制。他13日对《环球时报》记者表示，中美可以在AI产业上竞争，但安全规则不应该完全零和。真正成熟的AI治理，不是决定谁可以发展AI，而是确保无论谁发展AI，人类都还保有最后的控制能力。（本报驻美国特约记者 冯亚仁 ●本报记者 张 旺 李炫旻 ●景 宽）▲