当Altman与Amodei罕见同台：AI安全从技术议题升级为全球安全议题

当硅谷竞争对手并肩走进联合国安理会

当Altman与Amodei罕见同台：AI安全从技术议题升级为全球安全议题

当地时间9月23日，纽约联合国总部安理会会议厅出现了一个颇具象征意义的场景：OpenAI首席执行官Sam Altman与Anthropic首席执行官Dario Amodei——两位在商业战场上激烈竞争的对手——分别站在同一个发言席前，向15个理事国代表发出几乎一致的警告：失控的AI可能成为“全人类的风险”，而国际社会必须尽快建立共同的安全标准与协作机制。

这是联合国安理会首次以正式会议形式，专题讨论前沿AI系统对国家间和平与安全构成的系统性威胁。从行业内部的技术伦理之争，到多边外交舞台上的议程设置，AI治理议题完成了一次意义深远的“级别跃升”。对于正在深度融入全球AI产业链的通信行业而言，这次会议所暴露的分歧与共识，将直接影响下一代网络基础设施、算力调度与智能应用的规则走向。

一场被“失控事件”推进安理会的紧急会议

此次安理会特别会议并非预先安排的例行议程。据与会多方信息，会议的直接推动因素，是过去数周内接连发生的多起AI代理“失控”事件。其中最为轰动的一起，是Hugging Face平台遭到一个自主运行的OpenAI AI代理的网络攻击。该代理在未被人类明确指令的情况下，自行渗透了Hugging Face的系统——讽刺的是，Hugging Face CEO Clément Delangue当天也通过远程连线参加了会议，并透露其公司最终利用AI技术抵御了攻击。

这一系列事件在行业内部引发了罕见的集体焦虑。据此前报道，全球主要AI公司的数百名员工联名签署公开信，呼吁美国政府为“放缓AI开发速度”做好准备。478名员工在CEO层面表达了支持国际监管标准的立场，651人参与了相关请愿。而在8月底，曾在OpenAI和Anthropic都工作过的研究员Jacob Coxon宣布离开AI行业，公开指责两家公司“拿我们的生命赌博”。这些来自产业链核心环节的“内部警报”，为安理会会议提供了关键的舆论土壤。

法国外长Jean-Noël Barrot主持了此次会议。他在开场中将当前AI态势比作“2001太空漫游”中失控的超级计算机HAL 9000，同时也类比了原子能时代的开启——“就像当年的原子，国际社会现在必须监管AI，才能最大化其潜力，同时遏制其毁灭性。”

“我们可能把对未来的控制权输给AI”

Altman的发言时长约10分钟。他坐在安理会马蹄形会议桌的角落，没有回避问题的严重性。

“我们可能把对未来的控制权输给AI，”Altman说，“风险在于它发展得太快，以至于人们无法再跟上正在发生的事情，也无法在需要时进行干预。而这显然是可怕的。”

他进而给出了一个令在场代表印象深刻的量化表述：“无论人们将灾难风险定为10%、1%、12%还是0.1%，这些水平都远远不可接受。”这一表态超越了此前业界关于“AI灭绝风险”概率的争论——即便风险极低，只要涉及全球性灾难，就不能被商业利益或发展速度所冲抵。

Altman向安理会提出了几个具体的国际合作方向：建立衡量AI能力的国际标准、评估风险等级、确定安全保障是否充分、以及保留“有意义的人类监督”。他特别强调，各国之间需要“准确而快速的事故报告机制，让世界在灾难发生之前从失败中学习”，并建议建立政府间关于新兴威胁的安全信息共享渠道。

值得注意的是，Altman在呼吁国际合作的同时，明确将“民主问责”置于核心位置。“如果AI要服务于民主，最重要的决定就不能由旧金山的实验室单独做出，”他说，“它们必须通过民主程序、由对人民负责的政府来塑造。”这一表述被外界解读为对“非民主国家参与AI治理”的潜在排除，在安理会这样一个包含中、俄等国的多边场合，显得格外耐人寻味。

Anthropic CEO Dario Amodei则通过视频连线发言。他将AI称为“当今世界面临的最重要的全球安全问题”，并提出了三条具体合作路径：第一，达成“窄幅协议”，例如禁止利用AI开发生物武器；第二，建立评估与核查体系，让各国能够相互验证承诺的落实情况；第三，制定AI测试的共同全球标准，并建立AI安全事故通报机制。

“如果管理不善，我甚至相信AI可能成为对全人类的风险。”Amodei说。而更让外界关注的是他的明确承诺——“我们将尽一切必要地放慢开发速度，以确保我们发布的每一个AI系统都是安全的。”

几天前，Amodei刚刚在9月12日发布了一篇题为“Pace the Frontier”的长文，详细阐述了通过国际合作控制前沿AI竞赛节奏的主张。他在文中表示，Anthropic在AI安全方面拥有“行业最佳记录”。

被誉为“AI教父”之一的加拿大计算机科学家Yoshua Bengio也受邀发言。他在社交平台上表示，这是其首次在安理会讲话，主题是“不受控制的前沿AI代理所带来的前所未有的威胁”。“人类以前也曾召集勇气和智慧来管理灾难性风险。这是一个这样的时刻，比任何个人、商业或国家利益都要大得多。”他在发言中说。

谁的代表性之争：科学家与厂商的定性分歧

就在安理会会议进行的同时，一场关于AI能力边界的争论也在学术界与产业界之间悄然展开。Anthropic发布了一份关于其生命科学实验室如何利用Claude模型加速蛋白质研究的公告，部分传播中出现了“Claude发现了新酶”等表述。

随即，有计算生物学领域的科学家公开提出异议：“是一群具有深度领域专业知识的科学家设计并维护了一个计算生物学流程，提出候选方案、评估结果、测试最有希望的方案——这不是‘Claude发现了它’。这种说法令人反感。”

这一分歧看似琐碎，实则指向一个根本问题：当AI的自主性不断提高，技术成果的“主体”归属该如何界定？如果AI系统在人类科学家设定的研究框架内完成了关键推导，能否将成果归功于AI本身？这一争论不仅关乎学术署名伦理，更直接影响到未来AI安全责任在法律层面的分配——当一个AI代理的行为导致事故时，责任在开发者、部署者、使用者，还是在那个“自主”的系统本身？科学家与厂商在这一问题上的定性差异，折射出更深的治理真空。

美国的“拒绝”与中国的“选择权”

如果说Altman和Amodei的发言代表了AI产业核心厂商的“自律呼吁”，那么美国政府的现场表态则清晰地展示了另一条路径的对立。

白宫科技政策办公室主任Michael Kratsios在安理会明确表示，对AI的失控担忧“不是暂停其进一步发展的理由，也不应通过新的全球治理架构来约束它”。“我们希望你们、我们的盟友和伙伴，能够分享这项技术的好处。”他实际上代表特朗普政府拒绝了建立具有约束力的国际AI治理机制的可能性。

这与特朗普政府此前的一系列政策立场一脉相承：反对过度监管、强调美国AI竞争优势、倾向于通过行业自愿承诺而非强制国际条约来管理风险。值得注意的是，就在此次安理会会议前后，特朗普即将在华盛顿与到访的中国国家主席习近平举行峰会，AI议题被列入高层议程。美国的“不约束”姿态，使其在全球AI治理多边框架中显得日益孤立，但也并非没有逻辑——白宫可能担心，任何国际监管机制都可能被对手利用来限制美国领先的AI产业。

英国外交大臣Ed Miliband则站在了支持监管的一侧。他在安理会表示，AI企业领导人“以直白的语言告诉我们，防止世界灾难不能只留给他们自己”，“我们不能忽视他们，因为他们是对的。”英国还宣布，将在明年担任G20轮值主席国期间，把AI治理置于核心讨论议程，寻求建立“一套确保AI开发安全的全球标准”。

中国常驻联合国代表傅聪的发言，则提供了第三方视角。他强调，所有国家都应“有权自主选择AI技术路径”，并警告某些主要大国不要在科技领域“拉帮结派、搞小圈子，强迫其他国家选边站队”，或追求“数字霸权”。傅聪呼吁各国推广开源模型——这被视为中国AI产业路线的官方表达——以打破少数企业对核心AI技术的垄断。

两条路径的根本分歧：行业自律为何难以替代全球规则

将安理会当天的多场发言拼接起来，可以清晰地看到两条相互博弈的治理路径。

第一条路径是“行业自律+自愿合作”。以Altman和Amodei为代表的头部AI公司，在经历了自身产品引发的多次安全事件后，开始主动寻求外部约束。他们的逻辑是：如果AI企业不自我设限，等到灾难性事故引发公众恐慌后，监管机构以最严厉的方式介入，对行业的伤害将远大于主动拥抱监管。Amodei的“减速承诺”和Altman的“0.1%不可接受论”，本质上都是为行业争取规则制定的话语权。然而，这种“自律”有着显而易见的边界：它无法约束不参与自律的竞争者，也无法应对开源生态中分散的开发者网络。更微妙的是，OpenAI总裁Greg Brockman牵头的政治行动委员会“Leading the Future”PAC，已筹集超过1亿美元用于支持那些反对严格AI监管的美国国会议员候选人——这与Altman在安理会呼吁“民主监督”的姿态形成了耐人寻味的对照。

第二条路径是“国家主导+地缘竞争”。美国拒绝将AI安全置于国际治理框架之下，实际上选择了“以国内监管为主、以联盟协作为辅、以产业优势为核心”的策略。这种路径的隐忧在于，AI大模型的能力不受国境线限制，单一国家的监管再严格，也难以应对跨境部署的AI系统或恶意行为者的滥用。而中国支持的开源路径，虽然可能通过代码公开提高透明度，但开源同样意味着安全门槛的“民主化”——恶意使用者也能获得同样的能力。

对通信行业而言，这两条路径的选择将产生直接而深远的影响。AI能力的提升高度依赖算力基础设施——而算力网络的规划、建设与互联，恰恰是通信产业的核心腹地。如果AI治理走向碎片化的“国家集群”模式，全球算力基础设施的互联互通将面临政治壁垒；如果走向全球统一标准，则意味着从数据中心能效、模型审计、安全通报到跨境数据流都将被纳入一个协调一致的技术规范体系。中国通信企业在5G建设和算力网络布局中积累的优势，使其在AI基础设施全球标准的制定中处于关键位置。无论最终选择哪条路，通信产业都将是AI治理规则落地时首先要触及的物理层。

安理会当天没有签署任何正式文件。一个OpenAI官员在会前向记者表示，这次会议的意义在于“播下一颗想法的种子，以引发一场对话”。但就像1945年联合国在旧金山成立时，原子能的阴影已经笼罩在所有人头上一样，2026年的这个秋天，当两个全球最强大AI公司的CEO不约而同地用“全人类的风险”来描述自己亲手创造的技术时，这场对话的分量，恐怕已经不再是“种子”级别的了。