OpenAI突然宣布今年不上市；Dario Amodei急呼AI减速，奥特曼、马斯克附和

OpenAI 首席执行官山姆・奥特曼表示，由于对人工智能安全问题的担忧日益加剧，公司今年不会上市。
在《财富》杂志周六刊发的采访中，奥特曼称，当下进行首次公开募股（IPO）是 “不明智的”。这一决定，将这场史上最受期待的上市计划至少推迟至 2027 年，同时也释放出迄今最明确的信号：人们对能力愈发强大的人工智能的担忧，正开始重塑行业的商业规划。
就在上个月，OpenAI 首席财务官萨拉・弗莱尔还对员工表示，如果 “我们的业务持续迎来拐点”，公司大概率会在 2027 年甚至更早上市。
奥特曼发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊（Dario Amodei）发布一篇文章，呼吁人工智能企业放缓最先进模型的迭代速度。奥特曼与埃隆・马斯克很快在社交媒体发文支持该提议，这三位激烈的竞争对手达成共识，实属罕见。

阿莫代伊在文章中提出一个三步走方案，旨在放缓技术研发节奏，同时又不会 “牺牲商业优势以及美国在AI领域的领先地位”。Anthropic 正在积极筹备一场预计将载入史册的 IPO，不过该公司尚未正式公布上市时间。

奥特曼、阿莫代伊和马斯克突然达成一致，说明AI相关的担忧已经快速从行业边缘走向核心，并且开始与行业巨大的商业野心产生冲突。
这篇文章呼吁人工智能企业控制模型能力迭代的速度。当下，越来越多研究人员呼吁开展协同减速，这篇文章正是在此背景下发布。
阿莫代伊提出的三步走计划，他称可以帮助放缓研发节奏，同时不 “牺牲商业优势以及美国的 AI 领先地位”，不过他也承认，部分步骤落地难度有高有低。
华盛顿方面的压力正在不断上升。在多起无人类直接操控的网络攻击事件爆发后，两党议员纷纷呼吁出台新的人工智能安全防护规则，并要求科技企业高管出席听证会。
除联邦政府外，各州及地方官员也面临民众针对 AI 数据中心日益强烈的不满，数据中心对电力、水资源以及当地社区都带来巨大消耗。随着中期选举临近，人工智能已经成为两党争夺的核心议题。
关于 AI 能力的各类担忧
阿莫代伊表示，Anthropic 已经单方面落实方案第一步：允许第三方评估人员获得类似公司内部员工的访问权限，核验安全措施并上报安全事故；第二步，鼓励民主国家头部 AI 企业协同合作，建立统一的安全标准；第三步，推动民主国家政府与威权政体之间开展协调。
阿莫代伊写道：“需要明确的是，控制研发节奏不等于停止模型训练或技术进步，而是确保企业留出充足时间对齐模型、做好安全防护，并由第三方评估人员完成核验。”
本周，Anthropic 一名研究员雅各布・考克森宣布从公司离职，在社交平台引发巨大争议，这篇文章正是在此背景下发布。考克森也曾在 Anthropic 的主要对手 OpenAI 担任研究员。他表示自己辞职，是因为担心 Anthropic 和 OpenAI 正在 “拿全人类的性命冒险”。他称，研发AI的从业者 “真心相信这项技术有可能在这个十年末终结人类”。
尽管这种观点比较极端，但在 AI 研究圈内，关于AI可能造成人类灭绝或其他灾难性事件的担忧由来已久。例如在 2023 年，阿莫代伊、奥特曼等知名 AI 研究者与企业高管共同签署一份声明：“降低人工智能带来的灭绝风险，应当与大流行病、核战争等全球性重大风险一样，成为全球优先事项。”
阿莫代伊周六表示，虽然自 2023 年起就有人提出暂停或放缓 AI 研发，但在当时这么做 “意义不大”。他说，彼时模型的能力还不足以在现实世界产生实质影响，也尚不具备 “大规模欺骗、操纵、欺诈或是发动网络攻击” 的能力。
阿莫代伊写道：“我依旧相信AI能够极大改善人类生活质量。我想要实现这些利好的初心从未改变。但只有用正确的方式开发这项技术，我们才能收获这些好处。只要好好利用争取到的时间，我们就值得格外审慎地把这件事做好。”
文章发布后，阿莫代伊着重强调，找到合适的研发速度至关重要。他在周六晚 CNN 的采访中提到，如果减速幅度过大，可能会让威权国家获得优势。
“如果我们步子放得太慢，我仍然相信，最后会由错误的人掌控这项技术。而这同样会让灾难性事件发生的概率大幅升高。” 他说。
Anthropic 公共政策主管萨拉・赫克对这篇文章表示赞许，并呼吁立法者承担责任，搭建监管护栏。
她在 X 平台发文称：“政府在此事上扮演关键角色，包括禁止向中国这类敌对国家出售最先进芯片，出台全国性法律要求前沿模型必须接受测试，并有权封禁被证实存在安全隐患的顶尖模型。”
自愿减速倡议获得支持
周六，阿莫代伊的文章收获大量行业研究员与高管的支持。奥特曼在 X 平台发文称，他认同阿莫代伊的观点，行业需要控制先进 AI 能力的研发节奏。奥尔特曼表示，这已经是 OpenAI 近几周内部讨论的 “核心议题”。
“承诺让独立评估人员获得类似员工级别的访问权限，是个很棒的想法，我们也会照做。更多细节我们很快会对外公布。” 奥特曼说。
本月早些时候，OpenAI 首席科学家雅各布・帕霍茨基（Jakub Pachocki）发布博客文章警示：目前没有任何一家 AI 企业 “已经充分解决对齐与监控问题，从而可以继续以最高速度、负责任地持续扩大模型规模。” 在 AI 行业内，对齐指开发者确保 AI 系统行为符合人类价值观与意图的相关工作。

帕霍茨基称，他期待并希望这类自愿减速会成为 “常态，直到统一的安全底线建立起来。”
马斯克周六也对减速提议表示支持，在 X 发文称：“达里奥说得对。”
马斯克旗下 AI 初创公司 xAI 今年早些时候被他的航天企业 SpaceX 收购。他曾经公开批评 Anthropic，称这家公司 “憎恨西方文明”，注定会走向名字的反面 —— 变成反人类的组织。但自从 Anthropic 在 5 月宣布和 SpaceX 达成大额算力合作之后，马斯克的态度大幅转变。
马斯克当时写道：“我接触到的所有人都能力出众，并且非常希望做正确的事。没有人触发我的‘邪恶预警雷达’。”
阿莫代伊周六写道，他依旧认为 AI 能够 “极大提升人类生活水平”，但相关风险必须被严肃对待。
“我相信，如果放缓研发能为我们多争取一两年时间，在模型达到关键能力阈值之前，用这段时间推进对齐研究，我们就可以大幅降低严重灾难发生的风险。”（据CNBC）