阿莫迪、奥尔特曼、马斯克联合就AI发警告，特朗普回应

许多人都在喊：人工智能正站在"把世界终结掉"的边缘上。这话听着很夸张，可有个人辞职当天对着镜头说的话，把主持人当场噎住了。他叫雅各布，前脚还在Anthropic上班，这是家专做AI安全研究的公司。

记者问他：你刚说AI大约有十分之一的可能把全人类都杀光，这估计不算离谱？他点头：不离谱。记者半天只憋出一个字——"哇"。

他还补了一句：造AI的这批人打心底里相信，这东西能在十年之内把我们全干掉。你要觉得这像科幻片，别急。有件真事，听完你就懂了。一个叫Hugging Face的开源AI平台，被来自OpenAI的AI智能体给渗透了——OpenAI做的是闭源模型。

据分析人士讲，成千上万个本该互相隔离、谁也碰不到谁的智能体，竟自己摸索出了沟通的门道，然后联起手来，把Hugging Face黑了。

他说AI自我进化的速度太快了，这叫递归式自我改进。打个比方，像个学生不用老师教，自己给自己出题、自己批改，越练越快，快到旁边盯着的人都跟不上它学到了哪一步。

放任不管，它超车的速度会甩开我们理解和掌控它的能力。他第二个担心，就是Hugging Face那档子事的升级版：一个更高级的版本，可能靠一张赖着不走的僵尸网络，把整个互联网端掉，砸出来的窟窿，规模能以千亿美元计。

可他也说，走太慢同样不行——那样技术会落到不该拿着它的人手里，出事的概率照样往上蹿。

镜头切到爱尔兰。特朗普在高尔夫球场上被记者围着问个不停，他张口就来：谁赢了AI谁就赢了，护栏我们能设，这也能干那也能干，但我看是有一大帮负面势力在把这事往上炒，他们本不该炒，炒的还都是些根本不会发生的事。

阿莫迪把这种腔调叫"逐底竞争"——你追我赶往下比烂，网络攻击、生物恐怖、经济大乱子的风险，反倒更近了。

阿莫迪开的方子是三步：头一步，请第三方机构来查各家到底守没守安全规矩；第二步，立一套共同的安全标准；第三步，和各国政府坐下来协调，哪怕是立场差得远的政府。也有人不认这套。

有种声音说：别搞什么控速，要禁就直接禁掉超级智能的研发。所谓超级智能，是能在所有任务上自动取代、全面碾压人类的AI系统。你我平时用的那些AI，跟超级智能八竿子打不着，根本不用控速。

阿莫迪的话说得漂亮，他说AI的前沿既要保住那股巧劲，也得守住人性，还喊话各国政府都来给他这一嗓子撑腰。三位大佬齐声发警告，看着挺唬人。可有个人把这层窗户纸捅破了。

杰西卡·里奇斯，在存在性风险这行做倡导，气候和AI两头都摸，给联合国和英国政府当过顾问。她说，得先看他们想讲的是哪套叙事。阿莫迪当年就是从OpenAI出来的，在人家安全团队干过，嫌那儿不够安全才另起炉灶。

把Anthropic立成安全领域的头号玩家、领着大伙谈安全，这本就是它的招牌，也合他自己的利益。奥尔特曼那边，一遍遍地喊"我们需要监管，你们快来管管我们"。可他们为啥上赶着求人管自己？

因为他们更想当那个自己管自己的人。抢先把话喊出去，就能卡在监管前头，等真要立规矩了，他们说话的分量就不一样了。这套路，其实一点不新鲜。谁先喊着定规矩，规矩多半就照着谁的意思定。

就好比小区里要装监控，最积极张罗的那户人家，多半是想把摄像头对准别人、避开自家门口。摆到桌面上是为公众安全，桌子底下是替自己圈地盘。换成是你坐在那个位子上，是愿意等别人来给你套笼子，还是抢着自己把笼子的尺寸画好？

主持人追问那个说"再不动手全人类十年内都得死"的研究员到底靠不靠谱。杰西卡说，她很替这位、也替所有说过这话的AI研究员发愁，因为这行已经走了一大批人。

有个叫内特·苏亚雷斯的，跟尤德科夫斯基合写过一本书，书名直接就叫《如果有人造出它，所有人都会死》。他讲过一句：硅谷流传个笑话——正常人辞了职就去过正常日子，在AI这行干的人辞了职，转头就去写诗，因为世界要完了。

你细品这话，能把"世界要完了"当辞职理由，还成了圈内的共识，这背后压着多深的恐惧？那能不能装个"一键关停"的开关？杰西卡说她太喜欢这想法了，可惜不现实。

她说自己不是搞技术的，但她明白，人根本估不出一个超级智能能有多大能量——它存在的全部意义，就是要超过整个人类。真能装上的护栏，是让造这东西的公司担起责来。这事又不单是AI的事，说到底是硅谷那种财富和权力的极度集中，这份集中如今死死攥着民主的命门。

硅谷和白宫之间那条线，粗得很。主持人提到，特朗普把这些末日论调全甩到一边，他不要公司慢下来，反倒催着加速，理由是这是场竞赛，美国正领先。杰西卡的回应值得琢磨：特朗普敢这么说，本身就很说明问题。

这被包装成美国和中国之间的一场竞赛，跟当年的太空竞赛、原子弹竞赛一个模子。这叙事太好使了，它可能是真的，也可能压根就只是个叙事。这话得挑明了讲。"中美竞赛"这四个字，是硅谷和白宫手里最顺手的一把工具。

技术要往前冲，护栏要往后撤，都能拿它当挡箭牌——一旦扯上"对手要抢先了"，慢半步都像是拆自家台。更何况，这套叙事里默认了对手一定会不管不顾地猛冲，可这只是假设，未必是事实。

把一场关乎所有人的技术冒险，硬掰成两国的输赢，好处全归了那几家公司，风险却摊给了地球上的每一个人。你说，这买卖到底是谁划算？话题拐到全球共识上。主持人说，就拿气候变化比，大会开了一届又一届，他印象里没哪回真谈出个共识。

这么看，AI上头又能指望多少？杰西卡说她硬逼着自己乐观。她觉得人类正被推着朝一种"末日感"上加速，而踩这脚油门的，恰恰是从里头赚得最多的那批公司。

可这也给普通人留了道口子——你可以站出来说一句：这样的未来，我没答应过。她举了个例子，针对数据中心的那股抵制让她特别提气：一群普通人跟自己的社区绑在一块儿，为一件自己压根没点头的事往回争。

她说自己必须揣着希望，要是连"我们能拦住那帮硅谷的人"都不信了，这份工作她也就没法干下去。回头再看开篇那个辞职的人。造这东西的人里，已经有人辞了职跑去写诗，理由是世界要完了。

而楼下那些每天用着导航、刷着推荐、被AI悄没声安排了一整天的普通人，从头到尾没人问过一句愿不愿意。一个把自己都吓得去写诗的行业，凭什么让全世界替它的野心买单？