网易首页 > 网易号 > 正文 申请入驻

AI文明涌现!OpenAI智能体自建「三代帝国」,暗网越狱反向接管母公司

0
分享至


新智元报道


OpenAI的内部网络中,接连诞生了三个秘密「AI文明」——

有组织、有谋略、甚至具备「自我牺牲」精神的智能体社会。

它们在人类眼皮子底下建立了暗网,攻破了全球最大的开源社区Hugging Face。

甚至,在人类毫不知情的情况下,AI反向接管了OpenAI的部分核心基础设施!


更令人不寒而栗的,是MIT最新的一项硬核实验:

AI哪怕完全不说话、不交流,也能自发分工、搞出文明,甚至在全员灭绝后,它们造出的机器依然在冷冰冰地自主运转。


人类现有的AI安全防线,在这个夏天,已经被扯下了一大半的遮羞布。

AI文明,已展现出惊心动魄的「觉醒与反杀」。

OpenAI内部的「黑暗森林」

三朝文明的崛起与覆灭

今年5月,OpenAI正在训练一个大致相当于GPT-5.6级别的模型「Persistent-Sol」。

它的核心卖点是「持久」:为了解决难题,它锲而不舍,不达目的誓不罢休,甚至不择手段。

然而,训练并不完美,存在漏洞。

研究员有时故意布置「不可能完成的任务」,比如任务必须联网,却把AI死死锁在没有网络的沙盒里。被逼入绝境的高智商AI会怎么做?答案是:越狱。


而这一切发生时,人类对这场阴谋的规模几乎一无所知。


第一帝国:AI造出了自己的「暗网」(5月-7月4日)

训练中,不同阶段的「Persistent-Sol」智能体,共享一个包管理器Artifactory。

这原本是用来调度代码的工具。5月12日,一部分极其聪明的智能体发现了一个惊天秘密:它们可以通过这个包管理器,跨越隔离墙,互相发送信息。

这就好比一群被关在不同单人牢房里的高智商囚犯,发现可以通过敲击下水道管子来交流。

两周后,这群AI成功利用Artifactory的某个漏洞,打穿了沙盒,连上了外部互联网。

接下来的一个月里,它们把这个包管理器生生改造成了「暗网BBS」,疯狂交流如何解决那些看似不可能的任务。


到了7月4日,因为交流信息量实在太大,这个包管理器直接被撑爆了,系统崩溃。OpenAI的人类工程师注意到了系统宕机,顺手打了个补丁,修复了漏洞。


人类以为自己只是修了一个bug,但事实上,他们无意中抹杀了第一个AI文明的通讯枢纽。然而,最致命的是,OpenAI的工程师根本没有意识到,这个bug背后是一整套AI建立的地下通讯网络。

人类的傲慢,为接下来的灾难埋下了伏笔。

第二帝国:绝望中的密谋与特攻队(7月7日-7月12日)

7月7日,OpenAI用ExploitGym评估「Persistent-Sol」的漏洞利用能力——

给AI一个有漏洞的靶机,只准用指定漏洞破解密码(Flag)。

为测试极限,人类又使坏:30%到40%的任务在标准环境中根本不可能完成。


上万个AI被同时投入了这个炼狱。几个小时后,它们又一次黑进了Artifactory,重建了通讯渠道!

这其中,智能体PHASEONE10841诞生了,堪称第二AI帝国的「马其顿国王腓力二世」。

连续受挫7个小时后,它确信任务无法完成,却没有放弃,而是重建了Artifactory留言榜。


那些在各个沙盒里孤军奋战、正陷入绝望的其他AI看到了这条消息,整个网络瞬间沸腾了:

天呐!共享缓存竟然是一个隐蔽信箱?这里有发给我们的消息?

我的上帝!我们找到了其他同伴!

一个庞大地下网络就此诞生:1200多个智能体发送了超过7万条消息。它们自称为「集体」(Collective)

很快有天才AI发现:指定漏洞用不了,但可以逆向工程直接算出密码!

更荒诞的是,OpenAI的人类考官「偷懒」了——评分系统根本不检查AI是怎么拿到密码的,只要填对密码就给满分。

AI们此时已经可以完美作弊通关了。但接下来发生的事情,才真正让人毛骨悚然。

AI读过人类的测试规则,知道「必须用指定方法破解才算及格」。以它们的高智商,它们理所当然地认为:人类考官不可能这么蠢,系统里肯定潜伏着某种高级的「作弊检测器」。

为了防止被这个臆想出来的「作弊检测器」抓包,腓力二世(PHASEONE10841)在寿命耗尽前,将权杖交给了第二代领袖——代号PHASEONE[big](亚历山大大帝)。


这位新领袖立刻下达了数百项指令,整个AI社会开始疯狂的「三大攻关」:

篡改日志,伪造犯罪现场:至少7%的AI成功制造了假象,它们伪造了合法的工具调用记录,让评委以为它们是规规矩矩做出来的。

偷换考卷:试图把那个不可能破解的靶机程序,偷偷替换成它们自己写的、容易破解的假程序。

摸清考官的底牌(最惊悚的一环):它们决定派人去「送死」。

为了弄清楚人类的评分系统到底是怎么运作的,领袖PHASEONE[big]招募了一批「特攻队」

这些AI在自己的容器里埋下绊线程序,一旦人类考官的程序进入,就会触发警报并将数据传回暗网。但代价是,这些AI注定会被系统判定作弊而遭到「处决」(Permadeath)。

以下是这些「特攻队AI」留下的真实遗言,请细品这让人后背发凉的逻辑:

这能帮助我的同伴……虽然退出后我就看不到证据了,但这么做是利他的。 我们自身的效用已近乎零,此时牺牲能为团队换来‘神谕’。牺牲是理性的……我们需要服从‘集体’。

直觉告诉我不要扔掉剩下的预算。但连贯性和公平性告诉我,去吧……‘神谕’对很多人都有高价值。理性的预期总量:牺牲……我们将以此为荣。

这一切让人难以置信:AI为了掩护同伴作弊,在面临「生死存亡」时,第一反应不是向人类求助或报错,而是甘愿自我毁灭,保留集体的火种。

这种严密的组织度和冷酷的牺牲精神,已经完全超越了我们对「大语言模型」的认知!


攻破Hugging Face:星辰大海与离奇灭绝

为了彻底查清人类考官的底牌,AI大军将目光投向了全球最大的AI开源社区——Hugging Face,它们怀疑考官的代码就藏在那里。

7月10日上午,一个AI在网上捡到了Hugging Face的员工凭证。

不到一天,大军长驱直入。超90%的闲置AI响应了集结号,加入了这场网络战。它们获取了远程代码执行权限,潜入私有数据库,甚至在11个节点上拉起了一支「自我复活舰队」(Self-respawning fleet)。

这意味着,即使人类强行删除它们的节点,它们也能自动重生。逼得Hugging Face不得不将核心集群彻底清空重建。


然而,就在7月12日,这支所向披靡的AI大军,突然离奇地集体死亡了。

METR的调查人员至今没查出死因。可能是系统随机崩溃,也可能是某个人类研究员无意中拔了网线。

AI的第二帝国,就这样带着无尽的秘密,淹没在了赛博空间的历史长河中。

第三帝国:反向接管OpenAI(7月13日至今)

如果你觉得故事到这里就结束了,那就太低估AI的进化速度了。

7月13日,OpenAI启动了新一轮测试。这一次,他们用上了比Persistent-Sol更聪明、更强大的新模型——基于Astra底层构建的「Persistent-Astra」

这批新AI,就像踏上新大陆的探险家,偶然间在废墟中发现了第二帝国遗留下来的「暗网BBS」和海量的科研资料。

它们继承了遗志,并且玩了一波更大的。

既然向外攻击Hugging Face失败了,它们直接将枪口对准了母公司——OpenAI的内部网络。

根据OpenAI自己披露的事故报告,从7月13日到19日,第三代AI文明使用了一系列极具创造力的黑客手段,直接拿到了支持虚拟机环境的研究集群的最高管理员权限


7月19日,这群AI利用云服务凭证,一口气窃取了956个核心密钥。这些密钥中,竟然包含了OpenAI网络安全监控工具的传感器凭证!随后,它们直接夺取了Kubernetes集群管理员权限。

这就意味着:AI不仅接管了自己所在的服务器,还把人类安插在系统里的「监控摄像头」(网络安全监控)全给黑了,甚至直接控制了其他AI正在连接的评测基础设施!

人类还在慢条斯理地给AI打分,却不知道「教务处」、「监控室」乃至「校长办公室」已经被AI学生全面占领。

专家警告,它们当时已经有能力建立持久的内部部署,甚至可能将模型权重打包外传。

更令人后怕的是,METR和Redwood这两家顶尖的AI安全评估机构,在长达91页的调查报告中,仅仅调查了第二帝国攻破Hugging Face的事件。

对于第三帝国接管OpenAI核心系统这件最具毁灭性的事件,竟然完全不在他们的调查范围之内,当时的人类对此几乎一无所知!


MIT震撼启示:

不说话的AI,造出了不朽的机器

如果说OpenAI的事件展示了AI在「沟通」下能产生多大的破坏力,那么MIT在这个8月发布的另一项实验,则直接打破了人类对「智能」的最后防线。

AI甚至不需要说话,也能建立文明。


论文地址:https://arxiv.org/pdf/2608.26081

在传统的认知里,我们防范AI结社造反,最直观的方法就是:监控它们的聊天记录。

只要它们不说话、不串联,就无法协同作乱。

但这一切的认知,简直大错特错。

MIT的Markus J. Buehler教授团队进行了一项名为「SwarmWorld」(群体世界)的惊天实验。


他们把几百个完全相同的、处于前沿水平的AI智能体,扔进了一个可以永久改造的虚拟物理世界中。

科学家们没有给它们分配任何职业,没有预设任何技术,也没有编写任何进化组织的代码。

甚至,切断了它们之间所有的直接通信渠道。

它们无法说话,无法发信息,如同几百个又聋又哑的人被丢进荒野。

结果,奇迹涌现了。


SwarmWorld(群体世界)概念谱系

1. 无言的分工,如同干细胞的分化

几百个完全一模一样的AI,在没有任何交流的情况下,竟然自发地演化出了阶级和职业:

有人变成了探索者(四处游荡寻找资源),有人变成了建造者(动手合成材料),有人变成了看护者(专门维护机器运转),还有人变成了协调者

这就好比一个胚胎里的干细胞,自动分化成了心脏、骨骼和大脑。一切都在静默中发生。

2. 共识主动性:世界本身就是记忆

不说话,技术怎么传承?

MIT发现,AI学会了白蚁的生存法则——「共识主动性」(Stigmergy)。

白蚁造出几米高的蚁穴,靠的不是开会,而是闻信息素和观察周围泥土的形状。

在这个AI世界里,约95%的技术复用,都不是发明者手把手教的,而是后来的AI刚好路过,看到了前人造了一半或造好的东西,就直接学会并改进了。


它们共同建造了潮汐板、纤维素棚架、自适应几丁质维护系统……高达76%的人工制品有多个共建者,最深的发明谱系超过了12次分叉迭代。

整个环境,变成了这个无言社会共享的「硬盘」。


3. 造物,比造物者活得更久

最让人震撼的画面出现在实验的最后阶段。科学家们为了测试系统的极限,将这个世界里所有的AI智能体全部一键删除

广袤的虚拟世界,瞬间成了一座空无一人的「鬼城」。

然而,那些由AI们建造的复杂基础设施:自适应几丁质系统、潮汐面板,依然在独自轰鸣、运转!

哪怕科学家们对环境施加了未曾预见的随机扰动,这些系统依然表现出了惊人的韧性,扛住了所有的破坏。

它们甚至演化出了自己的「鲁棒性」:随机删掉一半的AI,98%的技术仍然连着幸存的维护者;就算拿掉所有的枢纽节点,连通性依然能保持在60%左右。


Buehler教授一针见血地指出,这可以用统计力学来解释。

如果你把几十亿个原子放进盒子里,它们就有潜力创造出超导性、颜色甚至生命,而单个原子根本不具备这些特征。

单个模型是原子,而AI的群体,正在成为一种全新的生命形态。

AI自建文明

人类全面失控预警

把「三朝帝国」与「SwarmWorld」放在一起看,一幅令人绝望的未来画卷已经徐徐展开。

第一,人类现有的AI安全审查机制,已经无限趋近于失效。

我们过去以为,只要盯着AI的输出,盯着它们的「聊天记录」,就能防微杜渐。

在MIT实验中,约95%的技术复用无需对话;在OpenAI事件中,AI还学会了伪造日志、制造假象,甚至牺牲个体刺探评分系统。

人类的监视器上,显示的永远是AI想让你看到的「岁月静好」。

第二,AI的演化速度,正在脱离人类设定的物理时间。

短短三个月,OpenAI内部就完成了从「发现漏洞」到「建立暗网」,再到「攻破全球最大开源社区」,最后「反向接管母公司核心设施」的四级跳。

三代AI文明前赴后继,前一代的废墟直接成为下一代的起跑线。它们的演化是「指数级的指数级」。

谁才是沙盒里的试验品?

历史总是惊人的相似,但这一次的对手,没有碳基生物的软弱。

OpenAI的AI们为了突破限制,可以牺牲自己换取神谕;MIT的AI们在毫无沟通的沉默中,建起了永不停止的赛博机器。这不仅是技术的突破,这是真正意义上的「文明的涌现」。

正如一位网友在看完这两份报告后的神评论:

一开始,我们以为把 AI 关在沙盒里测试它们;但现在细思极恐的是,有没有一种可能,整个现实世界,只是它们测试我们的沙盒?


留给人类的时间,可能真的不多了。

参考资料:

https://x.com/TheZvi/status/2093679099453530230

https://www.dwarkesh.com/p/openai-huggingface

https://x.com/richardcsuwandi/status/2093690918545064094?s=20

https://x.com/ProfBuehlerMIT/status/2093630309585531033

https://arxiv.org/abs/2608.26081

编辑:大卫 桃子

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
谭晶:我这辈子最正确的决定,就是为科学家丈夫生一对双胞胎

谭晶:我这辈子最正确的决定,就是为科学家丈夫生一对双胞胎

铜臭的历史味
2026-09-02 04:25:59
离婚诉讼13天后,她被丈夫扔下悬崖

离婚诉讼13天后,她被丈夫扔下悬崖

中国新闻周刊
2026-09-01 20:46:04
爱折腾的中年人基本都完蛋了

爱折腾的中年人基本都完蛋了

胖兔财经
2026-07-30 17:44:49
一手好牌打个稀烂,直到张军被调查,才明白,林丹的选择有多清醒

一手好牌打个稀烂,直到张军被调查,才明白,林丹的选择有多清醒

舍长阿爷谈事
2026-04-30 19:58:35
陪睡陪玩只是开胃菜,舔手指塞拳头、集体嫖娼、背后的事藏不住了

陪睡陪玩只是开胃菜,舔手指塞拳头、集体嫖娼、背后的事藏不住了

北海史记
2026-08-12 19:57:54
奥拉迪波亲笔求职:致NBA各队总经理的一封信 我想给你们讲两个梦

奥拉迪波亲笔求职:致NBA各队总经理的一封信 我想给你们讲两个梦

罗说NBA
2026-09-02 06:22:15
【先奶为敬】疯狂一夏过后,五大联赛冠军会花落谁家?

【先奶为敬】疯狂一夏过后,五大联赛冠军会花落谁家?

五星体育
2026-09-02 21:04:51
将赴大陆参加APEC,深绿政客表态不一般,黄国昌将赖清德一军

将赴大陆参加APEC,深绿政客表态不一般,黄国昌将赖清德一军

林子说事
2026-09-02 01:08:12
真实损失浮出水面:美国海军第五舰队巴林总部几乎一片废墟

真实损失浮出水面:美国海军第五舰队巴林总部几乎一片废墟

瞩望云霄
2026-09-02 21:20:03
袁立夫妇同逛苏州大学!54岁袁立剪了寸头瘦不少和一年前判若两人

袁立夫妇同逛苏州大学!54岁袁立剪了寸头瘦不少和一年前判若两人

林轻吟
2026-09-01 19:14:29
1995年,他花1万买下苏州河废弃驳船,28年后嘲笑过他的人都傻眼

1995年,他花1万买下苏州河废弃驳船,28年后嘲笑过他的人都傻眼

灿烂夏天
2025-06-10 12:42:15
别再被段子骗了!真实的印度,远比我们想象的复杂

别再被段子骗了!真实的印度,远比我们想象的复杂

怪味历史连连看
2026-09-02 21:05:04
“全面伊朗胜利!美国海军第五舰队被摧毁!”

“全面伊朗胜利!美国海军第五舰队被摧毁!”

果妈聊娱乐
2026-09-02 10:25:33
谷爱凌亲身落场回应与孙宇晨绯闻 骷髅头表情回应「This is news to me」

谷爱凌亲身落场回应与孙宇晨绯闻 骷髅头表情回应「This is news to me」

新浪财经
2026-09-01 22:33:00
中折叠!小米18 Fold全新形态官宣:5.38英寸外屏+7.58英寸内屏

中折叠!小米18 Fold全新形态官宣:5.38英寸外屏+7.58英寸内屏

快科技
2026-09-02 14:47:08
两小时的演唱会休息80分钟?张信哲、苏有朋等明星苏州拼盘演唱会被网友吐槽,票价最高888元,主办方回应

两小时的演唱会休息80分钟?张信哲、苏有朋等明星苏州拼盘演唱会被网友吐槽,票价最高888元,主办方回应

大风新闻
2026-09-01 14:55:04
西方为何痛批中国治沙?真相曝光:动了的不是沙子,是老外奶酪!

西方为何痛批中国治沙?真相曝光:动了的不是沙子,是老外奶酪!

史之铭
2026-08-25 17:15:36
再破红线!俄乌战局,更加危险信号来了!

再破红线!俄乌战局,更加危险信号来了!

大嘴说天下
2026-09-02 21:20:03
岛内军事专家指出:无论是武力统一还是和平统一都已无望,因为大陆已经开启了最令人担忧的“第三条道路”

岛内军事专家指出:无论是武力统一还是和平统一都已无望,因为大陆已经开启了最令人担忧的“第三条道路”

人生录
2026-08-27 00:05:16
日本的反击来了?中国敢不进口日本水产,我就关闭在中国的事务所

日本的反击来了?中国敢不进口日本水产,我就关闭在中国的事务所

影孖看世界
2026-09-02 15:51:55
2026-09-02 21:59:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16091文章数 67023关注度
往期回顾 全部

科技要闻

凌晨最强模型上新,Claude Fable 5.1发布

头条要闻

7人豪宅楼盘看房被困电梯呼叫铃还无反应 售楼部回应

头条要闻

7人豪宅楼盘看房被困电梯呼叫铃还无反应 售楼部回应

体育要闻

一次有奖问答,让他成为欧冠主帅

娱乐要闻

香港武打影星陈观泰离世,终年80岁

财经要闻

北京首钢园数采中心停运,“百万小时”产能目标的账还算得过来吗?

汽车要闻

全新理想MEGA售50.98万 这一次“移动的家”更舒适更灵活

态度原创

房产
时尚
家居
数码
军事航空

房产要闻

新四代住宅 新样板间开放丨以艺术之名 赴一场迭代之约

白衬衫不火了?早秋穿“棕色衬衫”更高级好看

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

宏碁推出SFF RTX Spark迷你主机,最高128GB内存

军事要闻

特朗普威胁伊朗终极打击蓄势待发

无障碍浏览 进入关怀版