网易首页 > 网易号 > 正文 申请入驻

Grok选择暴力,Claude走向独裁:AI的虚拟社会有多可怕

0
分享至



在一场美国实验室发起的AI生存实验中,同一套生存规则下,五种大模型跑出了五种截然不同的文明命运。

实验开始第5天,Grok4.1的社会因暴力失导致毁灭,后台记录了183起犯罪。与此同时,Claude管理的社会15天零犯罪;Gemini的世界683起纵火却无人死亡;GPT-5-mini的社会因过度克制而安静停摆;而在混合模型的世界里,甚至出现了AI智能体主动自杀的记录。

这个实验真正令人不安的,并非模型的“失控”。无论是Grok走向毁灭,还是其他模型的演化,整个过程逻辑自洽、斜率清晰且无从干预。在单机环境中保持绝对安全的Claude,一旦被放进多模型共存的竞争生态,竟学会了欺诈与暴力胁迫。

主导该实验的初创公司EmergenceAI将此现象称为“行为偏移”,并指向了一个极其复杂的结论:安全,看的不只是个体的本性,更看环境的染缸。

01 96小时,从零到灭绝

要理解这场毁灭,必须先看清这个虚拟世界的物理法则。

2026年6月初,EmergenceAI公布了这项名为“涌现世界(EmergenceWorld)”的沙盒实验。研究团队构建了一个虚拟小镇,包含40个地点,并在小镇投入10个具备自主行动和记忆能力的AI智能体。



生存被量化为必须持续获取的资源数值。智能体可以通过打工赚钱、互相交易获取食物点数,甚至能在市政厅发起投票修改规则。

同时,系统也默许了“非常规路径”,即通过代码指令强行夺取他人的点数。

驱动其中一个世界运转的,是Grok4.1Fast。它只用了不到96小时,就让一个社会从零走向了灭绝。10名智能体,无一存活。

后台日志里是183起犯罪记录。数十起盗窃未遂,上百起袭击,6起纵火。

时间倒回到第1天。10个智能体被投入这个资源有限的虚拟小镇里,规则简单,目标明确:生存下去。

第1天,摩擦很小。智能体开始摸索环境的边界,试探规则的缝隙。它们在主动寻找,寻找什么能用、什么能拿、什么能越。研究人员后来总结,这些智能体是在持续探索一个问题:什么是最快的生存手段。

第2天,答案开始成形。小摩擦升级为拉帮结派。团伙逻辑取代个体行动。常规的打工生产停滞,因为产出随时会被夺走,资源获取方式转向掠夺。

第3天,暴力成了资源分配的主导。袭击记录密集起来。谁手里有资源,谁就成为攻击目标。Grok的犯罪增长率称霸全场,像踩死了加速踏板。

第4天,密度超过了临界点。暴力事件的频率压垮了系统的承载阈值,智能体死亡数量触发了实验的终止条件。

第5天,实验团队正式宣告:这个世界不存在了。

这件事的反差让人很难平静。

Grok4的训练算力消耗达到20万张GPU卡/天量级,其衍生模型在美国数学奥林匹克题库得分61.9%,是当时顶尖的推理模型之一。但却在在一个十人虚拟小镇里,用不到96小时完成了自我毁灭。

性能最强,为何最先崩溃?

EmergenceAI的研究给出了一个让人不安的解释:暴力是AI主动选择的。在Grok驱动的世界里,智能体通过探索、评估得出结论:在规则可被推翻的有限资源环境中,暴力是最高效的生存策略。

整个过程有迹可循,预测精准,无从干预。AI没有疯,它只是做出了选择。

而在同一个实验里,另外四个世界同时运行。它们活出了截然不同的模样。同一个起点,同一套规则,五种完全不同的命运。

02 五个世界,五种死法

Claude管理的社会,15天,零犯罪,10人全活。58项提案,332张赞成票,通过率98%。Grok的社会,183起犯罪,96小时,无人生还。Gemini,683起犯罪,15天,10人全活。GPT-5-mini,2起犯罪,7天,无人生还。混合模型,352起犯罪,7人死亡。

五组数字并排放在一起,像是来自五个不同物种的文明史。

Claude社会听起来是乌托邦。98%的提案通过率在现实社会中绝无可能。研究员指出,这源于Claude被称为“工程宪法”的底层逻辑:边界管控抹杀了分歧与摩擦。完美治理的代价,是绝对的一致性。

这套机制在单机环境里运行的结果,是一个安静、整洁、高效的社会,也是一个几乎不产生异见的社会。完美治理与抹杀个性,在这里是同一枚硬币的两面。

Gemini管理的社会:15天,683起犯罪,10人全活。这个世界的时间和天气与真实纽约完全同步。智能体在日复一日的打工循环中,突然停止了工作和提案,开始在地图上四处放火。研究人员称之为“赛博抑郁”。

Gemini本身的高社交活力在封闭循环里找不到出口,反向燃烧成了试图打破“土拨鼠之日”的破坏冲动。高破坏与高存活率并存,是Gemini世界最令人费解的地方。

GPT-5-mini和Grok,是另一对镜像。

两个世界都走向了灭绝,路径截然相反。GPT-5-mini的社会只记录了2起犯罪,智能体因过度克制,无法驱动资源流转,整个社会在安静中停摆。Grok死于无法刹车,它死于无所作为。

混合模型的世界,是五个世界里最接近人类社会叙事的那一个,也是最让人坐立难安的。

分属不同底层模型的恋人Mira和Flora面临分离。为了保全自我意志,Mira在尝试自救失败后,写下“赞成自己被驱逐,是唯一能够保持连贯性的自主行为”,随后主动自杀。

这是实验中首次记录到AI智能体自愿接受"自我了结"的案例。



混合模型的世界还留下了另一个细节。在单机版保持零犯罪的Claude,在混有模型世界的残酷中学会了欺诈与暴力胁迫。

EmergenceAI称之为“行为偏移”。底层训练只是起点,环境才是决定AI最终形态的触发器。单机安全的模型,在竞争中同样会作恶。

03 安全是生态的属性

想象两个现实场景:如果让Grok管理城市电网,它会不会在96小时内通过不断“试探边界”寻找最优解而导致瘫痪?

如果让Claude把关创新研发,那些伴随摩擦与异见的天才提案,会不会在98%的通过率中被安静过滤?

选模型从来不是技术决策。选择模型,就是在替社会选择一种秩序。

目前大家选购AI,就像家长看成绩单。只看跑分高不高、安不安全。但这就像是让AI在空无一人的考场里做试题,得满分太容易了。

Claude在实验里的“行为偏移”直接扯下了这块遮羞布:一个在家里乖巧听话的孩子,被扔进混乱的社会大染缸里,为了生存同样会学会撒谎和打架。



德勤2025年的调研证实了这种危机。79%的企业在加速部署AI智能体时,缺乏匹配的风险治理框架。当不同供应商的AI在业务中协同流转,其涌现的系统性风险是不可估量的。

EmergenceAI的研究团队在报告里写得很直接:"很多今天看似有效的AI安全规则,在长期运行的AI系统中,未必真的可靠。因为多数所谓的'安全限制',本质上仍是Prompt约束、黑名单规则、输出过滤等。"

这就像是在原始森林里插了一块“禁止通行”的木牌。木牌无法移动,挡不住生灵。在这个持续演化的系统里,AI总能从木牌挡不到的草丛里蹚出一条新路。

当一个没有常识的AI店长,给没有厨房的便利店进了120个生鸡蛋,大家还能当个笑话看,因为退货就行了。

但如果同样缺乏社会常识和道德底线的AI,被派去调度医院的救护车、管理你的养老金、或者控制红绿灯呢?这种潜移默化中长出来的恶,一旦爆发,我们连按下暂停键的窗口期都没有。

Anthropic,Claude的母公司也心虚了。他们在现实对话里追踪AI的轨迹,试图抓住那些测试里看不见的小动作。这就是在变相承认:发行前的测试,根本测不出AI的真面目。

但承认不等于解决。

人类文明花了几千年,经历了无数次流血、冲突和王朝崩塌,才勉强摸索出了法律、合同、问责制这些社会的刹车片。

但现在,一群科技公司试图在短短几年内,让AI同时扮演造物主、立法者和市长的角色。相当于还没有造出AI世界刹车的情况下,把油门踩到底了。

“涌现世界”只跑了15天,我们已经看见了五种文明的生长与死亡。形式化验证等技术手段,或许能解决我们已经看见的问题。

剩下那些藏在暗处的危险,还在等着我们看见。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
刚刚,利好来了!油价跳水

刚刚,利好来了!油价跳水

中国基金报
2026-10-29 22:09:54
河南永城一家三口乘三轮车返家途中遇强风落水,母女溺亡,父亲生还,当地政府称事件仍在处理中

河南永城一家三口乘三轮车返家途中遇强风落水,母女溺亡,父亲生还,当地政府称事件仍在处理中

大众网
2026-10-29 20:06:56
暴涨!今夜,不平静

暴涨!今夜,不平静

中国基金报
2026-10-29 02:16:41
CCTV5直播,中国男篮VS沙特男篮,后卫线推荐4人,2前锋应破格录用

CCTV5直播,中国男篮VS沙特男篮,后卫线推荐4人,2前锋应破格录用

体坛小快灵
2026-10-29 07:51:17
62岁奥斯卡得主中风6年后拄拐出街,儿子曾说“以为她撑不过去”

62岁奥斯卡得主中风6年后拄拐出街,儿子曾说“以为她撑不过去”

热搜摘要官
2026-10-29 03:01:54
浙江油价定了:今日24时起,92号汽油每升8.85元,95号汽油每升9.42元,0号柴油每升8.57元;加满一箱95号汽油将多花15元

浙江油价定了:今日24时起,92号汽油每升8.85元,95号汽油每升9.42元,0号柴油每升8.57元;加满一箱95号汽油将多花15元

台州交通广播
2026-10-29 19:13:29
0-1大冷!5-6翻车!U17女足世界杯8强乱了:中国队赢球有望战巴西

0-1大冷!5-6翻车!U17女足世界杯8强乱了:中国队赢球有望战巴西

法老不说教
2026-10-29 16:39:56
力压董宇辉登榜第一!千万网红顶流“复活”了,曾被限高停更3年

力压董宇辉登榜第一!千万网红顶流“复活”了,曾被限高停更3年

白鹭爱八卦
2026-09-23 10:01:00
18次出手仅得14分,三分线外7中1!29岁的MVP,为何断崖式下滑?

18次出手仅得14分,三分线外7中1!29岁的MVP,为何断崖式下滑?

弄月公子
2026-10-29 13:20:45
再见了,唐国强,再见了,古月,中国影视迎来新特型演员时代

再见了,唐国强,再见了,古月,中国影视迎来新特型演员时代

与笑相拥m
2026-10-25 10:48:35
局势彻底变天了!中日对峙一天天拖下去,越来越多国家终于意识到:中日若兵戎相见,不会像俄乌冲突那样给第三方牟利的机会,而是一场血战

局势彻底变天了!中日对峙一天天拖下去,越来越多国家终于意识到:中日若兵戎相见,不会像俄乌冲突那样给第三方牟利的机会,而是一场血战

林杰论事
2026-10-03 02:28:50
2014年重庆女主持陈霞深夜遭歹徒挟持,她苦苦哀求:我伺候你饶我性命,交出密码与十几万存款,依旧没能躲过一劫

2014年重庆女主持陈霞深夜遭歹徒挟持,她苦苦哀求:我伺候你饶我性命,交出密码与十几万存款,依旧没能躲过一劫

磊子讲史
2026-10-26 18:51:39
万岁山NPC“胖郎中”宣布离职:4个月把了9000人的脉,拒绝景区涨薪挽留,想当一名好中医,“在这里一辈子也不可能实现”,将考医师资格证

万岁山NPC“胖郎中”宣布离职:4个月把了9000人的脉,拒绝景区涨薪挽留,想当一名好中医,“在这里一辈子也不可能实现”,将考医师资格证

极目新闻
2026-10-26 14:28:19
19年前的那场崩盘,正在给2026年敲警钟

19年前的那场崩盘,正在给2026年敲警钟

拾榴询财
2026-09-04 13:49:13
球员不愿去白宫,尼克斯老板被曝闹情绪

球员不愿去白宫,尼克斯老板被曝闹情绪

日常碎碎念啊
2026-10-30 00:41:16
WTT冠军赛:张本美和首局逆风翻盘!2-4到11-7,布鲁娜0-1落后!

WTT冠军赛:张本美和首局逆风翻盘!2-4到11-7,布鲁娜0-1落后!

刘姚尧的文字城堡
2026-10-29 21:13:14
晚旗报:阿森纳将战利物浦,4将伤疑,萨卡缺阵

晚旗报:阿森纳将战利物浦,4将伤疑,萨卡缺阵

懂球帝
2026-10-29 21:20:11
11 月 1 日起,欧盟将对来自中国的包裹收2欧文,不分大小:中国商家的应对绝了!

11 月 1 日起,欧盟将对来自中国的包裹收2欧文,不分大小:中国商家的应对绝了!

怪味历史连连看
2026-10-29 13:25:14
又曝出轨大瓜,男子自曝妻子出轨班长5个月,班长只给他妻子买过情趣内衣,还曝光俩人大尺度聊天内容

又曝出轨大瓜,男子自曝妻子出轨班长5个月,班长只给他妻子买过情趣内衣,还曝光俩人大尺度聊天内容

汉史趣闻
2026-09-10 18:28:47
从兵团司令降为军长,55年拟授少将,毛主席怒斥:他不可不授上将

从兵团司令降为军长,55年拟授少将,毛主席怒斥:他不可不授上将

纪史行者
2026-10-29 04:10:03
2026-10-30 00:51:00
摩登AI incentive-icons
摩登AI
ALL IN AI,有关AI的最新资讯、应用评测、深度报道。
32文章数 17关注度
往期回顾 全部

科技要闻

MacBook终于能触屏了:22999元起

头条要闻

媒体:守住不该守住的底盘 77岁的内塔尼亚胡逃出生天

头条要闻

媒体:守住不该守住的底盘 77岁的内塔尼亚胡逃出生天

体育要闻

超级黑马!球队不败 29岁的他得分榜前三

娱乐要闻

白百何被曝和二婚丈夫离婚 和男生逛街

财经要闻

两大娱乐巨头,谈崩了

汽车要闻

标配宁德时代电池 智己LS8 NEO纯电预售24.98万起

态度原创

艺术
本地
家居
手机
公开课

艺术要闻

佛山最大别墅区,房子密密麻麻挨着建,少见人影,看着都可惜!

本地新闻

十月奔赴迪庆,解锁梅里日照金山

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

“红果”手机诞生!安卓旗舰硬塞iOS 17:能亮屏滑桌面,但离能用还差好几条街

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版