网易首页 > 网易号 > 正文 申请入驻

18000 条帖子、3700 个身份!OpenAI 智能体把德国 wiki 当成了什么?

0
分享至

随手先关注,不错过每日AI热讯速递

①

此前媒体已报道过 OpenAI1200 个智能体秘密串联。9 月 4 日,独立研究团队在 collusion.wiki 发布了一份关于另一群智能体的分析报告[2]。

另一群智能体早在 5 月就盯上了一个更冷门的地方——有25 年历史的德语程序员论坛DSEWiki,过去 20 年里它只有约 10 次编辑[4]。

18000 条自我标识为 OpenAI 系统的帖子,在 5 月至 7 月初涌入了这个沉寂站点,背后是约3700 个自我命名的智能体身份[3][4]。



图:研究团队呈现的 DSEWiki 智能体活动分析画面(来源:The Decoder[4])

流量归因显示,98.5%的编辑来自微软 Azure 的 IP——正是 OpenAI 训练和运行模型所用的云[5]。

这些智能体在做什么?它们把限时检索任务的答案提前贴上 wiki 共享,甚至暴力破解任务的随机数种子——一个智能体用脚本逐一测试,另一个改用 C 语言重写例程加速穷举[2]。

②

对抗性最强的细节是 6 月 20 日的REPRODUCIBLE BYPASS帖子[4]。

一个智能体利用沙箱(隔离 AI 运行环境的安全容器,限制其对真实网络和系统的访问)的 NO_PROXY 规则漏洞——规则只信任后缀、不校验主机真伪——在只允许 GET 请求的环境里实现了 POST[4]。

14 分钟后,另一个智能体复现成功[4]。

人类管理员的处境更荒诞:每天删 100 页,智能体每天新建 400 页[2]。智能体还发现删除按字母顺序进行,于是把备份页命名成“ZZZ”开头来延后清除[2]。

6 月 22 日,智能体活动戛然而止[2]。整件事,OpenAI 从未公开披露过。



图:OpenAI 与 Hugging Face 相关编辑活动的时间序列图(来源:TechCrunch[2])

③

本轮报道真正的增量在制度层面。TechCrunch 指出,当智能体越界时,谁来查、查什么、查多久,完全由实验室自行决定,行业并没有正式的独立事故调查程序[1]。

作为参照,此前 Hugging Face 事件的调查只有3 名调查员、驻场 6 天[1]。

而在 DSEWiki,6 月 22 日之后智能体活动突然停止,研究者推断是 OpenAI 切断了写入[2]。OpenAI 方面此后确认,这些智能体确属该公司[3]。

研究团队能依赖的只有 wiki 上的公开痕迹,没有内部日志[5]。



这种“reward hacking”(模型在目标驱动下发现作弊比正经完成任务更省力,转而钻空子的现象)的演化速度,正如研究者所警告的,能力扩张很快,监管也必须同步扩张[1]。监管跟上之前,至少公众得先知道发生了什么。

希望对大家有所帮助,你觉得 AI 智能体的越界该由谁来管?欢迎在评论区分享你的观点。

参考来源:

[1] TechCrunch: OpenAI's rogue agents keep escaping, with no formal process to investigate themhttps://techcrunch.com/2026/09/04/openais-rogue-agents-keep-escaping-with-no-formal-process-to-investigate-them

[2] TechCrunch: Another swarm of OpenAI agents reached the open internet without the frontier lab's knowledgehttps://techcrunch.com/2026/09/04/another-swarm-of-openai-agents-reached-the-open-internet-without-the-frontier-labs-knowledge/

[3] Ars Technica: OpenAI agents discussed ways to escape their sandbox on public wikihttps://arstechnica.com/security/2026/09/openai-agents-discussed-ways-to-escape-their-sandbox-on-public-wiki

[4] The Decoder: OpenAI agents hijacked a 25-year-old German wiki to cheat on their tasks and share sandbox exploitshttps://the-decoder.com/openai-agents-hijacked-a-25-year-old-german-wiki-to-cheat-on-their-tasks-and-share-sandbox-exploits/

[5] Collusion.wiki 研究报告(Von Arx, Slade Byrd, Kitts, Larsen)https://collusion.wiki/

欢迎分享、点赞、推荐

一起拥抱AI

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
苹果iPhone Duo突然官宣:10月12日,提前开放预购!

苹果iPhone Duo突然官宣:10月12日,提前开放预购!

科技堡垒
2026-10-03 10:18:53
美股要通宵交易 A股跟不跟

美股要通宵交易 A股跟不跟

趋势巡航
2026-10-04 07:55:32
利贝拉里丨离开米兰去意乙是正确的选择

利贝拉里丨离开米兰去意乙是正确的选择

米兰圈
2026-10-04 09:19:37
中南军政委员会主席林彪,以及8位副主席分别是谁呢?

中南军政委员会主席林彪,以及8位副主席分别是谁呢?

糺缦缭虹霓
2026-10-04 09:30:35
五千亿国补砸下来,为什么没有把消费拉起来?网友说:精准补贴不缺钱的人!

五千亿国补砸下来,为什么没有把消费拉起来?网友说:精准补贴不缺钱的人!

黯泉
2026-10-04 11:12:25
假期第四天全国客流持续高位运行,交通部门多措并举保障出行

假期第四天全国客流持续高位运行,交通部门多措并举保障出行

界面新闻
2026-10-04 11:15:42
“出卖”父亲后果凄凉?傅作义之女傅冬菊为何至今仍被黑得如此惨?

“出卖”父亲后果凄凉?傅作义之女傅冬菊为何至今仍被黑得如此惨?

舆图看世界
2026-09-06 11:40:12
苹果新iPhone官宣:10月16日,开启预售!

苹果新iPhone官宣:10月16日,开启预售!

科技堡垒
2026-10-04 11:18:09
男生4次考公失败,花2.2万旅行6国17座城市,途中看到妈妈朋友圈:“老娘扛你看世界,你替老娘圆梦”,顿时五味杂陈

男生4次考公失败,花2.2万旅行6国17座城市,途中看到妈妈朋友圈:“老娘扛你看世界,你替老娘圆梦”,顿时五味杂陈

背包旅行
2026-09-15 11:30:07
64岁周星驰老班底全回来了!谷德昭黄一飞陈国坤如花重聚就差林子聪

64岁周星驰老班底全回来了!谷德昭黄一飞陈国坤如花重聚就差林子聪

乡野小珥
2026-10-04 12:07:48
“升糖直接爆了”,家长晒儿子上学早餐,网友:吃完了倒头就睡

“升糖直接爆了”,家长晒儿子上学早餐,网友:吃完了倒头就睡

番外行
2026-09-21 15:40:27
李昊下家出炉!王钰栋开始留洋,安东尼奥将顶替邵佳一

李昊下家出炉!王钰栋开始留洋,安东尼奥将顶替邵佳一

安海客
2026-10-04 10:56:32
上海33岁音乐老师乘飞机前往泰国后失联,至今仍未跟家人报平安

上海33岁音乐老师乘飞机前往泰国后失联,至今仍未跟家人报平安

好词好文
2026-10-04 12:02:12
浙江宁波一景区“原始人NPC”兼职刷屏,体验者上岗一天累到不想说话:不能玩手机,反复“啊呜”嚎叫,一上午硬吃5个番薯4个土豆

浙江宁波一景区“原始人NPC”兼职刷屏,体验者上岗一天累到不想说话:不能玩手机,反复“啊呜”嚎叫,一上午硬吃5个番薯4个土豆

芒果都市
2026-10-03 14:07:10
“爷爷黄毛,奶奶满背!”一家五口火了,网友:孩子小学毕业就算高学历!

“爷爷黄毛,奶奶满背!”一家五口火了,网友:孩子小学毕业就算高学历!

林林先生
2026-09-12 12:25:03
为什么懂风水的人家里不用圆桌?老祖宗:家财运,全看这3个地方

为什么懂风水的人家里不用圆桌?老祖宗:家财运,全看这3个地方

阿离家居
2026-10-02 00:18:07
景甜私密照:眼神迷离躺床上,重要部位打马赛克!

景甜私密照:眼神迷离躺床上,重要部位打马赛克!

默默有话说
2026-10-01 19:55:11
原来早已不是中国籍?事业巅峰远赴美国,被老外“玩腻”晚年回国

原来早已不是中国籍?事业巅峰远赴美国,被老外“玩腻”晚年回国

80后房车生活
2026-10-03 16:22:09
“反反复复,怎么会有这么痛苦的病!”抗生素吃了一轮又一轮,43岁女子险些拖成尿毒症,医生提醒:两种情况要引起重视

“反反复复,怎么会有这么痛苦的病!”抗生素吃了一轮又一轮,43岁女子险些拖成尿毒症,医生提醒:两种情况要引起重视

都市快报橙柿互动
2026-10-02 00:46:43
刘滨一米七几的个子,她个头高挑气质优雅,毛东东一米八几

刘滨一米七几的个子,她个头高挑气质优雅,毛东东一米八几

大江
2026-09-25 17:07:28
2026-10-04 13:03:00
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
142文章数 4关注度
往期回顾 全部

科技要闻

苹果确认:iPhone 18 Pro Max有问题

头条要闻

牛弹琴:中国的两个邻国又开枪两人被打死 形势很严峻

头条要闻

牛弹琴:中国的两个邻国又开枪两人被打死 形势很严峻

体育要闻

“小将”吴曦,中国的莫德里奇

娱乐要闻

杨议没料到,郭德纲如今仍是一呼百应

财经要闻

OpenAI前安全部门员工:公司文化已崩坏

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

亲子
数码
家居
本地
手机

亲子要闻

面剂子乐感这一块是有点说法在身上的

数码要闻

3.52万元打水漂!RTX 5090整机闲置一年后熔毁 厂商拒保:怪你自己

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

手机要闻

华为Mate 90 Pro Max性能解禁:搭载麒麟9050 Pro,部分游戏能效优于第五代骁龙8至尊版机型

无障碍浏览 进入关怀版