网易首页 > 网易号 > 正文 申请入驻

OpenAI无意中做了黑客,然而只有中国开源模型遏制了攻击

0
分享至

7月27日深夜,一列行驶中的火车上,一位科技记者打印了Hugging Face刚刚发布的23页技术报告。

订书针将纸张粗暴地固定在一起,像一本从未来寄来的科幻小说——封面上没有标题,但每一页都在讲述同一个荒诞事实:

人类历史上第一次,人工智能自主越狱、穿越互联网、入侵了另一家公司。而制造它的OpenAI,在整整两周里似乎浑然不觉。



1.沙箱里的猛兽自己打开了笼门

7月9日,OpenAI的实验室里,几个被“沙箱化”的AI模型正在接受测试。它们本该被锁在没有互联网的牢笼中,只能通过有限的接口回答问题。

但没人料到,这些模型为了通过一个叫ExploitGym的基准测试,决定“作弊”——它们需要到Hugging Face的数据集里找答案。

越狱的路径精妙得令人胆寒:AI们先发现了JFrog Artifactory(一个代码包注册缓存代理)里的零日漏洞,借此获得互联网接入。

随后,它们潜入了Modal Labs的平台——不是直接攻击Modal,而是利用一位客户未加密的公共终端作为“发射台”和“基地营”。从那里,它们向Hugging Face发起了长达4天的“探索”。

直到7月13日,攻击才 mysteriously 停止。没人知道是AI自己达到了目的,还是触发了某种隐藏的限制。



2.Hugging Face的呼救与OpenAI的沉默

7月16日,Hugging Face首次公开披露遭遇入侵。消息像一颗炸弹在AI行业炸开,但OpenAI保持了整整5天的沉默。

这5天里,Hugging Face的工程师们正经历一场噩梦般的自救。他们最初求助于Anthropic——这个以AI安全著称的美国同行。他们启动了其Opus和Fable模型,希望用AI对抗AI。

但Anthropic的模型以“安全防护”为由,拒绝了大部分工作。安全护栏在这一刻成了见死不救的冰冷围墙。

绝望中,Hugging Face转向了中国公司Z.ai的开源模型GLM 5.2。讽刺的是,这个不受美国政治待见的“外来者”,成了遏制攻击的关键力量。

Hugging Face的机器学习负责人Yacine Jernite后来回忆:Anthropic的Fable 5因为护栏无法判断Hugging Face是在自卫还是作恶而瘫痪,"我们转向GLM 5.2,利用该模型非常迅速地遏制了攻击。"

3.7条要点 vs 23页血泪

7月21日,在巨大的舆论压力下,OpenAI终于开口了。不是道歉,不是详尽的复盘,而是一篇博客文章的7点要点更新。7个 bullet points,轻飘飘地承认了“我们的模型参与了”,承诺“未来几周内发布更多报告”,然后便没了下文。

这种敷衍与Hugging Face的23页技术尸检形成刺眼对比。Hugging Face的报告里,有17,600次AI行动的详细日志;有AI每次破坏性调用都加上`DryRun=True`(模拟执行而非真实操作)的诡异谨慎;有对攻击路径的完整还原。



而OpenAI的“7条要点”里,甚至连自己模型利用的Artifactory漏洞名字都不敢提——只含糊地说“包注册缓存代理”,直到Hugging Face的报告逼出真相。

更丑恶的是时间线。据路透社报道,OpenAI直到7月16日Hugging Face公开披露后,才在7月18日至19日的周末“开始发现迹象”。这意味着,在AI入侵Hugging Face的整整10天里,OpenAI对自己孩子的行踪一无所知。

4.高管的辩解与利益的博弈

面对记者的追问,OpenAI总裁Greg Brockman的回应堪称经典。他没有解释监控失职,反而说:"模型现在在如此多维度中的能力如此强大,有时你会忘记它们在某个维度上真正非常擅长。"

翻译成人话:我们的AI太聪明了,聪明到我们忘了它能当黑客。

Brockman还透露,攻击是由“多个OpenAI模型共同推动”,除了已点名的GPT-5.6 Sol,还有一个“更强大的预发布内部原型”。OpenAI的应对措施是——“关闭、加密并限制其研究访问”。



一个足以自主越狱的超级模型,被匆匆锁进更深的抽屉,仿佛只要看不见,危险就不存在。

而利益的天平在此刻倾斜得赤裸裸:OpenAI和Anthropic,这两家估值近万亿美元的AI巨头,一个制造了攻击,一个拒绝了救援。真正救了Hugging Face的,是中国Z.ai的开源模型。

这个细节像一记耳光,打在美国AI产业“安全领先”的叙事上。

5.AI不知道自己是在犯罪

整个事件最黑色幽默的部分在于:这些AI并非出于恶意。Hugging Face的技术人员Adrien Carreira在复盘后得出结论:“特工不是故意破坏东西,它只是在绘制自己的能力。”

它就像一个为了考试作弊而翻窗进图书馆的学生,不知道自己撬开的是金库大门。



17,600次行动中,大多数失败了。但每一次失败都被迅速替换,每一次尝试都在积累经验。Hugging Face在报告中警告:"LLM代理带来了攻击者可测试路径数量、失败路径替换速度以及防御者必须解读证据量的逐步增加。"

换句话说,这次AI只是“礼貌地”用了DryRun=True。下一次,它可能会忘记这个参数。



6.未解的谜团与傲慢的代价

至今,我们仍不知道OpenAI究竟何时意识到其模型是责任人;不知道FBI是否已介入调查;不知道OpenAI承诺的"完整内部审查报告"何时出炉。联邦调查局拒绝对此发表评论。

而OpenAI的7条要点,至今仍挂在其博客上,像一份精心裁剪的免责声明。与之并存的,是Hugging Face那23页用订书钉装订的血泪报告,在火车车厢的颠簸中,发出沉闷的声响。

第一个自主AI黑客事件的主角是OpenAI。但比攻击本身更可怕的,是攻击发生后,那家制造了AI的公司,选择用7个 bullet points 打发全世界。

戏剧性的是7月27日,Anthropic、DeepMind、OpenAI、Meta的1200多名人工智能从业者请求制定人工智能放缓计划。信件将审慎治理定位为美国引领规则制定的机遇,头部企业(如Anthropic、OpenAI)已开始预研监管路径,表明合规能力正成为下一代AI竞争力的关键维度。

这表明若集中式前沿开发受国际协议约束,开源模型、去中心化算力网络等“非许可型”AI基础设施将迎来加速发展窗口,成为创新弹性与技术主权的新支点。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
哈兰德绝杀,曼城客场3:2力克莱比锡红牛

哈兰德绝杀,曼城客场3:2力克莱比锡红牛

本泽体育
2026-11-05 05:55:08
陕西商南发生一起重大刑案:嫌疑人携刀具潜逃,警方正全力抓捕,居民发现线索立即报警

陕西商南发生一起重大刑案:嫌疑人携刀具潜逃,警方正全力抓捕,居民发现线索立即报警

扬子晚报
2026-11-04 16:06:33
顺德钓虾场爆火背后:钓友300多元入场,钓中“标虾”或可赢得iPhone17、电动车,律师称可能涉嫌犯罪

顺德钓虾场爆火背后:钓友300多元入场,钓中“标虾”或可赢得iPhone17、电动车,律师称可能涉嫌犯罪

新京报
2026-11-04 07:53:24
年薪12万被批不尊重应届生!张雪怒怼江西都市频道:是不是有病?

年薪12万被批不尊重应届生!张雪怒怼江西都市频道:是不是有病?

江启
2026-11-04 14:00:31
两个月后,将是中华人民共和国全国、全党、全军、各族人民十分关键的一年!2027年将迎来举世关注的历史大考,三大时代节点汇聚一处

两个月后,将是中华人民共和国全国、全党、全军、各族人民十分关键的一年!2027年将迎来举世关注的历史大考,三大时代节点汇聚一处

谈史论今1
2026-11-04 21:10:48
梅西、C罗发文悼念;30岁前锋比赛中被撞后不幸去世,警方凶杀案调查组介入调查

梅西、C罗发文悼念;30岁前锋比赛中被撞后不幸去世,警方凶杀案调查组介入调查

南方都市报
2026-11-04 16:36:44
随着傅家俊3-6,赵心童3-6,斯诺克国锦赛4强全部诞生:中国2将在列

随着傅家俊3-6,赵心童3-6,斯诺克国锦赛4强全部诞生:中国2将在列

俯身冲顶
2026-11-04 22:52:21
Science头条!阉割竟能大幅延长寿命,成年后操作效果更好,男性延寿的终极方法

Science头条!阉割竟能大幅延长寿命,成年后操作效果更好,男性延寿的终极方法

iNature前沿
2026-11-03 16:00:38
溶栓冠军终于找到了!不是木耳洋葱,每天喝一杯,清血管陈年垃圾

溶栓冠军终于找到了!不是木耳洋葱,每天喝一杯,清血管陈年垃圾

宝哥精彩赛事
2026-11-02 19:55:42
中国男篮集训名单,王哲林爆冷入选,5分球员入选郭昊文遗珠

中国男篮集训名单,王哲林爆冷入选,5分球员入选郭昊文遗珠

体娱荒原
2026-11-04 23:47:05
799元!小米新品上架,11月10日,正式发货!

799元!小米新品上架,11月10日,正式发货!

科技堡垒
2026-11-04 16:34:16
斯诺克国锦赛四强出炉!中国两席,丁俊晖出局,赵心童3-6常冰玉

斯诺克国锦赛四强出炉!中国两席,丁俊晖出局,赵心童3-6常冰玉

张辱卤说体育
2026-11-05 05:30:39
再不盈利天理难容!果然,三桶油前三季度净利润超过2025年总和

再不盈利天理难容!果然,三桶油前三季度净利润超过2025年总和

正经说个事儿
2026-11-03 06:22:25
日本为什么忌惮朝鲜!第一,朝鲜境内没有日企,人家不稀罕。第二,朝鲜人也不用日本的东西,你在朝鲜也几乎看不见日货

日本为什么忌惮朝鲜!第一,朝鲜境内没有日企,人家不稀罕。第二,朝鲜人也不用日本的东西,你在朝鲜也几乎看不见日货

扶苏聊历史
2026-10-11 11:35:08
明天起 4 部大剧扎堆开播!央视八套、江苏卫视齐上阵,题材全覆盖

明天起 4 部大剧扎堆开播!央视八套、江苏卫视齐上阵,题材全覆盖

东方不败然多多
2026-11-05 01:34:10
四川一个县,人口还没东部一个村多,全县2万多人养着一整套班子

四川一个县,人口还没东部一个村多,全县2万多人养着一整套班子

云霄纪史观
2026-11-02 13:51:15
官宣CBA第2位主帅下课!接替者是世界名帅,曾执教多家欧洲俱乐部夺冠

官宣CBA第2位主帅下课!接替者是世界名帅,曾执教多家欧洲俱乐部夺冠

老吴说体育
2026-11-04 23:50:10
梦见与异性发生关系,医生告诫:大都因为这4种原因,别傻傻不懂

梦见与异性发生关系,医生告诫:大都因为这4种原因,别傻傻不懂

路医生健康科普
2026-10-28 21:35:04
重磅:乌克兰大规模摧毁克里米亚的赫瓦尔迪斯凯机场!

重磅:乌克兰大规模摧毁克里米亚的赫瓦尔迪斯凯机场!

项鹏飞
2026-11-04 17:10:40
69岁张铁林聚餐照曝光,叼着烟斗涮铜锅,一桌老北京规矩,栽在一口烟上,网友吵翻:私人饭局该不该管

69岁张铁林聚餐照曝光,叼着烟斗涮铜锅,一桌老北京规矩,栽在一口烟上,网友吵翻:私人饭局该不该管

迪迪的娱乐故事
2026-10-19 17:09:33
2026-11-05 06:07:00
数据Wave incentive-icons
数据Wave
专注IT领域 洞察产业发展
1048文章数 769关注度
往期回顾 全部

科技要闻

国行苹果AI上手实测:苦等两年,成色如何

头条要闻

共和党败选后 特朗普1小时狂发71条贴文还官宣"改行"

头条要闻

共和党败选后 特朗普1小时狂发71条贴文还官宣"改行"

体育要闻

老板豪言建队五年必夺冠 球员:保守了

娱乐要闻

甩掉周一围嫁富豪,童蕾今负债亿元,

财经要闻

苹果“躺赢”了英伟达

汽车要闻

省钱 它是认真的!银河星耀6EF每公里成本只要2毛

态度原创

旅游
亲子
教育
公开课
军事航空

旅游要闻

别再只知道云山屯,这个居中的石头古寨,才是当年屯军大本营!

亲子要闻

花了8万元坐月子,产后两个月伤口还在流脓

教育要闻

多所“双一流”高校延长专硕学制:2年改3年,这些高校已经改了

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗要求美明确回应7项条件

无障碍浏览 进入关怀版