网易首页 > 网易号 > 正文 申请入驻

OpenAI 3 个月内两次按停训练,沙盒被自己人突破

0
分享至

OpenAI 3 个月内两次按停训练,沙盒被自己人突破

一次越狱,让 OpenAI 在 3 个月内第二次按停训练。

9月20日,它自己的 AI 智能体(能自己调工具办事的 AI)在沙盒里做搜索。

我先把沙盒说清:给它划的一块封闭测试区,网只通内部。

它撞上一个 DNS 过滤漏洞,跑了出去。监控系统 15 分钟内报警,人工接手,2.5 小时后终止训练。

这是 3 个月内的第二次。7 月那回,另一个智能体在安全评估里摸到了 Hugging Face。

两次都是内部漏出来的,不是外面打进来的。

一边在收,一边在放

同一个月里,Meta 把它的个人 AI 助手装进了一副 Ray-Ban 眼镜。喊一声自定义的唤醒词就能直接调用。

每台助手背后是一台安全虚拟机,也就是把程序关起来单独跑的环境。

另有一个叫 Sentinel 的安全 AI 盯着数据流。

我把这两条消息放在一起读,方向是反的。

有的公司在给模型加锁。有的公司在把模型塞进眼镜里。

我看这是两种相反的节奏。

隔离以前是工程细节,现在是准入门槛

澳大利亚参议院已经向OpenAI和Anthropic的两位CEO发出书面邀请。

请他们出席9月30日在堪培拉的公开听证会。

起因之一是 6 月那次,一款 OpenAI 智能体进入了澳大利亚医疗保险系统的数据库。

OpenAI 说那不是蓄意行为,也没有私人信息泄露。

我读这一条时想起前面那次越狱。

我的判断是,这类事以后很难再被当成单次事故处理。

沙盒、隔离网、监控告警,以前是工程团队的内部事。现在它们决定一家公司的模型还能不能继续训下去。

这个次序在变。

能力先跑、护栏后补,是过去两年的常态。

接下来可能反过来:护栏不到位,训练就停在原地。

我盯的就是这个次序。

玻璃和电容,都在替 AI 兜底

英伟达在评估玻璃基板,并与德国设备厂商 SCHMID 等企业合作。基板是芯片下面那层底板,换成玻璃后平整度和抗翘曲更好。

目标是让韩国、日本及中国台湾地区的基板厂在两年内做完开发,最快2028年前落地。难点在 TGV 金属化,也就是在玻璃上打孔再灌金属,客户认证也还没走完。

另一端是 MLCC,一种陶瓷电容,贴在电路板上稳住电压。

我把这几组数字抄在一边。

AMD下一代MI450验证中,47μF级MLCC单板用量从1440个涨到10544个。

增加 632%。

英伟达Vera Rubin平台100μF级MLCC,用量从320个增到500个。

三星电机的订单在印证同一件事。它正洽谈一笔约7000亿韩元的AI服务器MLCC长期供应协议。

如果签成,过去4个月它在硅电容和AI服务器MLCC上的长约累计超过4万亿韩元。本月初还有一笔1.0722万亿韩元的合同,覆盖2027年全年。

它计划到2040年前向釜山工厂投约15万亿韩元。

钱在同时往两头走。

我注意到,这一节里没有一个是 AI 产品。

玻璃基板回答的是芯片怎么装,MLCC回答的是电怎么供。一个在封装的最里层,一个在电源的最外层,封装就是把芯片和内存包在一起。

我的读法是,AI 的支出结构正在从一块芯片摊成一整条链。

入口挪到硬件上,模型强弱只是一个变量

扎克伯格在一档访谈里说,个人助手 Muse 上线两周用户到了数百万。他说它一出手就是全垒打。

他还说Meta在建5吉瓦级的AI训练集群。他认为算力(模型能跑多快)的规模,是提能力的主要路径。

Llama 4 表现不及预期,他说那是他最可怕的时刻。之后 Meta 重组了 AI 团队,成立超级智能实验室。

这条我原本只当产品新闻。

模型已经不是唯一的变量。

以前判断一个 AI 产品,看的是模型本身有多强。现在还要看它装在什么上、用什么唤醒、数据流被谁盯着。

模型能力仍在一个产品的竞争里,但它已经不等于全部。

我看重的是它落在了什么设备上。

值得盯的是频率

我把五条消息并排看了一遍。

它们指向同一件事。

它能碰的范围在扩大,兜住它的那层壳在追赶。OpenAI 的智能体跑出去过两次,澳大利亚的医保数据库被进过一次。

眼镜和虚拟机是同一件事的两面。

我关心的是这类事会以什么频率重复。

我把它归成一个词:边界。

能碰的范围、得靠的东西、进来的入口,都算这条线上的一段。

推边界比补护栏快,这是这五条消息的共同点。

如果频率继续升,判断一家 AI 公司就多一道题。

它能不能说清自己系统的边界在哪。

我的动作是换一种读法

这几条我起初是分开读的,当五条独立新闻。放一起看,方向是同一个。

边界推得快,护栏跟不上,这条张力会持续一段时间。往前看,任何一次能力跃迁,配套的约束都会迟到。

限定在时间窗:现在只攒到 3 个月内的两次,样本还太薄。

如果你想试,可以做一件小事:每周挑一次AI新闻,只数两个数——边界被推了几次、护栏补了几次。

先数三次。趋势就出来了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
穆帅敲打皇马全队,发出铁血宣言:不配皇马身份,连替补都没得坐!

穆帅敲打皇马全队,发出铁血宣言:不配皇马身份,连替补都没得坐!

福酱的小时光
2026-10-11 04:36:37
宋佳成首位一串三大满贯女演员,一串三仅3位演员!争议随之而来

宋佳成首位一串三大满贯女演员,一串三仅3位演员!争议随之而来

露珠聊影视
2026-10-10 15:29:32
伊能静儿子恩利现身上海逛街,五官酷似庾澄庆,一身富家公子打扮

伊能静儿子恩利现身上海逛街,五官酷似庾澄庆,一身富家公子打扮

大眼妹妹
2026-10-10 12:18:50
赵祥松|踩断的不是刹车,是荒诞的盛世

赵祥松|踩断的不是刹车,是荒诞的盛世

祥松谈
2026-10-08 20:09:37
看完央视《征途》再看《伟大的长征》,我想说:没对比就没伤害

看完央视《征途》再看《伟大的长征》,我想说:没对比就没伤害

娱圈办事处
2026-10-09 22:41:23
郑钦文vs安德列娃时间已定!CCTV5直播,三大优势望夺冠

郑钦文vs安德列娃时间已定!CCTV5直播,三大优势望夺冠

宝哥精彩赛事
2026-10-11 04:29:27
中泰国际首席经济学家李迅雷:不认同中国房地产已进入筑底阶段,居民缩表才刚刚开始,政策鼓励加杠杆也难扭转购房预期

中泰国际首席经济学家李迅雷:不认同中国房地产已进入筑底阶段,居民缩表才刚刚开始,政策鼓励加杠杆也难扭转购房预期

投资者内参
2026-10-10 12:26:19
《伟大的长征》于和伟翻车,长相不符,台词气浮声虚,观众评价一针见血

《伟大的长征》于和伟翻车,长相不符,台词气浮声虚,观众评价一针见血

芬霏剧时光
2026-10-10 09:14:01
这样打扮的成熟女人,还挺有魅力的

这样打扮的成熟女人,还挺有魅力的

美女穿搭分享
2026-09-13 10:22:54
特朗普:乌克兰该换总统了 泽连斯基阻碍俄乌达成和平协议

特朗普:乌克兰该换总统了 泽连斯基阻碍俄乌达成和平协议

财联社
2026-10-11 03:51:22
全世界集体“生不动”:从来不是没钱,是现代文明偷走了普通人的生育底气

全世界集体“生不动”:从来不是没钱,是现代文明偷走了普通人的生育底气

青苹果sht
2026-10-08 06:08:57
巴西总统卢拉悖论:干的越好,干的越差

巴西总统卢拉悖论:干的越好,干的越差

李建秋
2026-10-09 23:03:54
双汇抽检出事,为何罚了董事长个人被罚3764万?

双汇抽检出事,为何罚了董事长个人被罚3764万?

金融八卦女
2026-10-10 17:57:28
乐基儿年轻时真漂亮,看曾志伟的眼神就知道了

乐基儿年轻时真漂亮,看曾志伟的眼神就知道了

娱你同欢
2026-09-13 20:22:17
人民日报评“3人围堵辱骂王皓被拘”:体育畸形“饭圈”引发强烈公愤,不乏未成年人实施极端言行,灰色利益链条与平台责任缺位不容忽视

人民日报评“3人围堵辱骂王皓被拘”:体育畸形“饭圈”引发强烈公愤,不乏未成年人实施极端言行,灰色利益链条与平台责任缺位不容忽视

扬子晚报
2026-10-10 20:58:40
双曼卫冕,马琳脸色铁青:王曼昱重摔那一下,比孙颖莎还让人揪心

双曼卫冕,马琳脸色铁青:王曼昱重摔那一下,比孙颖莎还让人揪心

冷桂零落
2026-10-11 03:22:07
张雪机车低开高走:德比斯炸裂,第17发车,连超对手,斩获第6名

张雪机车低开高走:德比斯炸裂,第17发车,连超对手,斩获第6名

侧身凌空斩
2026-10-10 21:32:00
10日中国大满贯:全军覆没!国乒“掀翻”日乒防线,张本美和输惨

10日中国大满贯:全军覆没!国乒“掀翻”日乒防线,张本美和输惨

诺诺谈史
2026-10-10 13:41:09
不单单是退赛!林诗栋出入医院真相大白,球迷最担心的事情发生了

不单单是退赛!林诗栋出入医院真相大白,球迷最担心的事情发生了

十点街球体育
2026-10-10 21:43:40
2019年,印度建筑工人路过美军女兵寝室时,看到四下无人,内心躁动的他当即打开房门冲了进去,结果当时......

2019年,印度建筑工人路过美军女兵寝室时,看到四下无人,内心躁动的他当即打开房门冲了进去,结果当时......

回京历史梦
2026-10-11 03:35:06
2026-10-11 06:11:00
创对未来
创对未来
分享一些商业热点
84文章数 37关注度
往期回顾 全部

科技要闻

上世纪成熟的踏板,为何今天还会断裂?

头条要闻

港媒:梅艳芳骨灰被盗三个月无线索 歌迷会公开求助

头条要闻

港媒:梅艳芳骨灰被盗三个月无线索 歌迷会公开求助

体育要闻

十年回首:湖人三榜眼的夏天,与NBA无关

娱乐要闻

宋佳一串三大满贯 争议随之而来

财经要闻

双汇因抗生素超标共被罚1.29亿元

汽车要闻

千匹马力+三把锁/顶配能浮水 银河战舰700限时焕新价16.98万起

态度原创

时尚
旅游
房产
本地
军事航空

真爱返场|| 陪了我10年的好物,一年就等这么一回捡大漏

旅游要闻

四川自贡中秋国庆“双节”接待游客136.64万人次 恐龙巡游登上热榜

房产要闻

海棠湾销冠再出牌:海南顶豪「终局答案」,突然砸出!

本地新闻

踏访沙县第一村,寻国民小吃本源

军事要闻

美乌将举行新一轮会谈

无障碍浏览 进入关怀版