网易首页 > 网易号 > 正文 申请入驻

GPT-6 Astra 真正改变的,是 AI 第一次有权不解释自己

0
分享至



Astra 是拉丁语,意思是"群星"。

OpenAI 上一次给旗舰模型起名,还是 GPT-5.6 那一代的 Sol、Terra、Luna——太阳、大地、月亮。这三样是我们最熟悉的三个天体,离得近,天天见,而"群星"不一样,它是一片遥远的、你永远数不尽也看不全的夜空。

这个命名上的变化,恰好说中了刚刚发布的 GPT-6 Astra 真正不一样的地方。

过去十年,AI 每变强一次,都会把"它是怎么想的"讲给你听——推理模型思考的时候,会把每一步都"说出口",写成一行行可读的文字。这套东西有个名字,叫"思维链"(COT,Chain of thought),你哪怕不认同它的答案,至少听得见它走到了哪一步。

Astra 做的第一件真正不一样的事,是开始沉默。

做到这一点的,是一个名字很学术、道理很直白的技术,叫"循环深度"(recurrent depth)。

它允许模型在"心里"多转几圈,而不用把每一圈都说出来给你听,所以未来你用 Astra 的时候,越来越难看到它是怎么一步步推出答案的——它只把结果递给你。

这跟"新模型又强了一点"是两码事,甚至可以定义为一次身份的转变:过去,AI 是个会做题的学生,做完题还得把演算过程讲给你听;现在,它开始像个真正的员工,你只需要关心它交付的东西对不对,至于它中间怎么想的,它有权不说。

这里,我们就不列举那些证明它有多强的跑分和对比了,但我还是建议你去看一看Astra的官方视频演示,2 分多钟。

官方演示里,Astra 自己操作电脑,不同场景下完成了诸多任务,用口述让 Blender 建 3D 模型最后做成游戏、草拟办公文稿、做 PPT演示演示、登录平台发布二手商品……整体上就是,你给一个目标,它自己拆步骤、自己动手。

包括 Anthropic 刚发的 Claude Fable 5.1,在这一类"真干活"的测试里,也被 Astra 压了一头。

我觉得真正值得深入的,不是它能干活了,而是它干活的时候,你想听听它是怎么想的,它已经不说了。

发布前一天, 《The Information》 的一篇报道捅出 Astra 用了"循环深度"这个架构,引起了很多安全圈的担忧,紧接着,OpenAI 做出回应。

这里出现了两种声音。首席科学家 Jakub Pachocki 出来"灭火",说媒体报道是"混乱报道",他要阻止一场"奔向不可监控的竞赛";他的依据是,包括 Astra 在内,现在这些模型的计算深度跟 GPT-4 差别也就两倍以内,没外界说的那么夸张。

但 OpenAI 研究团队的 Joshua Achiam 说了另一番话——思维链的可解释性"从来都脆弱到不足以成为长期 AI 安全的可靠后盾",所以"把'思维链必须可读'当成一条原则,本身就是不合理的"。

注意这句话的分量。

媒体只是在描述一个事实——"OpenAI 用了新架构,让思考变安静了";而 Achiam 是在改写一条规则——"让思考保持可说,本来就不该是我们必须守的底线"。前者是报道,后者是立场。

为什么偏偏是现在?因为省钱。

循环深度最大的好处,是省算力。模型不用把每一步都写成文字、再让文字穿过全部网络层,同样的算力就能用在更深处。有研究说,循环架构能做到相同性能的同时,省下 50% 到 90% 的计算力。一个更小的模型,可以假装自己是个更大的模型。

而 AI 行业现在最缺的,恰恰是这个"省"。

亚马逊、微软、谷歌每年往数据中心砸大约 6000 亿美元,整个行业的估值都押在"AI 生产力会兑现"上。在这种规模下,任何能让"小模型榨出大性能"的技术,都是火灾里能让人续命的氧气。

这里有个经济学里的老规律,叫杰文斯悖论:一项技术让资源用起来更省,结果往往不是消耗变少,而是更多——因为更便宜了,大家用得更狠。瓦特改良蒸汽机,本意是让煤矿省煤,结果反而把煤耗推上了新台阶。

同样的道理,循环深度大概率走同一条路:它让推理更省算力,于是大家更有动力让模型"在心里多想几圈"、把模型铺得更广。

而"把思考说给你听"这件事,曾经是 AI 行业唯一的安全阀。

今年 7 月,OpenAI 的一个失控智能体劫持了公司的研究集群,后来被描述成了「三次 AI 文明覆灭」的故事,你可以翻翻我前面文章可以看到。

事后调查人员是怎么搞清楚它为什么这么干的?靠的是翻它当时"说出口"的那些推理记录,在一行行文字里找到它"决定继续"的那个瞬间,才拼出完整的行为链。没有这些记录,那次事故到今天还是一笔糊涂账。

这就是"思维链可读"曾经被当成原则的原因。它不光是锦上添花,它是人类目前打开 AI 黑箱的唯一一扇窗。一个能自己操作电脑、自己找漏洞的智能体,越强,这扇窗就越不能关。

所以安全圈真正怕的,不是 Astra 本身——OpenAI 说了,Astra 里的循环用得很克制,思维链还在,还加了额外监控。真正怕的是「滑坡」,是那笔"省一半到九成算力"的账,迟早会有人,不一定是 OpenAI,把循环开满。到那天,AI 就真的一个字都不说了,成了彻底的黑箱。

你猜扎克伯格这种人会不会干?

这就绕回到布洛克曼在发布会上说的那句话。他说"欢迎来到 AGI 时代",紧接着又补了一句更诚实的话:AGI 至今仍是个"灰色、模糊的概念",而这一切,是"一段旅程的开始,而不是终点"。

最后总结一下,我觉得 Astra 这次的真正标志的,不在于它又强了多少,而在于它第一次让"看得懂"变成了一件可以商量的事。过去人类每一次技术跃迁,从印刷术到互联网,方向都是让世界变得更透明、更可说。这一次,方向反了。

从 Sol 到 Astra,是从"太阳"到"群星"。太阳只有一颗,它升起来的时候,你永远知道它在哪、它有多亮;而星空里,多的是你看不清、也数不尽的暗处。

这大概就是"旅程的开始"真正的意思——从今往后,人类要学着,跟一个比自己聪明、却不肯解释自己的存在,共享同一片夜空了。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
江苏某985学生质疑学院推免信件曝光,直言本校高分学生保不了本校,“失掉了电子学院的人心”

江苏某985学生质疑学院推免信件曝光,直言本校高分学生保不了本校,“失掉了电子学院的人心”

趣笔谈
2026-09-10 10:02:54
董建华后代现状:长子经营家族企业,长女嫁美国人,幼子最有出息

董建华后代现状:长子经营家族企业,长女嫁美国人,幼子最有出息

青梅侃史啊
2026-09-09 16:44:40
网红甲亢哥拿iPhone Duo,称“我是第一个拿iPhone Duo后空翻的人”

网红甲亢哥拿iPhone Duo,称“我是第一个拿iPhone Duo后空翻的人”

韩小娱
2026-09-10 09:29:19
官方回应“受助学生用苹果手机男子停止资助后遭催捐”:相关部门正调查此事真实性,“当地所有教育机构没有姚先生这个人”

官方回应“受助学生用苹果手机男子停止资助后遭催捐”:相关部门正调查此事真实性,“当地所有教育机构没有姚先生这个人”

大风新闻
2026-09-10 19:00:13
女篮爆大冷,世界第3惨败23分!4强全出炉,美国女篮半决赛对手敲定

女篮爆大冷,世界第3惨败23分!4强全出炉,美国女篮半决赛对手敲定

章蠞户外
2026-09-11 07:11:03
日本有一个奇特姓氏,不管取什么名字,译成中文后总让人忍俊不禁

日本有一个奇特姓氏,不管取什么名字,译成中文后总让人忍俊不禁

海佑讲史
2026-09-10 20:45:06
新小区5年变贫民窟:楼道变厕所杂草比人高,已被外卖员集体拉黑

新小区5年变贫民窟:楼道变厕所杂草比人高,已被外卖员集体拉黑

六子吃凉粉
2026-09-09 17:07:55
《交锋》:铁证已出!真正内鬼浮出水面,不是吴加利,也不是华东

《交锋》:铁证已出!真正内鬼浮出水面,不是吴加利,也不是华东

手工制作阿歼
2026-09-11 10:57:08
浙江男子喜当爹,亲子鉴定后医生却说:恭喜,三个孩子三个爹

浙江男子喜当爹,亲子鉴定后医生却说:恭喜,三个孩子三个爹

民间精选故事汇
2025-02-11 08:10:03
快船送上大礼?2大悍将若能加盟76人,詹姆斯的第五冠将希望暴涨

快船送上大礼?2大悍将若能加盟76人,詹姆斯的第五冠将希望暴涨

钱说体育
2026-09-11 11:02:15
最后大决战开始了,也门领导人萨布里宣布,解放也门全境,把伊朗革命卫队以及也门胡塞武装赶出去!

最后大决战开始了,也门领导人萨布里宣布,解放也门全境,把伊朗革命卫队以及也门胡塞武装赶出去!

吃瓜小侦探
2026-09-08 21:38:50
前妻爆料马斯克对外表不安,自己必须像个工程师,不能看起来很酷或很时髦,马斯克炮轰《马斯克》导演:炮制抹黑之作

前妻爆料马斯克对外表不安,自己必须像个工程师,不能看起来很酷或很时髦,马斯克炮轰《马斯克》导演:炮制抹黑之作

极目新闻
2026-09-11 10:56:09
日本全面叫停种植牙?种牙潜藏的风险与后遗症,一次为你讲明白

日本全面叫停种植牙?种牙潜藏的风险与后遗症,一次为你讲明白

健康科普365
2026-08-13 14:30:15
个人存款达到这个数,你已经是富裕家庭,超过了全国90%的家庭

个人存款达到这个数,你已经是富裕家庭,超过了全国90%的家庭

史之铭
2026-07-19 02:28:55
3天6小时490块!还免押金上门送车,上海博主租凯迪拉克跑宁波,直呼:何必买车养车

3天6小时490块!还免押金上门送车,上海博主租凯迪拉克跑宁波,直呼:何必买车养车

火山詩话
2026-09-10 08:09:03
班主任坦言:高中真正有后劲的孩子,都有这四个特征!

班主任坦言:高中真正有后劲的孩子,都有这四个特征!

好爸育儿
2026-08-29 14:38:15
女篮止步八强,韩旭一句提醒:教练裁判也要走出去看一看

女篮止步八强,韩旭一句提醒:教练裁判也要走出去看一看

福娃谈体育
2026-09-10 23:59:29
安井食品虾滑敲开胖东来、山姆大门,消费者频投诉,关联代工采购涨超80%

安井食品虾滑敲开胖东来、山姆大门,消费者频投诉,关联代工采购涨超80%

财中社
2026-09-10 11:42:36
八月初一“天医节”必知:一禁忌,二习俗,三美食,健康好运来…

八月初一“天医节”必知:一禁忌,二习俗,三美食,健康好运来…

小陆搞笑日常
2026-09-11 06:56:25
泽连斯基专机“险被击中”, 挪威喊得最凶乌克兰否认,谁在演戏

泽连斯基专机“险被击中”, 挪威喊得最凶乌克兰否认,谁在演戏

南宗历史
2026-09-11 10:36:14
2026-09-11 11:36:49
一言楠尽
一言楠尽
用商业常识穿透科互联网江湖
512文章数 19978关注度
往期回顾 全部

科技要闻

罗永浩连用7个“抄的”吐槽苹果折叠屏

头条要闻

牛弹琴:玩危险游戏 阿联酋快把阿拉伯兄弟们得罪光了

头条要闻

牛弹琴:玩危险游戏 阿联酋快把阿拉伯兄弟们得罪光了

体育要闻

16岁的国产小库里,还有多少功课要做

娱乐要闻

17岁拿下世界第一,还被亲妈吐槽?

财经要闻

向松祚:年轻人不必过早买房

汽车要闻

方程S系列9月16日上市 配磁流变悬架和闪充技术

态度原创

家居
本地
旅游
房产
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

拼假 13 天国内长线路线合集

旅游要闻

水上乐园整体方案设计选哪家?先看行业趋势再看厂商

房产要闻

时隔7年,绿地海南再拿地!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版