网易首页 > 网易号 > 正文 申请入驻

GPT-6 Astra学会用「空白Token」思考!推理能力突然变强

0
分享至


来源:新智元

编辑:桃子

给AI一道难题,不许写解题过程,只准交答案。

答不出来怎么办?

在题目后面,加上一长串毫无意义的点。

就这么一个操作,GPT-6 Astra在一项四跳推理测试中的准确率,从约10%升到了50%。旧AIME数学题上的表现,也从约60%升到了90%。


题目没变,没有补充知识,也没有递上解题提示。多出来的,只有填充Token。

这是Redwood Research在最新报告中,发现GPT-6 Astra背后推理的另一面。

一串……

让GPT-6突然开窍

先还原一下实验场景。

Redwood Research的研究人员给GPT-6 Astra出了一道需要连续推理四步的难题,

比如,1992年诺贝尔文学奖得主的出生日期是哪天?用这个日期去找对应届次的奥斯卡颁奖典礼,最佳女演员是谁?她又是哪天出生的?

难点在于,后一步必须拿到前一步的结果才能继续。第一步找错人,后面就会一路跑偏。

这正是「串行推理」:一环扣一环,不能把所有问题同时摊开来做。

此前测试的所有模型,在这类4-hop任务上准确率只有可怜的1%-3%。

然后研究人员做了一个看起来很傻的操作:在问题后面加了一串「............」。

什么也没问,就是一堆空白token。

Astra的准确率,从大约10%直接冲到了50%。

而对照组,Opus 4.5、Opus 5、GPT-5.6-Sol面对同样的空白token,几乎毫无反应。

只有Astra「看懂了」。或者说,它把那些空白当成了思考的空间。



数学题也涨分,但加点有上限

接下来,研究者把题目换成复杂算式。

多层括号,加减乘除交错,总计15个运算。模型需要处理中间结果,再把它们交给后续计算。

Astra再次表现出比其他受测模型更明显的提升。

不过,15个运算不等于15步串行推理:部分分支可以同时计算。这组测试考验的是嵌套计算能力,不能把运算数量直接当成思考深度。

竞赛数学也出现了类似现象。


研究者测试了两类题:一类将上世纪80年代的AIME题修改数字,以降低训练数据污染的影响;另一类来自2024至2026年的AIME和HMMT。

报告概述中,旧AIME题的准确率从约60%升至约90%。在相关竞赛题测试里,填充Token的收益大约在8192 Token附近达到峰值。

点,并非越多越灵。换成HLE和LiveBench,大多数类别也有改善,但整体幅度更温和。

另外,「其他模型完全做不到」也说过头了。报告的统计检验发现,GPT-5.6 Sol在三个基准上同样呈现提升,只是幅度远不及Astra。

推理Token为零

不等于没动脑

看到这里,很容易冒出一个问题:研究者真的把Astra的推理关掉了吗?

报告脚注交代了实验设置。

由于当时API不支持Astra的reasoning:none,团队使用低强度推理设置,再通过开发者指令要求模型直接回答,禁止输出任何推理过程。

他们确认,所有输出中,API报告的推理Token数量均为零。



这个「零」很关键,但它只代表接口记录的推理Token为零,无法证明模型内部完全没有计算。

研究者还换了几种填充方法:连续数数、重复题目,以及句点。在这些测试中,效果大致相似。

位置也有讲究。填充放在题目之后能带来收益;放到题目之前,没有观察到同样的效果。

这与一种解释相符,模型需要先接触问题,后面的额外位置才有机会参与解题。

AI不写过程

人类怎么看懂它?

Redwood真正担心的,是思维链监控。

一种安全监控思路,是检查模型写出的推理内容,从中寻找危险计划、欺骗意图或违规迹象。

但如果相当一部分计算无需写成文字,这扇观察窗口就可能漏掉重要内容。

当然,这次实验没有展示Astra实施恶意行为,也没有证明它故意隐瞒。研究者指出的是一种风险:模型可能具备比文字记录所呈现的更强的内部处理能力。

这也会影响评测。只要求AI「直接回答」,就把分数当作其无思维链能力的上限,可能低估它。

为此,团队建议,未来的无推理评测加入填充Token测试,进一步探查模型在不输出思维链时能做到什么。

这次实验留下的问题,远比「提示词后面加多少个点」更大。

AI没写出来的过程,还有多少是我们没看见的?

参考资料:

https://blog.redwoodresearch.org/p/astra-is-much-better-at-reasoning

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
33岁凯恩首获金球奖!拜仁近45年首人 创8大纪录 一举终结3大等待

33岁凯恩首获金球奖!拜仁近45年首人 创8大纪录 一举终结3大等待

我爱英超
2026-10-27 06:59:39
三大利好突袭!刚刚,集体飙涨

三大利好突袭!刚刚,集体飙涨

证券时报
2026-10-27 09:44:21
姆巴佩到底说了些什么

姆巴佩到底说了些什么

深度财线
2026-10-27 12:30:47
塞尔维亚一夜变天!武契奇败选,三个重大信号曝光,中国要警惕了

塞尔维亚一夜变天!武契奇败选,三个重大信号曝光,中国要警惕了

麓谷隐士
2026-10-27 10:34:41
姆巴佩到底说了什么话?

姆巴佩到底说了什么话?

微微热评
2026-10-27 14:02:35
自媒体人“徽剑”疑似遇害前最后一条朋友圈曝光,发布次日即被假警察带走

自媒体人“徽剑”疑似遇害前最后一条朋友圈曝光,发布次日即被假警察带走

上游新闻
2026-10-27 13:58:40
震惊!广州餐饮老板晒聊天记录,9000多粉丝探店博主报价6800元,还要9人团队免费就餐,怒斥对方“你们吃的不烧心吗”

震惊!广州餐饮老板晒聊天记录,9000多粉丝探店博主报价6800元,还要9人团队免费就餐,怒斥对方“你们吃的不烧心吗”

火山詩话
2026-10-27 06:09:05
坏消息:中国3.4亿退休老人们面临的非常严峻问题,已经到来了

坏消息:中国3.4亿退休老人们面临的非常严峻问题,已经到来了

石辰搞笑日常
2026-10-27 04:28:33
香港15名公务员合买彩票中3000万,兑奖人企图独吞被捕,最新进展:14名同事将其告上法庭,案件详情曝光

香港15名公务员合买彩票中3000万,兑奖人企图独吞被捕,最新进展:14名同事将其告上法庭,案件详情曝光

扬子晚报
2026-10-26 22:47:02
姆巴佩不当言论事件始末

姆巴佩不当言论事件始末

干货收并购
2026-10-27 12:21:16
“徽剑案”最荒诞的问题,事到如今还不指出来吗?

“徽剑案”最荒诞的问题,事到如今还不指出来吗?

走读新生
2026-10-27 14:16:56
刘嘉玲估计头都大了,这是管不了还是假装看不见?

刘嘉玲估计头都大了,这是管不了还是假装看不见?

喜欢历史的阿繁
2026-10-27 04:28:25
金钟奖/庄凯勋泪夺视帝高喊:我是台湾演员! 3声道超暖致词感动全场

金钟奖/庄凯勋泪夺视帝高喊:我是台湾演员! 3声道超暖致词感动全场

ETtoday星光云
2026-10-26 23:51:03
姆巴佩自爆最爱换脸我国开国伟人涉辱华 蒙牛、东鹏饮料终止合作

姆巴佩自爆最爱换脸我国开国伟人涉辱华 蒙牛、东鹏饮料终止合作

环球趣闻分享
2026-10-27 14:05:12
一位博主,因拒不删稿被活活打死

一位博主,因拒不删稿被活活打死

家传编辑部
2026-10-27 14:08:29
已经没有正部级央企了

已经没有正部级央企了

抽屉读书
2026-10-27 12:03:18
美国和以色列终于意识到自己闯了多大的祸:你可以轰炸伊朗,也能打击伊朗的石油设施,但不能把斩首哈梅内伊当成结束战争的捷径。

美国和以色列终于意识到自己闯了多大的祸:你可以轰炸伊朗,也能打击伊朗的石油设施,但不能把斩首哈梅内伊当成结束战争的捷径。

回京历史梦
2026-10-24 14:45:12
网传体制内已成网贷重灾区,网友说:他们工作收入太稳定了,是网贷的优质潜在客户!

网传体制内已成网贷重灾区,网友说:他们工作收入太稳定了,是网贷的优质潜在客户!

黯泉
2026-10-27 09:41:14
国家部委工作人员张某因个人矛盾想报复同事、单位,主动投靠境外间谍情报机关,疯狂出卖重要领域国家秘密,准备叛逃时被国安机关控制

国家部委工作人员张某因个人矛盾想报复同事、单位,主动投靠境外间谍情报机关,疯狂出卖重要领域国家秘密,准备叛逃时被国安机关控制

政知新媒体
2026-10-27 08:47:40
羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

羡慕哭了!宝马裁员8000人,离职补偿金最高达487万元!员工争着离职挤崩系统

聊斋新志
2026-10-22 19:28:15
2026-10-27 16:11:00
人工智能学家 incentive-icons
人工智能学家
人工智能领域权威媒体
5126文章数 37528关注度
往期回顾 全部

科技要闻

Anthropic最硬气招股书,先把丑话说在前头

头条要闻

香港15名公务员合买彩票中3000万元 兑奖人欲独吞被捕

头条要闻

香港15名公务员合买彩票中3000万元 兑奖人欲独吞被捕

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

韩国芯片出口额可能下降高达1000亿美元

汽车要闻

2027款吉利缤越超能版上市,先享价5.98万元起

态度原创

游戏
时尚
亲子
本地
手机

开发者承认《文明7》部分改动过头并着手调整

美商高的人都在研究这个?其实有捷径可走

亲子要闻

小天赐,终为父母当年的“冲动”买了单,年仅7岁活得不像个小孩

本地新闻

十月奔赴迪庆,解锁梅里日照金山

手机要闻

全网第一例!iPhone Duo外屏惊现绿线:没摔没磕碰

无障碍浏览 进入关怀版