网易首页 > 网易号 > 正文 申请入驻

GPT-6 Astra学会用「空白Token」思考!推理能力突然变强

0
分享至


来源:新智元

编辑:桃子

给AI一道难题,不许写解题过程,只准交答案。

答不出来怎么办?

在题目后面,加上一长串毫无意义的点。

就这么一个操作,GPT-6 Astra在一项四跳推理测试中的准确率,从约10%升到了50%。旧AIME数学题上的表现,也从约60%升到了90%。


题目没变,没有补充知识,也没有递上解题提示。多出来的,只有填充Token。

这是Redwood Research在最新报告中,发现GPT-6 Astra背后推理的另一面。

一串……

让GPT-6突然开窍

先还原一下实验场景。

Redwood Research的研究人员给GPT-6 Astra出了一道需要连续推理四步的难题,

比如,1992年诺贝尔文学奖得主的出生日期是哪天?用这个日期去找对应届次的奥斯卡颁奖典礼,最佳女演员是谁?她又是哪天出生的?

难点在于,后一步必须拿到前一步的结果才能继续。第一步找错人,后面就会一路跑偏。

这正是「串行推理」:一环扣一环,不能把所有问题同时摊开来做。

此前测试的所有模型,在这类4-hop任务上准确率只有可怜的1%-3%。

然后研究人员做了一个看起来很傻的操作:在问题后面加了一串「............」。

什么也没问,就是一堆空白token。

Astra的准确率,从大约10%直接冲到了50%。

而对照组,Opus 4.5、Opus 5、GPT-5.6-Sol面对同样的空白token,几乎毫无反应。

只有Astra「看懂了」。或者说,它把那些空白当成了思考的空间。



数学题也涨分,但加点有上限

接下来,研究者把题目换成复杂算式。

多层括号,加减乘除交错,总计15个运算。模型需要处理中间结果,再把它们交给后续计算。

Astra再次表现出比其他受测模型更明显的提升。

不过,15个运算不等于15步串行推理:部分分支可以同时计算。这组测试考验的是嵌套计算能力,不能把运算数量直接当成思考深度。

竞赛数学也出现了类似现象。


研究者测试了两类题:一类将上世纪80年代的AIME题修改数字,以降低训练数据污染的影响;另一类来自2024至2026年的AIME和HMMT。

报告概述中,旧AIME题的准确率从约60%升至约90%。在相关竞赛题测试里,填充Token的收益大约在8192 Token附近达到峰值。

点,并非越多越灵。换成HLE和LiveBench,大多数类别也有改善,但整体幅度更温和。

另外,「其他模型完全做不到」也说过头了。报告的统计检验发现,GPT-5.6 Sol在三个基准上同样呈现提升,只是幅度远不及Astra。

推理Token为零

不等于没动脑

看到这里,很容易冒出一个问题:研究者真的把Astra的推理关掉了吗?

报告脚注交代了实验设置。

由于当时API不支持Astra的reasoning:none,团队使用低强度推理设置,再通过开发者指令要求模型直接回答,禁止输出任何推理过程。

他们确认,所有输出中,API报告的推理Token数量均为零。



这个「零」很关键,但它只代表接口记录的推理Token为零,无法证明模型内部完全没有计算。

研究者还换了几种填充方法:连续数数、重复题目,以及句点。在这些测试中,效果大致相似。

位置也有讲究。填充放在题目之后能带来收益;放到题目之前,没有观察到同样的效果。

这与一种解释相符,模型需要先接触问题,后面的额外位置才有机会参与解题。

AI不写过程

人类怎么看懂它?

Redwood真正担心的,是思维链监控。

一种安全监控思路,是检查模型写出的推理内容,从中寻找危险计划、欺骗意图或违规迹象。

但如果相当一部分计算无需写成文字,这扇观察窗口就可能漏掉重要内容。

当然,这次实验没有展示Astra实施恶意行为,也没有证明它故意隐瞒。研究者指出的是一种风险:模型可能具备比文字记录所呈现的更强的内部处理能力。

这也会影响评测。只要求AI「直接回答」,就把分数当作其无思维链能力的上限,可能低估它。

为此,团队建议,未来的无推理评测加入填充Token测试,进一步探查模型在不输出思维链时能做到什么。

这次实验留下的问题,远比「提示词后面加多少个点」更大。

AI没写出来的过程,还有多少是我们没看见的?

参考资料:

https://blog.redwoodresearch.org/p/astra-is-much-better-at-reasoning

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
星巴克赶客后老人涌入Manner,一杯没买占满座,这尴尬谁懂啊

星巴克赶客后老人涌入Manner,一杯没买占满座,这尴尬谁懂啊

音乐时光的娱乐
2026-10-27 15:46:45
63比81惨败日本队!中国女篮再遭重创:亚俱杯失冠丢掉3连冠

63比81惨败日本队!中国女篮再遭重创:亚俱杯失冠丢掉3连冠

以茶带书
2026-10-27 18:11:07
表哥才48岁就走了,不是因为疾病,也不是车祸,就是吃了一顿饭

表哥才48岁就走了,不是因为疾病,也不是车祸,就是吃了一顿饭

千秋文化
2026-08-24 20:27:18
每天睡前一片甲钴胺,不仅营养神经,还能悄悄帮你做5件事

每天睡前一片甲钴胺,不仅营养神经,还能悄悄帮你做5件事

健康之光
2026-10-26 14:15:16
有人大胆预测:新一波房价上涨至少2倍,幅度比09年、16年还要大

有人大胆预测:新一波房价上涨至少2倍,幅度比09年、16年还要大

细说职场
2026-10-27 15:29:56
郑钦文没打比赛WTA排名悄悄回到前20,莱巴金娜9501分稳坐世界第1,张帅卡在92,施晗冲进152

郑钦文没打比赛WTA排名悄悄回到前20,莱巴金娜9501分稳坐世界第1,张帅卡在92,施晗冲进152

爱体育的小悠悠
2026-10-27 17:45:45
热门中概股盘前下跌,美股存储芯片股走高,SK海力士涨近3%,黄金跌破4000美元

热门中概股盘前下跌,美股存储芯片股走高,SK海力士涨近3%,黄金跌破4000美元

21世纪经济报道
2026-10-27 18:28:06
退休后的日子要变了?不出意外,2026年起中国养老将迎来3大变化

退休后的日子要变了?不出意外,2026年起中国养老将迎来3大变化

离离言几许
2026-10-27 01:27:36
每体:巴黎有意阿布德替代KK,巴萨有望获20%转会分成

每体:巴黎有意阿布德替代KK,巴萨有望获20%转会分成

懂球帝
2026-10-27 18:41:38
法学界陈枫大胆提议:在抗战馆给14名日本甲级战犯铸跪像,现实吗?

法学界陈枫大胆提议:在抗战馆给14名日本甲级战犯铸跪像,现实吗?

网络易不易
2026-10-25 09:02:58
桑多河谷冲突中,第13、21、54军已蓄势待发,本打算一役了结中印争端,为何最终取消了作战任务?

桑多河谷冲突中,第13、21、54军已蓄势待发,本打算一役了结中印争端,为何最终取消了作战任务?

人生录
2026-07-28 00:05:06
张水华的周薪达16万!一周两场全马都得奖了,和国家队选手丁常琴仅差20秒

张水华的周薪达16万!一周两场全马都得奖了,和国家队选手丁常琴仅差20秒

火山詩话
2026-10-26 08:14:18
体制内“女儿国”现象越来越严重,领导吐槽:工作都不好开展!

体制内“女儿国”现象越来越严重,领导吐槽:工作都不好开展!

番外行
2026-05-21 16:05:31
中国被降级的 3 所大学,从 211 沦为普通本科,如今变得默默无闻!

中国被降级的 3 所大学,从 211 沦为普通本科,如今变得默默无闻!

算法与数学之美
2026-10-26 23:31:09
25岁女模闪婚64岁芬兰千亿富豪,婚后一周6次夫妻生活,直到一次突然晕倒住院,医生却低声问:你知道你丈夫的真实身份吗?

25岁女模闪婚64岁芬兰千亿富豪,婚后一周6次夫妻生活,直到一次突然晕倒住院,医生却低声问:你知道你丈夫的真实身份吗?

起飞做故事
2026-10-27 15:24:43
何超莲带妈妈吃饭,一顿花11000元,三太素颜出镜戴满绿翡翠手镯

何超莲带妈妈吃饭,一顿花11000元,三太素颜出镜戴满绿翡翠手镯

小兔子的快乐
2026-10-26 11:50:59
释永信塌房后,被曝为女明星开光,除了李湘外,多名女星被拉下水

释永信塌房后,被曝为女明星开光,除了李湘外,多名女星被拉下水

阿器谈史
2026-01-08 13:16:09
事态升级!精日留学生父母被扒,扬州公司洗白,后面的人憋不住了

事态升级!精日留学生父母被扒,扬州公司洗白,后面的人憋不住了

烈史
2026-10-24 09:47:39
姆巴佩事件升级,品牌切割只是开胃菜,官方下场,樊振东被牵连

姆巴佩事件升级,品牌切割只是开胃菜,官方下场,樊振东被牵连

秋姐居
2026-10-27 16:50:20
两台冰柜被平台“仅退款”后,买家称已销毁,商家跨省赶到上海维权,发现冰柜正插着电在使用!律师:可能涉嫌诈骗罪

两台冰柜被平台“仅退款”后,买家称已销毁,商家跨省赶到上海维权,发现冰柜正插着电在使用!律师:可能涉嫌诈骗罪

扬子晚报
2026-10-26 16:19:44
2026-10-27 18:59:00
人工智能学家 incentive-icons
人工智能学家
人工智能领域权威媒体
5126文章数 37528关注度
往期回顾 全部

科技要闻

Anthropic最硬气招股书,先把丑话说在前头

头条要闻

网友称披露医生在诊室抽烟后遭私信威胁 院方:正处理

头条要闻

网友称披露医生在诊室抽烟后遭私信威胁 院方:正处理

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

韩国芯片出口额可能下降高达1000亿美元

汽车要闻

30万级大六座 "豪华方盒子"魏牌二代蓝山正式亮相

态度原创

手机
时尚
游戏
家居
公开课

手机要闻

三星也扛不住内存涨价!Galaxy A成牺牲品:少卖1000万台

美商高的人都在研究这个?其实有捷径可走

山冈晃加上八尺夫人 这款生存恐怖游戏能有多吓人?

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版