网易首页 > 网易号 > 正文 申请入驻

谷歌Meta被锤刷榜!Gemini暴跌70分,Top 2秒变倒数第三

0
分享至


新智元报道


跑分这事儿,最近有点不太对劲。

9月8日,分析机构SemiAnalysis连甩五条推文,直接点名谷歌和Meta两家万亿巨头——

Gemini 3.8 Flash和Muse Spark 1.3是「刷榜痕迹最明显的两个模型」。


证据,非常清晰。

在测Agent干活能力的Terminal-Bench 2.1榜单上,Gemini 3.8 Flash考了89.4分,在182个模型里高居第2,把GPT-6 Astra都压在了身下。

结果换到8月29日刚上线的Terminal-Bench 4.0,同一个模型只拿到19.1分,在14个测试对象里直接掉到第12,成绩当场打了个二折。

同一时间,GPT-6 Astra从88.4掉到57.7,好歹算个六五折。


仅仅27分钟后,Meta首席AI官Alexandr Wang亲自杀到评论区,开口直接甩出六个字,这是个愚蠢的论点。

他认为GPT-5.6 Sol在2.1上是88.8,在4.0上掉到了37.3,落差更大但没人说Sol在刷榜。

同时他还强调,Meta从没说过Muse Spark 1.3能跟Astra或Fable 5.1一样强,只是它的性价比显然更高。


换张卷子,成绩直接脚踝斩

简单介绍一下,Terminal-Bench测的是Agent真实干活的能力。

方法是丢给模型一个终端和一个模糊目标,剩下的全让它自己看着办。然后,系统得自行规划路径、调工具、写脚本,报错了还得自己去改。

在已经被业界刷了大半年的2.1版本上,这俩的成绩确实好看。

Gemini 3.8 Flash拿下89.4分排在第2,Muse Spark 1.3以88.8分排在第4,紧随其后的是88.4分的GPT-6 Astra和85.02分的Claude Fable 5.1。


好家伙,一个Flash级的便宜模型,一个主打性价比的Meta新作,双双把两家顶级实验室的旗舰按在地上摩擦。

然后,4.0版本来了。

新卷子一共66道题,不仅砍掉了8道已经被「刷穿」的旧题,大修了19道,还统统加上8小时的超时限制。

防作弊机制同样上了极高强度。

主办方不仅设了35条评分细则,还加了一轮专门的「对抗性作弊试验」,故意让Agent自己去试着钻奖励机制的空子,只要钻得通的题就会被直接毙掉。

新榜一出,画风突变。


Claude Mythos 5.1(max)拿到60.9分稳住阵脚,GPT-6 Astra和Claude Fable 5.1分别以57.7分和55.8分紧随其后,再往下是52.3分的Claude Opus 5。上一代的GPT-5.6 Sol和Terra分别拿到37.3分和23.6分。

相比之下,Gemini 3.8 Flash直接暴跌到19.1分。而按SemiAnalysis给出的图表,Muse Spark 1.3的成绩是33.3分。

总结一下就是。

旧榜上,Gemini 3.8 Flash还能压着GPT-6 Astra打;新榜上,它的分连人家的三分之一都不到,甚至被上一代的GPT-5.6 Terra甩在了后面。

不用抄答案,买套「密卷」就行

吵架归吵架,SemiAnalysis第二条推的点名才是真正的行业内幕。

在他们看来,Terminal Bench 2.1的任务是完全公开的,Meta和谷歌绝对不会傻到直接拿原题去训练,但他们绝对会去买数据,专门买那些被设计得无限贴近TB 2.1题型的训练数据。最后的效果其实跟作弊没差。

而这,就是2026年刷榜的高阶玩法。


以前的「污染」套路很糙,直接把原题混进预训练语料让模型死记硬背。

这种事一查一个准,洗一遍数据成绩就得现原形。

业界在这上面栽过不少跟头,比如HumanEval近四成样本被污染,GSM8K去污染后掉13分。最狠的是SWE-bench,换套私有代码库重测,分数直接腰斩。

所以现在大厂不碰原题了,大家改买「长得像考题的模拟卷」。也就是提供给模型试错并给奖励的封闭任务系统。

目前,这已经是一门明码标价的成熟生意。

  • 单个训练任务售价200到2000美元,复杂的软件工程任务甚至能开到2万。

  • 要是想克隆一个网站做成UI训练场,大约需要2万美元。

  • 如果要求复刻一个Slack量级的产品,那就是30万美元起步。

  • 遇到要求独家买断的客户,价格还能再翻4到5倍。

根据Epoch AI的调研,Anthropic内部讨论过每年在这上面砸10亿美元。单季合同动辄六七位数,有研究员透露均价在30万到50万美元一季。

供给侧至少有35家公司在做这门生意,绝大多数是20人以下的初创团队。老牌数据巨头也全在转型,Scale AI在被Meta入股前营收就超14亿,Surge的ARR也逼近10亿。

现在的局面非常魔幻。

一边是完全公开的榜单题库,另一边则是成熟的卖题产业链。想让模型在某个榜单上考高分,真不用费劲作弊,直接掏钱下单就行。

既当卖题机构,又当监考老师

随后,SemiAnalysis直接点名了一家叫Datacurve的公司。

在专测长周期编程的DeepSWE 1.1榜单上,Muse Spark 1.3(max)以75.4分拿下第一,GPT-6 Astra和Claude Opus 5紧随其后,Gemini 3.8 Flash拿到73.8分排在第四。

被指控刷榜的两位,一个第一,一个第四。

想必,你已经发现了这背后的猫腻。

这个榜是Datacurve办的,而Datacurve赚钱的门路,恰好是向前沿实验室出售「专家级编码数据和强化学习环境」。

DeepSWE不仅是Datacurve自家的基准,跑分用的还是它自己运营的评测环境。

既当卖题的辅导机构,又当出卷的监考老师,可以说是彻底坐实了。


榜单的保质期,所剩无几

最后,SemiAnalysis顺势给整个行业的公开评测下了一道判词。

他们觉得这说到底就是所有优质公开基准的宿命。TB 4.0也不例外,它现在看着还准,仅仅是因为它才发布了两周。

只要它的题目还是公开的,用不了多久就会被所有标榜「前沿」的实验室盘出包浆。


SemiAnalysis最终给出的解药非常直接,那就是多做高质量的私有基准。

方向是对的,但代价同样惨痛。

一旦评测全部私有化,公开榜单就会彻底沦为各家的营销通稿。

真正有区分度的真实成绩,只会在实验室和私有评测机构之间暗箱流动。

大厂当然乐见其成,毕竟闭卷考试谁也没法提前背题。

但对于广大开发者来说,那把用来公平丈量所有模型的公共尺子,恐怕再也找不回来了。

参考资料:

https://x.com/SemiAnalysis_/status/2097112791471522292

编辑:摩西

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
这个海航空姐,因为在飞机上帮乘客带娃火了

这个海航空姐,因为在飞机上帮乘客带娃火了

毒舌八卦
2026-09-12 17:51:49
不装喷嘴,特斯拉用一块塑料解决摄像头雨天失灵

不装喷嘴,特斯拉用一块塑料解决摄像头雨天失灵

字节漫游指南
2026-09-10 15:03:50
在俄罗斯8天,回国后才敢讲实话:对方看你是中国人,那态度变了

在俄罗斯8天,回国后才敢讲实话:对方看你是中国人,那态度变了

怪味历史连连看
2026-09-12 09:10:35
事态严重!男童父亲开始反击,央媒下场,摸女士或只剩一条路可走

事态严重!男童父亲开始反击,央媒下场,摸女士或只剩一条路可走

椰青美食分享
2026-09-12 13:26:19
9月吃海鲜,建议少吃梭子蟹,多吃4样,应季肥美营养高,好吃不贵

9月吃海鲜,建议少吃梭子蟹,多吃4样,应季肥美营养高,好吃不贵

花小厨
2026-09-11 11:41:28
不退役了!他又开始打球!

不退役了!他又开始打球!

柚子说球
2026-09-12 00:08:28
小马科斯怕是要气炸了!9月9号,菲律宾最高法院突然扔出一颗重磅炸弹,前第一夫人伊梅尔达·马科斯的7项贪污罪,全给推翻了,改判无罪

小马科斯怕是要气炸了!9月9号,菲律宾最高法院突然扔出一颗重磅炸弹,前第一夫人伊梅尔达·马科斯的7项贪污罪,全给推翻了,改判无罪

扶苏聊历史
2026-09-12 14:58:23
美职联出现诡异点球,没碰框也没碰网,只在网内停了0.1秒

美职联出现诡异点球,没碰框也没碰网,只在网内停了0.1秒

懂球帝
2026-09-12 02:38:15
怪不得很多哈啰单车被扔河里!郑州男子骑600米仅5分钟被扣16.5元

怪不得很多哈啰单车被扔河里!郑州男子骑600米仅5分钟被扣16.5元

朗威谈星座
2026-09-12 12:53:26
15名同事合买彩票,中奖3000万港元,因负责购票者不愿平分奖金闹翻,香港警方:以涉嫌“盗窃”拘捕一名36岁男子

15名同事合买彩票,中奖3000万港元,因负责购票者不愿平分奖金闹翻,香港警方:以涉嫌“盗窃”拘捕一名36岁男子

深圳晚报
2026-09-12 17:58:18
央国企摸底55岁在岗职工,内退重新启动,和早年老模式差别很大

央国企摸底55岁在岗职工,内退重新启动,和早年老模式差别很大

细说职场
2026-09-12 15:40:54
40岁!霍华德宣布加盟!正式收回退役决定

40岁!霍华德宣布加盟!正式收回退役决定

篮球实战宝典
2026-09-12 20:31:58
两性专家说:做老婆的,别管男人跟谁睡,他出去了,不在你身边,你管他干什么?只要不要损害这个家庭的经济利益,就不要生闲气

两性专家说:做老婆的,别管男人跟谁睡,他出去了,不在你身边,你管他干什么?只要不要损害这个家庭的经济利益,就不要生闲气

心理观察局
2026-09-11 06:59:05
37岁歌唱家龚爽病逝,婆婆参加葬礼,儿子哽咽:医生说还有五年

37岁歌唱家龚爽病逝,婆婆参加葬礼,儿子哽咽:医生说还有五年

手工制作阿歼
2026-09-12 09:46:05
私吞上亿善款真相终于大白?官方正式宣布,54岁韩红身份迎来转变

私吞上亿善款真相终于大白?官方正式宣布,54岁韩红身份迎来转变

乌克兰小静
2026-09-10 09:09:45
李小冉节目上首谈前夫,坦诚公开离婚的原因,谈及过往委屈到落泪

李小冉节目上首谈前夫,坦诚公开离婚的原因,谈及过往委屈到落泪

铁锤妹妹是只猫
2026-09-12 05:20:00
泰国高僧贪腐被捕,和女助理在法堂淫乱,一顿饭要十个菜

泰国高僧贪腐被捕,和女助理在法堂淫乱,一顿饭要十个菜

韬闻
2026-09-12 13:17:44
我国更名最失败的2所大学,以前校名很霸气,更名后声名大降!

我国更名最失败的2所大学,以前校名很霸气,更名后声名大降!

高三倒计时
2026-09-07 16:51:56
国民党彻底乱套!宁可输掉2026大选,也要扳倒郑丽文?幕后水太深

国民党彻底乱套!宁可输掉2026大选,也要扳倒郑丽文?幕后水太深

时尚的弄潮
2026-09-12 11:37:27
“台独”分子这回怕是要彻底睡不着了!

“台独”分子这回怕是要彻底睡不着了!

流逝的颜值
2026-09-11 19:46:01
2026-09-12 22:48:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16168文章数 67063关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

打假网红"铁头"获刑:退庭时辱骂法庭 曾自曝涉黄经历

头条要闻

打假网红"铁头"获刑:退庭时辱骂法庭 曾自曝涉黄经历

体育要闻

乔丹的得分统治力:如何违背篮球规律?

娱乐要闻

钟丽淇疑入ICU?聚会合照早露端倪

财经要闻

继房子茅台后 中产的第3个"神话"破灭了

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

时尚
家居
本地
游戏
房产

选来选去还是穿裙子最方便,看看这几款吊带裙,轻盈又舒适

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

Onestage x 乐华娱乐暑期巡回选拔2026

M站打78分照样卖爆!《金刚狼》反超《GTA6》排第4

房产要闻

别再等了!广州改善好房,正在进入“卖一套少一套”时代

无障碍浏览 进入关怀版