网易首页 > 网易号 > 正文 申请入驻

人类93.1%,最强模型53.6%:AI的"第六感"考砸了

0
分享至

人类瞄一眼就能答对的题,25个多模态模型集体失灵。Scale AI联合Elorian发布的新基准Humanity's Sixth Sense(HSS,人类第六感),把这块长期没人单独测量的能力变成了分数。


结果很扎眼:20名人类参与者拿到93.1%,榜首GPT-6-astra即使开到最大推理强度,也只有53.6%;25个模型的中位数更是只有30.9%。首发榜单上,25个多模态模型全部显著落后于人类。

HSS追问的不是"模型会不会做题",而是当AI走进汽车、家庭和办公室,它能不能像人一样,在事情被明确说出来之前,就读懂现场。追公交的女人为什么突然慢下来、两辆车之间还能不能再塞进一辆、会议室里谁最心不在焉——这些问题的答案,都不在像素里。

522道题,答案不能直接出现在画面里

HSS包含522道开放式任务,对应288张图片和234段视频,视频总时长17.6小时,划分为4个大类、11个子域:时间与因果动态、物理与空间逻辑、社会理解、抽象与情境推断。

最关键的设计是:答案不能直接出现在像素里。高清放大就能看见答案的题淘汰,需要专业知识的题淘汰,人类无法形成一致判断的题同样淘汰。标注团队编写了3466道候选题,经过三轮独立审核只留下522道,录取率仅15.1%;仅第一轮就淘汰2302道,主因正是"答案其实已经在画面里"或"人类无法一致认可正确答案"。

评分同样严格:模型自由作答,没有选项可排除,由LLM裁判对照评分标准逐条打分,所有标准都满足才算答对。

盲测暴跌到6.6%,视频是重灾区

榜单前五依次是GPT-6-astra(53.6%)、GPT-6.1-sol(46.6%)、Claude-Opus-5.5(44.6%)、Gemini-3.8-flash(41.6%)和Claude-Fable-5.1(40.8%),其余模型全部低于40%。

盲测对照更能说明问题:把图片和视频拿掉,只让最强模型根据问题文本猜答案,GPT-6-astra的成绩暴跌到6.6%。HSS不是在考语言套路,决定答案的证据确实藏在视觉现场里。

视频尤其难。25个模型中有23个在视频任务上表现更差,平均下降7.3个百分点。社会理解是最薄弱的领域:21个模型在这一项得分最低,平均准确率只有24.4%,而其他三个领域平均为34.1%。

94%的失败,是没看懂而不是不会推

研究团队对模型的8573次失败逐项归因,结论与"模型需要更强逻辑推理"的直觉几乎相反:94%的失败来自感知或潜在信息推断,真正的逻辑推理错误只占很小一部分。

最常见的错误是漏掉决定答案的关键线索(21.3%),其次是认错物体、人物或角色(19.9%),再往后是误判尺寸、距离和能否容纳(12.2%)、看错朝向(12.0%)、把二维遮挡误当成三维对齐(9.1%)。

这些错误并非随机。在至少5个模型同时做错的题目中,中位数高达80%的模型会因为同一个原因失败——不同厂商、不同架构的模型,可能共享着相似的视觉盲区。它们能生成很长的思维链,却可能从第一眼就拿错了关键事实,再花几千个Token把错误前提推得越来越完整。25个模型平均每题要用约4000个推理Token。

提高推理强度总体有帮助,但并不稳定。在若干子域里,推理等级越高成绩反而越低,峰值常出现在中间档位。

Agent能补课,补不出空间感

研究团队把模型放进Claude Code和Codex,让Agent可以裁剪、放大、重新抽帧、搜索和反复检查视觉材料。效果确实明显:在388题的子集上,Claude-Opus-5从30.8%升至51.3%,Claude-Fable-5.1从41.2%升至57.7%;GPT-6-astra在Codex中从54.4%升至59.3%,成为Agent设置下的最高成绩。

Agent最擅长修复"再仔细看一遍就能发现"的错误:物体与角色识别错误从181次降到147次,朝向错误从117次降到93次,尺寸与适配判断错误从137次降到105次,漏掉关键线索从154次降到110次。

但一个数字暴露了边界:把二维重叠误判为三维对齐的错误,只从102次降到101次,几乎没有变化。这类失败不是"图没放大",而是模型缺少稳定的三维空间表征。Agent可以拿起放大镜,却不能凭空长出人类的空间直觉。更值得警惕的是,Agent设置中的少数逻辑错误反而增加了。

在人类93.1%与模型53.6%之间,隔着的不是一道更难的考试题。会描述世界,不等于理解世界;会推理,也不等于拥有直觉。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
7人炸毁3条管道!北溪案开庭,乌克兰嫌疑人喊冤:基辅抛弃了我

7人炸毁3条管道!北溪案开庭,乌克兰嫌疑人喊冤:基辅抛弃了我

揽星戈
2026-10-18 09:55:58
乌克兰摧毁俄罗斯最大的苏尔古特油气加工厂!轮到天然气了?

乌克兰摧毁俄罗斯最大的苏尔古特油气加工厂!轮到天然气了?

项鹏飞
2026-10-17 20:09:32
比尔盖茨表示:他这辈子犯过最大的错误,就是把原本属于微软的移动生态,拱手让给了安卓

比尔盖茨表示:他这辈子犯过最大的错误,就是把原本属于微软的移动生态,拱手让给了安卓

元气科技馆
2026-10-10 21:56:30
“我们家三代人攒下的钱,不是让你去给别人家扶贫的”残忍又清醒

“我们家三代人攒下的钱,不是让你去给别人家扶贫的”残忍又清醒

另子维爱读史
2026-10-17 21:31:29
从“政府来养老”到“第一责任人”:谁在自力更生,谁在稳享保障?

从“政府来养老”到“第一责任人”:谁在自力更生,谁在稳享保障?

马小白
2026-10-17 17:04:07
iPhone Duo黄牛价格暴跌:从5.8万跌至3000元

iPhone Duo黄牛价格暴跌:从5.8万跌至3000元

快科技
2026-10-17 21:20:13
又一电诈头目落网!坑害国人超27亿,杀人不眨眼,全网呼吁查赵薇

又一电诈头目落网!坑害国人超27亿,杀人不眨眼,全网呼吁查赵薇

泪满过眼
2026-10-10 07:24:15
奇怪!砍全玚最高29分却遭到球迷怒喷,要求裁掉他

奇怪!砍全玚最高29分却遭到球迷怒喷,要求裁掉他

南海浪花
2026-10-18 07:59:07
日本警方都看懵了?18岁中国男子被捕,警方从他身上搜出170把钥匙!

日本警方都看懵了?18岁中国男子被捕,警方从他身上搜出170把钥匙!

日本通
2026-10-18 10:33:52
网曝复旦对巴基斯坦留学生放重磅福利!免学费、住宿费,享医保,提供全额奖学金

网曝复旦对巴基斯坦留学生放重磅福利!免学费、住宿费,享医保,提供全额奖学金

小徐讲八卦
2026-10-17 07:38:06
恶魔就在身边,长沙风光大老板,竟是缅北核心大恶人!

恶魔就在身边,长沙风光大老板,竟是缅北核心大恶人!

娱乐圈见解说
2026-10-17 14:11:51
男子因诈骗羁押服刑七年 出狱后发现账户数十万资金仅剩6.43元 警方立案侦查

男子因诈骗羁押服刑七年 出狱后发现账户数十万资金仅剩6.43元 警方立案侦查

红星新闻
2026-10-17 15:35:24
王思聪女友懒懒气质高,国外自拍身材惊艳,连路人老外都给她点赞

王思聪女友懒懒气质高,国外自拍身材惊艳,连路人老外都给她点赞

娱乐团长
2026-10-16 13:43:21
含硼砂零食黑名单曝光!医生含泪警告:别买别吃,再馋也要忍住

含硼砂零食黑名单曝光!医生含泪警告:别买别吃,再馋也要忍住

健康之光
2026-10-18 13:50:13
1950年地主傅德辉家意外搜出一张旧欠条,落款人写着朱德

1950年地主傅德辉家意外搜出一张旧欠条,落款人写着朱德

磊子讲史
2026-05-26 16:31:46
卸任3年后被查!从国务院津贴专家到“阶下囚”:象牙塔里的“学官”腐败,寒了谁的心?

卸任3年后被查!从国务院津贴专家到“阶下囚”:象牙塔里的“学官”腐败,寒了谁的心?

教师吧
2026-10-17 13:40:30
法国一市长在约旦河西岸遭犹太定居者殴打;以总理办公室回应:暴力行为“不可接受”,涉事外交人员事先未与以军协调便进入敏感区域

法国一市长在约旦河西岸遭犹太定居者殴打;以总理办公室回应:暴力行为“不可接受”,涉事外交人员事先未与以军协调便进入敏感区域

扬子晚报
2026-10-18 11:05:00
A股:做好准备了!市场迎来重要信号,A股或将再迎来一波较大级别行情!

A股:做好准备了!市场迎来重要信号,A股或将再迎来一波较大级别行情!

财经大拿
2026-10-18 07:40:13
伦敦人开始骑 "电驴" 上班了!1000 英镑一辆,来自中国

伦敦人开始骑 "电驴" 上班了!1000 英镑一辆,来自中国

西楼知趣杂谈
2026-10-16 15:09:06
儿子出国后16年没联系,我癌症住院时,主治医生摘下口罩:妈

儿子出国后16年没联系,我癌症住院时,主治医生摘下口罩:妈

五元讲堂
2025-06-12 15:16:01
2026-10-18 16:07:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
213文章数 97关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

央视披露扶贫农业大棚被大量闲置荒废 吉林省长:严惩

头条要闻

央视披露扶贫农业大棚被大量闲置荒废 吉林省长:严惩

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

曝郭麒麟与25岁知名女星已经结婚,女方回应关系

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

时尚
本地
数码
艺术
家居

重阳寻香:一炉香,一枚囊,她们以手传香

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

数码要闻

华为智能手表如何跨界做好医疗级血压监测?从长城会看华为WATCH D3的技术突围

艺术要闻

23幅 韦启美油画作品选

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版