人类瞄一眼就能答对的题,25个多模态模型集体失灵。Scale AI联合Elorian发布的新基准Humanity's Sixth Sense(HSS,人类第六感),把这块长期没人单独测量的能力变成了分数。
![]()
结果很扎眼:20名人类参与者拿到93.1%,榜首GPT-6-astra即使开到最大推理强度,也只有53.6%;25个模型的中位数更是只有30.9%。首发榜单上,25个多模态模型全部显著落后于人类。
HSS追问的不是"模型会不会做题",而是当AI走进汽车、家庭和办公室,它能不能像人一样,在事情被明确说出来之前,就读懂现场。追公交的女人为什么突然慢下来、两辆车之间还能不能再塞进一辆、会议室里谁最心不在焉——这些问题的答案,都不在像素里。
522道题,答案不能直接出现在画面里
HSS包含522道开放式任务,对应288张图片和234段视频,视频总时长17.6小时,划分为4个大类、11个子域:时间与因果动态、物理与空间逻辑、社会理解、抽象与情境推断。
最关键的设计是:答案不能直接出现在像素里。高清放大就能看见答案的题淘汰,需要专业知识的题淘汰,人类无法形成一致判断的题同样淘汰。标注团队编写了3466道候选题,经过三轮独立审核只留下522道,录取率仅15.1%;仅第一轮就淘汰2302道,主因正是"答案其实已经在画面里"或"人类无法一致认可正确答案"。
评分同样严格:模型自由作答,没有选项可排除,由LLM裁判对照评分标准逐条打分,所有标准都满足才算答对。
盲测暴跌到6.6%,视频是重灾区
榜单前五依次是GPT-6-astra(53.6%)、GPT-6.1-sol(46.6%)、Claude-Opus-5.5(44.6%)、Gemini-3.8-flash(41.6%)和Claude-Fable-5.1(40.8%),其余模型全部低于40%。
盲测对照更能说明问题:把图片和视频拿掉,只让最强模型根据问题文本猜答案,GPT-6-astra的成绩暴跌到6.6%。HSS不是在考语言套路,决定答案的证据确实藏在视觉现场里。
视频尤其难。25个模型中有23个在视频任务上表现更差,平均下降7.3个百分点。社会理解是最薄弱的领域:21个模型在这一项得分最低,平均准确率只有24.4%,而其他三个领域平均为34.1%。
94%的失败,是没看懂而不是不会推
研究团队对模型的8573次失败逐项归因,结论与"模型需要更强逻辑推理"的直觉几乎相反:94%的失败来自感知或潜在信息推断,真正的逻辑推理错误只占很小一部分。
最常见的错误是漏掉决定答案的关键线索(21.3%),其次是认错物体、人物或角色(19.9%),再往后是误判尺寸、距离和能否容纳(12.2%)、看错朝向(12.0%)、把二维遮挡误当成三维对齐(9.1%)。
这些错误并非随机。在至少5个模型同时做错的题目中,中位数高达80%的模型会因为同一个原因失败——不同厂商、不同架构的模型,可能共享着相似的视觉盲区。它们能生成很长的思维链,却可能从第一眼就拿错了关键事实,再花几千个Token把错误前提推得越来越完整。25个模型平均每题要用约4000个推理Token。
提高推理强度总体有帮助,但并不稳定。在若干子域里,推理等级越高成绩反而越低,峰值常出现在中间档位。
Agent能补课,补不出空间感
研究团队把模型放进Claude Code和Codex,让Agent可以裁剪、放大、重新抽帧、搜索和反复检查视觉材料。效果确实明显:在388题的子集上,Claude-Opus-5从30.8%升至51.3%,Claude-Fable-5.1从41.2%升至57.7%;GPT-6-astra在Codex中从54.4%升至59.3%,成为Agent设置下的最高成绩。
Agent最擅长修复"再仔细看一遍就能发现"的错误:物体与角色识别错误从181次降到147次,朝向错误从117次降到93次,尺寸与适配判断错误从137次降到105次,漏掉关键线索从154次降到110次。
但一个数字暴露了边界:把二维重叠误判为三维对齐的错误,只从102次降到101次,几乎没有变化。这类失败不是"图没放大",而是模型缺少稳定的三维空间表征。Agent可以拿起放大镜,却不能凭空长出人类的空间直觉。更值得警惕的是,Agent设置中的少数逻辑错误反而增加了。
在人类93.1%与模型53.6%之间,隔着的不是一道更难的考试题。会描述世界,不等于理解世界;会推理,也不等于拥有直觉。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.