网易首页 > 网易号 > 正文 申请入驻

反超谷歌王牌模型!决策新王拿下全球榜首,全尺寸开源

0
分享至


新智元报道


硅谷最卷的新赛道,刚刚杀出了一位开源新王!

最近,即将敲钟的Anthropic在IPO材料中曝出天价算力缺口,给狂卷参数的AI行业当头浇下一盆冷水。

通用大模型虽在编程、数学上大杀四方,可一旦真替人干活,算力账单就成了无底洞。

比生成文本更耗Token的是长链推理,而比推理更烧钱的则是操作浏览器,单次平均开销比复杂推理还要贵出4.8倍!


极度焦虑中,硅谷的「决策模型」大战全面打响。

初代标杆Jev率先开辟了「不写字、只判断」的快思考赛道,OpenAI、微软、亚马逊与Cloudflare等巨头紧随其后纷纷下场。

前两天,谷歌CEO劈柴也亲自下场,高调推出闭源决策模型Gemini Decision 1。


巨头混战、炮火连天。一匹开源黑马Karpo Decision 31B强势杀出!

在300个模型同台厮杀的Decision Index权威评测总榜上,它一举冲上榜首,夺得全球第一!


https://huggingface.co/spaces/multimodalart/jev-decision-index

这次,0.8B到31B全尺寸Karpo Decision家族已全部开源!

其中,夺冠的31B旗舰单卡中位延迟低至94毫秒,校准误差压到0.023,单题最多可同时评估255个选项。


硬刚谷歌闭源王牌

开源黑马三局连胜

不同于逐字生成的传统大模型,Karpo Decision专为AI智能体的高频拍板而生。

只需输入当前状态和问题,它一次前向推理就能直接算出所有选项的概率,全程不生成任何Token。

靠着这套极速判断机制,Karpo开源即登顶总榜第一,并在多项评测中正面击败了谷歌闭源王牌Gemini Decision 1!

更戏剧性的是,这匹夺冠的开源黑马,还是用谷歌自家的开源底座Gemma 4 31B后训练出来的。


在目前公认最权威的Decision Index与JevBench两大独立榜单上,Karpo把闭源与开源对手赢了个遍。

其中,Decision Index横跨37项公开基准与未公开的私有题库,吸引全球300个模型同台打榜。

JevBench则由独立机构在自有显卡上全程断网盲测,1500道考题中有1200道永久封存。

在这份Decision Index总榜上,Karpo以73.9分一举夺魁,远超初代标杆Jev 1.14的60.2分。

不仅分数领先,它的中位延迟也只有94毫秒,比Jev 1.14的196毫秒快了整整一倍!

而真正拉开差距的,是防刷榜的私有题库盲测。

公开榜前十名的模型一旦进入同技能私有盲测,成绩平均要暴跌6.8分。

唯独Karpo只掉了4.3分,在前十名里抗跌能力最强,到了全新领域私有题上更是拿下78.6分!


而在与谷歌Gemini Decision 1交锋中,Karpo打出了漂亮的多连胜。

虽然两边在JevBench公开集上同以92.2%打平,但一进到真实Agent考场,高下立判。

第一场较量,比的是Agent最核心的行动判断。

以权威基准When2Call为例,它专门考验Agent在对话中「该调工具、追问还是停手」。

在这项测试里,Karpo一举拿下90.4%,比谷歌的79.9%高出10.5个百分点。

而在看网页截图点按钮的Mind2Web多模态测试中,Karpo同样以90.0%力压谷歌的86.2%。

第二场较量,来到考验言外之意与细粒度分类的赛场。

在考验读懂隐含语气的纽约客漫画配文测试里,Karpo飙到90.5%,把谷歌的79.7%甩开10.8个百分点!

到了商品意图极其细碎的Amazon ESCI电商分类中,Karpo也以64.7%稳压谷歌的58.7%。


第三场较量,则是37项公开基准的全面摸底。

在Decision Index的37项公开基准同台实测中,Karpo拿下75.0分,直接把谷歌的60.9分甩开了14.1分!

细分到陌生领域(72.3%)、知识准确率(56.0%)与安全判断(93.4%)三大维度,Karpo同样全线胜出。

同时,它也把KnowLine、GLiDE、Sieve等原榜单前三的开源对手悉数甩在身后。


而在JevBench刚出炉的1500道题官方断网盲测中,Karpo同样交出了惊艳答卷。

在这场由榜单维护方独立运行的严苛大考里,Karpo一举拿下了89.53分的当期能力分。

更难得的是,它在1200道封存私有题上拿到85.67分,甚至反超了公开题的80.45分,校准分更是飙到96.00分!


折算到榜单统一标尺后,在261个开源模型中,Karpo以87.2分的折算能力分杀入全球前三。

与同场参测的谷歌对比,它的综合总分(77.4)、决策智力(80.2)与校准度(94.1)三项核心指标全部占优!

与此同时,Karpo每千次决策成本仅需0.025美元,相当于做4万次判断才花1美元。


31B旗舰登顶的同时,MachinePulse还把同一套训练配方搬到了0.8B至12B五个中小尺寸上。

无论是端侧轻量模型还是单卡主力,每个参数量级都杀入了同阶第一梯队!


1秒筛完36场活动

眨眼配齐10人点餐

跑分夺冠之外,Karpo在真实场景里到底有多快?

传统大模型遇到问题,总要逐个Token生成长篇分析。

而Karpo半个字都不写,只跑一次前向推理,就能在毫秒间算出所有选项的概率。

Karpo官网最新上线了两个实时互动擂台,直观展示了这种「一次前向答完几十题」的速度差距。

在「城市扫描仪」挑战里,AI要帮用户从全城36场活动中挑出周末去处。

假设周五晚上约朋友出门,设定条件为「今晚、2个人、人均50美元以内、5公里内、能聊天」。

模型需要对照这些要求,逐一判断每场活动是「匹配、淘汰还是信息不足」。

为此,系统把同一个请求同时发给Karpo和通用大模型(Gemini 3.5 Flash),同场掐表对决。

点击开始后,Karpo仅花1.12秒就答完了全部36道题!

不仅速度快,它还精准挑出10个匹配、23个淘汰、3个信息不足,36道题与规则100%一致。

而右边逐个Token往外蹦字的通用大模型,计时器跳到5秒以上还在转圈干等。


另一场「10个胃口,一张菜单」挑战,则把多条件权衡的难度拉到了极限。

餐厅里同时坐着10位顾客,每个人都有各自的卡路里上限、预算、过敏原和口味偏好。

我们在左侧亲自上手点菜,紧盯忌口与预算连点10道菜,忙活了5秒还不小心踩中两处忌口。

而右侧的Karpo把整张菜单和10位顾客装进一次请求,仅用916毫秒就同时端齐10道菜,硬约束与软偏好拿满满分!

哪怕某道菜突然售罄,它也能在几百毫秒内只针对受影响的顾客重新调配好菜品。


除了互动擂台,我们还在官网试玩台上实测了浏览器Agent自动订座。

在这项测试里,Agent的目标是替用户预订Lumen餐厅周五晚7点半的两人桌。

面对真实的订座网页,Karpo在每一步都瞬间给出了最高概率的操作动作,依次选中「7:30 pm」、「Find a table」并确认预订。

每一步都在130多毫秒内一次算完,不到半秒就顺滑跑完整个订座流程,在指令明确时无需反复追问用户!


砍掉逐字生成过程

一次前向算出答案

Karpo能在几百毫秒内一次答完几十道题,关键在于改掉了大模型「逐字生成」的底层机制。


在架构设计上,作为一款支持256K上下文的原生多模态决策模型,Karpo彻底抛弃了传统的文本生成链路。

它直接砍掉了逐字解码环节,转而在60层底座末尾接上了一个轻量级的线性读出头(Readout head)。

当题目输入模型后,所有候选答案都会被浓缩成独立的单Token标号,由这个读出头一次性为最多255个选项同步打分,并直接换算成校准概率。

这样一来,无论是多选题(choice)、是非题(noul)还是打分题(score),模型都能在一次前向推理中全部算完,且永远不会输出格式错误的废话。


单题推理提速之后,为了把长网页下连问几十道题的计算也省到极致,Karpo还专门设计了分支注意力机制(Branch Attention)。

具体来说,系统会先把全部问题清单排在最前面,让模型「带着问题」去读后面的长网页,并将这两部分合为共享块,全程只算一次KV缓存。

紧接着,共享块末尾会并行分出每道题各自的答题分支,且每个分支的位置编码都从同一处重新起算,保证几十道题彼此隔离、绝不串味。

正因如此,面对数千Token的复杂网页,单问1道题的中位延迟是371毫秒,而一口气连问16到63道题也才653毫秒!



靠RSI自我进化越用越聪明

训练决策模型最棘手的难题,就是防止它变成只会「背格式」的刷榜机器。

实验中Karpo团队就发现,单纯做全参数微调虽然能把公开榜成绩推高到75.09分,但陌生领域的准确率反而倒退了2.3个百分点。

更讽刺的是,「正反读取选项再取平均」等刷榜技巧,对真实泛化能力毫无帮助,反而让延迟翻倍至162毫秒。

可见公开集分数涨了,并不代表模型到了真实业务里真能抗打,因此这类拖慢速度的刷榜套路被团队果断砍掉。

那么,如何在不牺牲泛化能力的前提下持续进化?团队搭起了一套RSI(递归自我改进)闭环。

在这一闭环中,团队依靠公开数据集与定向合成数据补齐能力短板,每轮候选模型都按「公开集占60%、陌生领域占40%」综合考评,真正赢过上一代才能晋升。


到了多模型融合阶段,团队同样拒绝花哨套路,发现复杂的搜索算法极易过拟合,反倒是经典的Model Fusion(权重均匀平均)最稳。

为此,最终夺冠的Karpo将全参数微调早、中、晚期的3个检查点,与另一条LoRA训练线上的2个检查点直接做了均匀平均。

这背后的逻辑很巧妙:早期权重泛化好、后期权重更专精,恰好与LoRA「学得少、忘得也少」的特性形成互补。

五个权重合二为一后,推理开销依然维持单模型的1倍,但陌生领域准确率却比单模型终点反超了1.6个百分点!


靠着这套抗过拟合组合拳,在涵盖临床医学、法院裁判等10个大类、283个小类的陌生领域评测中,Karpo直接对Jev 1.14打出了10比0的全面零封!


除了选得准,决策模型还得「有自知之明」。为此,Karpo引入了校准决策强化学习(RLCD),激励模型如实评估自身把握度。

经过强化校准后,Karpo在JevBench上的校准误差(ECE)被压到了极低的0.023,表现远优于谷歌与Jev 1.14。

这意味着,当它报出「80%把握」时,10次判断里真就有约8次是准确的。

而在遇到信息缺失的是非题盲测时,Karpo也能对92.0%的题目果断拍板,并在剩下8.0%拿不准时主动弃权,安全交由人类兜底。



一张显卡装上「最强决策大脑」

模型练好之后,为了让31B模型在单卡上跑出极致速度,工程师针对Gemma 4底座的全局注意力层,用Triton手写了专属算子,将单卡推理拉快近2倍。

在此基础上,配合无Padding打包、FP8量化与CUDA图回放,单张RTX PRO 6000显卡的显存占用被稳稳压在60GB左右,而且评测分数零掉点!

最终在基准测试抽样的2000条请求上,它的单卡中位延迟直接杀进73毫秒,吞吐量冲上7100 Token/秒,连最吃算力的长网页推理耗时也砍半到了3.6秒!


把真实场景当练兵场

个人智能体红利来袭

看到这里,很多人或许会好奇:为什么一家初创团队能正面击败谷歌?

其实,答案藏在他们深耕的Personal Agent(个人智能体)战场里。

在海外,MachinePulse一直打磨本地生活智能体Karpo。

无论是全城搜餐厅、找周末活动,还是打开网页比房型、勾时段、完成订座,背后的每一步操作本质上都是高频判断。

放眼日常生活,这样的微决策其实无处不在。

超市里,从满架牛奶中,挑出符合自己口味、身体需求的一盒。

夜色中,走进一家合心意的酒吧,闲聊几句,轻松收尾疲惫的一天。

这些看似不假思索的生活瞬间,落到Agent身上,全是一次次毫秒级的权衡与拍板。


然而,通用大模型动辄几秒的卡顿、微妙的判断失误,以及每次多烧掉的Token,传到真实用户手里就是致命的体验落差。

AI实验室可以专注刷Benchmark,但冲在一线的团队,每天都在直面真实的交互痛点。

从实战来看,垂类Agent产品本身就是最好的模型训练场。

真实业务里的多条件权衡、连续网页操作与异常回退,逼着团队跳出纸面跑分,去攻克实验室里看不到的延迟、成本与校准难题。

如今,随着决策延迟被压进毫秒级、单次成本降到几美分,高频快思考正给各类Agent带来全新的想象空间。

MachinePulse将这套具备原生网页操作判断力的0.8B到31B全尺寸决策模型悉数开源,为所有Personal Agent创作者送上了一批趁手弹药。


让通用大模型专注深度思考,把毫秒级的高频拍板交给Karpo决策模型。

只需一张显卡,给你的Agent装上这颗击败谷歌闭源新王的「全球第一决策大脑」,探索个人智能体的下一个浪潮吧!

编辑:摩西 大卫


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中国车市连续7个月降幅超20%

中国车市连续7个月降幅超20%

西虹市闲话
2026-11-16 13:16:09
根据马云对未来房价预言:200万买来的房子,到2030年能值多少钱

根据马云对未来房价预言:200万买来的房子,到2030年能值多少钱

云景侃记
2026-09-08 11:29:48
二战时,日军给女性强行注射“606药剂”,注射完,士兵就露出了邪恶的笑容,“606药剂”究竟是啥?

二战时,日军给女性强行注射“606药剂”,注射完,士兵就露出了邪恶的笑容,“606药剂”究竟是啥?

回京历史梦
2026-11-10 17:49:16
闲鱼上为什么很多卖家只支持自提?网友:等你遇到倒手刀的,就老实了

闲鱼上为什么很多卖家只支持自提?网友:等你遇到倒手刀的,就老实了

另子维爱读史
2026-11-03 18:46:10
宋仲基喊妻子那家伙上热搜才15天,被曝现身在南非旅游,真人远没电视剧里帅气

宋仲基喊妻子那家伙上热搜才15天,被曝现身在南非旅游,真人远没电视剧里帅气

拍案社会
2026-11-14 17:59:38
新北与高雄封关民调:国民党一胜一败,李四川与柯志恩回应不简单

新北与高雄封关民调:国民党一胜一败,李四川与柯志恩回应不简单

健身狂人
2026-11-17 10:42:56
67岁生娃的田新菊已瘫痪,6岁多女儿床前照顾!真相很残忍

67岁生娃的田新菊已瘫痪,6岁多女儿床前照顾!真相很残忍

思愈飞
2026-05-13 20:52:56
谷歌华人工程师杀妻案再曝怪事!14万美元资金流出存疑,被关期间股票也被卖了

谷歌华人工程师杀妻案再曝怪事!14万美元资金流出存疑,被关期间股票也被卖了

北美省钱快报
2026-11-17 02:30:39
你见过最没用的人脉是什么?网友:花70w到信用社当柜员,月薪800

你见过最没用的人脉是什么?网友:花70w到信用社当柜员,月薪800

另子维爱读史
2026-11-15 22:43:52
岌岌可危!乌克兰袭击俄罗斯战略要道克里米亚大桥,俄方称一处桥拱发生偏移

岌岌可危!乌克兰袭击俄罗斯战略要道克里米亚大桥,俄方称一处桥拱发生偏移

军迷战情室
2026-11-16 19:22:22
随着鹈鹕115-94勇士,76人135-123,开拓者98-106,NBA最新积分榜出炉

随着鹈鹕115-94勇士,76人135-123,开拓者98-106,NBA最新积分榜出炉

俯身冲顶
2026-11-17 11:36:01
苹果宣布全新免费功能即将推出,真的很实用!

苹果宣布全新免费功能即将推出,真的很实用!

XCiOS俱乐部
2026-11-16 20:24:50
安世中国改用12英寸平台,安世荷兰为何一年后仍产能不足?

安世中国改用12英寸平台,安世荷兰为何一年后仍产能不足?

林子说事
2026-11-17 09:49:31
俄国防部:俄军一天击落超两千架乌无人机

俄国防部:俄军一天击落超两千架乌无人机

新华社
2026-11-17 03:02:01
岛内官宣!赖清德硬推这人来深圳参加APEC,国台办直接画下红线

岛内官宣!赖清德硬推这人来深圳参加APEC,国台办直接画下红线

天气观察站
2026-11-16 04:16:43
林生斌再发声澄清,大众不是不放过林生斌,是不甘心被同一套话术耍两次

林生斌再发声澄清,大众不是不放过林生斌,是不甘心被同一套话术耍两次

小徐讲八卦
2026-11-17 12:55:44
又蠢又嘚瑟,还爱生气骂人没分寸,他来《现在就出发 4》干嘛了?

又蠢又嘚瑟,还爱生气骂人没分寸,他来《现在就出发 4》干嘛了?

林雁飞
2026-11-17 11:09:02
业主家3天接连“被水泡”,女儿进门就滑倒,房门变形;物业称走保险,业主不满:每年物业费都正常交;律师解读

业主家3天接连“被水泡”,女儿进门就滑倒,房门变形;物业称走保险,业主不满:每年物业费都正常交;律师解读

极目新闻
2026-11-16 22:59:53
深圳一偏僻小店突然火了,店主发声:很感谢来店里光顾的每个人

深圳一偏僻小店突然火了,店主发声:很感谢来店里光顾的每个人

坠入二次元的海洋
2026-11-17 06:07:26
“真正的权贵不会这么跳舞”,海淀母女出圈了,内行人却一眼看穿

“真正的权贵不会这么跳舞”,海淀母女出圈了,内行人却一眼看穿

熙熙说教
2026-11-10 17:05:38
2026-11-17 13:39:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16703文章数 67238关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

本地
教育
时尚
公开课
军事航空

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

自骂“烂人”的黄仁勋,冤不冤?

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版