网易首页 > 网易号 > 正文 申请入驻

Jev引爆决策模型,大模型进入无限游戏

0
分享至

撰文| 郝 鑫

编辑| 王 潘

决策模型正在从一个新概念变成模型、API和数据平台,都在发布的产品类别。

决策模型也称“System One模型”,以TypeSafe的Jev开始,在随后不到一个月内涌现出十余款模型,微软、AWS、Perplexity、Snowflake等厂商相继入场。

一时间,整个行业梦回“百模大战”,这样的速度即使在AI行业也罕见。

决策模型的兴起,本质上是将智能体的决策层从推理层中解耦出来。这一趋势背后的逻辑是,智能体在工作过程中会产生大量小型、重复性的决策,这些决策决定了Agent下一步动作,判断是否通过验证,以及路由到哪个模型或工具。

现实中,产生决策并不需要大模型复杂的推理能力,但却占据了大量调用次数和成本。决策模型正是为这类高容量、有边界的Agent决策而设计。

决策模型也为中国企业Agent落地送来了一场“及时雨”。

在光子星球与一线企业与大厂交流中了解到,数字化底子好的企业已经进入了AI切入工作流环节。现阶段,很多企业已经放弃了训练垂直大模型的想法,取而代之的是在融入业务逻辑基础上,解决各个业务环节卡点。

工单该分给谁,请求是否需要人工介入,当前步骤是否继续。Agent在工作流中产生的这类判断,在企业Agent场景中密度极高。

决策模型的出现,为这类判断提供了专门的执行层。

决策层独立

过去两年构建Agent的做法,是让通用大模型处理复杂推理到简单工具路由的所有环节。这种方式在Agent刚起步时存在合理性,一个模型解决所有问题,简单直接。

但当Agent真正跑起来后,瓶颈便开始暴露。因为在一个Agent任务里存在大量琐碎的判断,这些判断答案空间有限、调用量大还在关键路径上。用性能最好的通用大模型每做一次判断,任务的延迟就会按秒叠加,账单也会按Token不断增加。

决策模型在其中充当了执行判断的角色,不生成文本,只在给定一组固定选项时返回校准后的概率分数。以微软发布的Microsoft-Decision-1为例,模型支持是非题、选择题和评分选项,也支持依据评分标准评估AI回复和智能体操作。

把决策层从大模型中拆出来,意味着Agent工作流中的每一个判断节点都可以被独立优化。决策模型不会取代大模型,而是与之形成分工与共存的关系。通用模型负责需要复杂推理和生成的“重”任务,决策模型负责Agent工作流中大量“轻”的重复性判断。

这一分工背后的直接驱动力是成本和延迟。TypeSafe公布的数字显示,Jev的端到端延迟在70到500毫秒之间,比同类大语言模型快了20到200倍。

微软Decision-1在Xbox Research处理超过10000条反馈时,质量与GPT-6 Sol相当,速度提高14倍,成本降低200倍。这种差距在单次Agent调用中看不出来,只有在高频、连续的决策链条中才会显现。


微软的DEMO中直观展现了分析类场景,使用决策模型返回速度的提升。使用ChatGPT Sol和Microsoft-Decision-1执行同一个分类并路由的请求,Microsoft-Decision-1仅用182毫秒就返回,而Sol用了6.4秒。

需要提到的是,当前的决策模型仍存在明显的边界。比如Jev目前图像输入仅支持PNG、JPEG静态图片,边长须在256至1568像素之间,单张图片不超过16MiB,费用按输入Token计算。官方提醒,Jev处理多模态任务时的表现仍不如纯文本任务。决策模型更适合作为业务流程中的一个判断组件,承担分类、排序、筛查或建议下一步的职能。

在微软给出的决策模型17个用途中,几乎都是高频、重复、嵌入工作流的“节点”。梳理完这些用途,实际构成了Agent系统的两个基础设施层。由安全筛查、数据验证、AI审评等构成的“免疫系统”层,负责识别判断和验证;由模型路由、智能体控制、事件响应路由等构成的“交通系统”层,主要负责评估、选择和调度。

模型分工显现

一个值得注意的趋势是,决策模型在极小的参数规模下,实现了与通用模型竞争的质量。

例如,开源决策模型THX-01只有3.22亿参数,开发团队在包含2843条英语、俄语、土耳其语和阿塞拜疆语客服工单的内部测试中,报告其分类准确率为98.4%,略高于Jev 1.13的97.4%,报告的GPU推理延迟约为10毫秒。

这说明,在选项明确、任务边界清晰的多语言工单分类上,一个参数规模很小的专用决策模型,也能达到与更大型模型服务有竞争力的表现,并显著降低推理延迟。

这种现象不是小模型“逆袭”,而是模型分工开始显现。

决策模型在有限任务上以较小参数模型达到有竞争力的表现,很容易被解读为“小模型追上了大模型”。但更确切地说,通用模型与决策模型所承担的工作不同,所以不需要用同一个模型包办所有环节。

通用模型的价值在于,处理开放、复杂、变化多的任务,例如理解模糊意图、进行多步推理、整合多种信息等。决策模型的工作范围则更窄,在已有状态、规则和候选动作之中,判断哪一个更合适,或给出各选项的概率与评分。

一句话总结为,前沿模型驱动能力,决策模型驱动效率。这种分工与传统软件架构的演进相似,当一项能力变得高频且边界清晰的时候,就有动力把它从通用组件中抽离出来,做成专用模块。


这时候,AI系统的能力竞争,就开始从模型有多大延伸到任务是否拆得更清楚。当业务问题可以被定义为状态、标准和有限动作,专用的小模型可能比通用大模型更适合承担高频的判断。未来的优势未必来自用一个模型包办一切,而是把不同任务分配给合适的模型和规则,并让其在可靠的流程中协同工作。

对于中国Agent团队来说,决策层的竞争壁垒将从模型规模,转移到场景理解。当下,决策模型的质量更多取决于,训练数据的质量和判断逻辑的清晰度。中国团队更多的机会,在于把特定业务场景中的判断逻辑,比如什么情况下升级、等待、转化为人工,转化为可训练、可部署和可校准的决策层。

参数规模已经不再是门槛,场景绑定才是。

在新机会面前,可能带来新一轮的格局洗牌。通用大模型公司最擅长的是投入巨额资源,打造面向广泛任务的基础模型。而许多决策模型的竞争力来自任务定义、行业数据、决策标准和流程集成。这些资产往往掌握在行业软件商、企业内部团队和垂直领域创业公司手里。大型模型可以提供底座,但未必天然拥有每个细分行业的业务规则、例外样本和结果反馈。

因此,市场可能会逐渐呈现分层。少数几个模型厂商提供基础决策模型和通用API,更多团队围绕金融、客服、制造、医疗、物流等具体场景,开发专用决策能力与工作流。竞争焦点将转化为谁能以可接受的成本,持续做出符合业务要求的判断,并把判断安全、稳定地接入实际流程。

落地场景,恰好是决策层的用武之地

国内比国外更强调“场景”,这一点从切入决策模型的动作就可以看出。

以微软为代表的国外公司,倾向于把通用决策模型API化,即用一个后训练的基础模型,通过云平台按Token计价分发,再让开发者调用。而中国团队的路径则更侧重,场景决策深度嵌入,即把决策能力直接嵌入到企业的业务系统、Agent框架和工作流中,以开源模型和本地化部署为主,解决具体场景中的判断问题。

一方面,金融、医疗、政务等领域的数据合规要求严格,闭源API调用在很多场景下不可行。另一方面,中国企业的Agent落地往往涉及与现有业务系统的深度集成。决策层需要理解具体的业务规则、权限体系和工作流逻辑,而这些信息不是通用API能够提供。

模型路由是国内落地最成熟的切入点,也是Agent工作流中决策频次最高、规则相对清晰的场景。

办公Agent实践已经表明,路由调度正在成为规模化使用的经济账。但模型路由只是起点,决策层更大的价值在于作为业务规则的执行引擎。例如,云知声开源的U2-Decision 4B围绕,任务交给谁、任务是否能执行和任务沿什么路径完成来搭建框架,对应的三项核心能力是智能模型路由、安全决策和工作流路由。

类似的“前置判断”能力对企业场景至关重要,落地到一个保险理赔Agent的决策层就需要知道,哪些材料缺失可以自动补全,哪些必须退回以及哪些需要人工核验。


路由解决的是“任务分配给谁”的问题,企业场景需要做到把决策与业务知识绑定,形成可复用的决策资产。

Chinese-Jev展示了一条可操作的路线,先用1000万条通用决策样本训练中文决策能力,再针对医疗、法律和金融分别微调。微调后的模型在医疗测试集上比Jev高4.0%,在专业领域的平均准确率达到Jev的92%,并实现约17倍加速,每个样本平均延迟15毫秒。这说明,部分领域判断模式可以通过专门训练沉淀到模型参数中。

说到底,国内团队强调“场景”,强调的是判断权的归属。当决策能力被嵌入业务系统,打通数据和与规则绑定后,Agent才能从回答问题变成承担责任的生产系统。

模型路由只是第一个证明,真正的主场是安全、权限、流程与合规。把判断变成可以复用和沉淀的企业资产,这条路才刚刚开始。



微信号|TMTweb

公众号|光子星球

别忘了扫码关注我们!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
同样是打腊子口,中央红军绝境赌命,红四方面军为何轻松破关

同样是打腊子口,中央红军绝境赌命,红四方面军为何轻松破关

孙缡北漂拍客
2026-11-18 19:56:56
SpaceX美股盘前跌幅扩大至5%

SpaceX美股盘前跌幅扩大至5%

每日经济新闻
2026-11-20 20:09:07
U17国足争议判罚!邝兆镭拉人送点,FVS挑战失败,名记开炮

U17国足争议判罚!邝兆镭拉人送点,FVS挑战失败,名记开炮

奥拜尔
2026-11-20 22:47:03
《伟大的长征》里最败笔的选角,把陈赓大将演成了混混,毫无军人气质!

《伟大的长征》里最败笔的选角,把陈赓大将演成了混混,毫无军人气质!

娱乐故事
2026-11-19 23:25:20
3-0荡气回肠!男单爆大冷!就在刚刚,WTT星球赛:21岁陈垣宇淘汰日乒世界冠军!国乒男单再破8强魔咒!林诗栋迎利好

3-0荡气回肠!男单爆大冷!就在刚刚,WTT星球赛:21岁陈垣宇淘汰日乒世界冠军!国乒男单再破8强魔咒!林诗栋迎利好

篮球热嗖
2026-11-20 19:03:39
领跑全联盟!火箭目前抽中状元概率高达18.8% 美媒看好斯托克斯

领跑全联盟!火箭目前抽中状元概率高达18.8% 美媒看好斯托克斯

罗说NBA
2026-11-20 07:13:18
接连打破纪录!速度滑冰世界杯日本站:廉子文宁忠岩摘金夺银

接连打破纪录!速度滑冰世界杯日本站:廉子文宁忠岩摘金夺银

全景体育V
2026-11-20 15:36:53
台湾前参谋总长李喜明曾在台湾一档节目中说,别以为大陆不敢对台动武,他认为这种可能性是存在的

台湾前参谋总长李喜明曾在台湾一档节目中说,别以为大陆不敢对台动武,他认为这种可能性是存在的

人生录
2026-10-31 00:55:04
兹维列夫脚踝出现伤情!ATP总决赛四强已出3席,阿卡轻伤不下火线

兹维列夫脚踝出现伤情!ATP总决赛四强已出3席,阿卡轻伤不下火线

排球黄金眼
2026-11-20 08:58:27
半场21分!赛季最佳一战,终于打出来了,杨瀚森危险了……

半场21分!赛季最佳一战,终于打出来了,杨瀚森危险了……

体育新角度
2026-11-20 18:56:20
泰山冬窗引援思路曝光!300万薪资空间这么花,斯帅的惊喜要来了

泰山冬窗引援思路曝光!300万薪资空间这么花,斯帅的惊喜要来了

体坛小鹏
2026-11-20 20:11:36
80年NBA绝无仅有,19岁弗拉格又创纪录,二年级已是巨星

80年NBA绝无仅有,19岁弗拉格又创纪录,二年级已是巨星

大西体育
2026-11-19 15:20:30
3年套现15亿?和17家公司完成切割,如今隐居上海,自称全职妈妈

3年套现15亿?和17家公司完成切割,如今隐居上海,自称全职妈妈

墨策讲历史
2026-11-18 23:11:36
宋庆龄一辈子没有生养,1981年法医对她的遗体进行解剖检查,这才揭开了她心底最痛苦的隐情

宋庆龄一辈子没有生养,1981年法医对她的遗体进行解剖检查,这才揭开了她心底最痛苦的隐情

扶苏聊历史
2026-11-12 18:31:31
APEC峰会谈芯片断供,董明珠:没有自己的芯,巨头也纯是替人打工

APEC峰会谈芯片断供,董明珠:没有自己的芯,巨头也纯是替人打工

哄动一时啊
2026-11-20 09:55:29
普京在深圳说的六句话,句句有分量,最后一句最耐人寻味

普京在深圳说的六句话,句句有分量,最后一句最耐人寻味

林子说事
2026-11-20 00:34:09
江浙沪,被托举的一代开始崩溃了

江浙沪,被托举的一代开始崩溃了

二胡的岁月如歌
2026-11-20 22:12:12
又一部高颜值韩剧,狗血又上头

又一部高颜值韩剧,狗血又上头

来看美剧
2026-11-20 22:11:13
450亿援乌贷款,还款条件写着“等俄罗斯赔钱”:四国当场掀桌,默茨翻脸了

450亿援乌贷款,还款条件写着“等俄罗斯赔钱”:四国当场掀桌,默茨翻脸了

浯江孤舟
2026-11-20 15:21:39
刘涛峨眉素颜爬山被拍,不粉黛没替身引猜测,这底气究竟多足

刘涛峨眉素颜爬山被拍,不粉黛没替身引猜测,这底气究竟多足

情感大头说说
2026-11-20 12:54:13
2026-11-20 23:00:49
光子星球 incentive-icons
光子星球
细微之处,看见未来!
1702文章数 2159关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

"花坛藏尸案"凶手不服死刑判决 已提起上诉

头条要闻

"花坛藏尸案"凶手不服死刑判决 已提起上诉

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

家居
艺术
亲子
手机
房产

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

2026 研究与超越——中国小幅油画作品双年展 油画选(二)

亲子要闻

女孩的快乐是爸爸最大的创新动力!

手机要闻

Counterpoint:拉美Q3手机出货量同比降24%

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

无障碍浏览 进入关怀版