网易首页 > 网易号 > 正文 申请入驻

OrcaRouter用一套路由多模型组合,将ClaudeFable5满血复活

0
分享至

当行业默认“更强的 AI”等同于“等待下一个更大的模型”时,另一条路线正在变得清晰:不追求单点突破,而是把已有的模型编排成一个能协作、能互检的系统。

近期,AI 网关OrcaRouter(https://www.orcarouter.ai/)上线了一套名为 Routing DSL 的可编程路由策略。它的技术主张可以概括为一句话:用一套声明式规则,把多个现成模型组合起来,逼近——在部分场景甚至追平——顶级单模型的表现。其中一个被反复提及的参照对象,是被不少开发者视为最强模型的 Fable 5。

本文要点

• 在一组示意性测试中,多模型“组合面板”的得分普遍高于它的任一成员模型,且多个组合追平了顶级单模型。

• 这并非取巧,而是有清晰研究脉络的支撑:自一致性、混合智能体、复合 AI 系统、推理时计算扩展。

• OrcaRouter 的价值不在于提出新方法,而在于把这些原本停留在论文与脚本层面的思路,做成可声明、可灰度、可审计的基础设施。

一、一个被低估的事实:组合往往胜过单点

先看现象。在一组示意性测试中(注:以下为说明趋势的示意数据,非官方跑分,100 题中评分 93 题),由多个模型并行作答、再经仲裁挑选的“组合面板”,其得分普遍高于参与组合的每一个成员模型(图表 1):


  • · Claude Opus 4.8 与 GPT-5.5 组成的双模型面板(约 67.5%),同时高于二者各自单跑(约 58.5% 与 60%),领先 7 到 9 个百分点;

  • 多个组合追平、甚至超过了 Fable 5 单跑(约 65.5%);

  • 更值得注意的是:即便是“同一模型的自我组合”(Opus×2)也能逼近顶级水平;而一组更便宜的模型组合(约 64.5%)同样贴近 Fable 5——这意味着“性能”与“单价”被部分解耦。

如果再按请求难度做智能分流,把整套策略跑成一个完整端点,其综合表现在这组示意数据中可与 Fable 5 持平(图表 2)。换句话说,真正起作用的不是“更强的模型”,而是“更合理的编排结构”。


二、为什么有效:一条清晰的研究脉络

这一现象并非反常,它与过去两年生成式 AI 领域的一条重要研究主线高度吻合——通过在推理阶段投入更多计算与结构,而非单纯堆叠参数,来换取能力提升(图表 3)。


  • 自一致性(Self-Consistency):让模型对同一问题采样多条推理路径,再以多数投票得出答案,可显著提升推理准确率。

  • 混合智能体(Mixture-of-Agents):把多个模型的输出分层聚合、互相参考,仅用开源模型就能在部分对话基准上超过当时最强的闭源单模型。

  • 模型即裁判(LLM-as-a-Judge):用一个模型评判、排序另一些模型的输出,已成为评测与筛选的常用手段。

  • 复合 AI 系统(Compound AI Systems):学界明确提出,前沿能力正从“单一模型”转向“系统级组合”——检索、工具、多模型协作共同构成系统。

这些工作指向同一个机制:不同模型的错误往往是不相关的(decorrelated)。让它们各自独立作答,错误是分散的;再用投票、裁判或执行验证把正确答案挑出来,整体正确率就被抬升(图表 4)。模型之间的分歧不是噪音,而是可被收割的信号。


三、从论文到基础设施:Routing DSL 做了什么

上述方法虽有效,却长期停留在论文复现和一次性脚本的层面——难以治理、难以观测,更难安全地放到生产流量上。

OrcaRouter(https://www.orcarouter.ai/)

的Routing DSL

(https://docs.orcarouter.ai/zh/routing/routing-dsl)

本质上是给“复合 AI 系统”提供了一个声明式、可灰度、可审计的工程形态。

规则用 YAML 描述,条件判断用 CEL 表达式(运行在安全沙箱内、只读、微秒级求值),自上而下匹配。开发者既可按难度或任务把请求分流给不同模型,也可以让一条规则“扇出”到多个模型并行作答(图表 5):


use:

parallel: # 2~5 个模型并行作答

- { model: "claude-opus-4-8" }

- { model: "gpt-5.5" }

- { model: "gemini-3.1-pro" }

arbiter:

strategy: best_of_n # 由一个"裁判模型"挑选最优

model: "claude-sonnet-4-6"

仲裁提供四种策略,对应不同的工程目标:


更关键的是它的治理面:lint 静态校验、dry-run 试跑、影子模式(只评估不生效、先看 A/B 差异与成本变化)、0—100% 的灰度放量,以及每次变更的回滚审计。这套机制,使“把多模型编排放上生产流量”从一件高风险操作,变成可控、可观测、可回退的工程实践。

四、意义与边界

把视角拉远,这件事的意义有三层:其一是供给侧的现实意义——当头部模型对普通用户收紧、顶级能力变得稀缺,编排提供了一条“用现有资源重新逼近前沿能力”的路径;其二是成本结构的改变——“用拓扑换智能”使性能与单价解耦,真正昂贵的并行扇出只发生在难度最高的少数请求上(图表 6);其三是工程范式的迁移——团队的竞争力,正从“选用哪个模型”,部分转移到“如何编排模型”。


但同样需要冷静看待它的边界:

  • 成本:并行扇出意味着每条调用腿都要计费,只有配合按难度分流才具备经济性;

  • 成熟度:多模型并行扇出的运行时目前仍处于灰度/预览阶段,计费链路仍在验证;

  • 数据:本文引用的对比均为示意,而非官方基准;

  • 适用性:并非所有任务都受益——低难度或答案确定的请求,单模型往往更经济;编排也会引入额外延迟与系统复杂度。

换言之,编排是一种需要按场景权衡的工具,而非银弹。

结语

模型能力的边界,正在从“单点参数竞赛”扩展到“系统级编排”。在这条路线上,前沿不再只是一个需要等待的模型,而是一种可以被设计、被治理的结构。对工程团队而言,这或许意味着一个朴素但重要的转变:把更多注意力,从“追逐下一个模型”,转向“如何把已有的模型组织得更好”。

注:本文所涉性能对比均为示意性数据,仅用于说明趋势,非官方跑分;文中所述多模型融合运行时目前处于灰度/预览阶段。

更多内容:https://www.orcarouter.ai/blog/routing-dsl-compose-a-panel-of-models-that-thinks-like-fable-5

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
论打工人能惹多大的祸?币安被盗竟因员工偷偷面试...

论打工人能惹多大的祸?币安被盗竟因员工偷偷面试...

CLabs加密观察
2026-11-04 07:48:55
突发!NBA停赛一天!76人的防守升到联盟第三...

突发!NBA停赛一天!76人的防守升到联盟第三...

詹姆斯吧
2026-11-04 13:15:46
公安部:某科技公司涉嫌非法吸收公众存款

公安部:某科技公司涉嫌非法吸收公众存款

21世纪经济报道
2026-11-04 12:27:12
又轰下42+13+7!抱歉利拉德:你的NBA纪录要不保了

又轰下42+13+7!抱歉利拉德:你的NBA纪录要不保了

篮球大视野
2026-11-04 10:32:39
新华社快讯:美国媒体预计民主党夺回参议院重掌国会

新华社快讯:美国媒体预计民主党夺回参议院重掌国会

新华社
2026-11-04 12:20:07
南京大学:终于,连学生“抬头率”都成了KPI

南京大学:终于,连学生“抬头率”都成了KPI

毒哥的毒鸡汤
2026-11-04 12:33:22
学校里出现了非常危险的现象:越来越多的孩子可能已经'脑腐'了

学校里出现了非常危险的现象:越来越多的孩子可能已经'脑腐'了

相思赋予谁a
2026-11-04 03:04:40
郭宁宁任福建省副省长、代省长

郭宁宁任福建省副省长、代省长

上观新闻
2026-11-04 11:44:55
盼着在中国创造“历史性一幕”!俄高层访华,在北京递出两份清单

盼着在中国创造“历史性一幕”!俄高层访华,在北京递出两份清单

共工之锚
2026-11-04 00:39:59
谁注意亚科夫列维奇,在昨晚下课后,和团队沟通了许久,心有不甘

谁注意亚科夫列维奇,在昨晚下课后,和团队沟通了许久,心有不甘

南海浪花
2026-11-04 10:19:09
章子怡母子三人团聚!10岁醒醒身高超160,6岁儿子一跃跳妈妈背上

章子怡母子三人团聚!10岁醒醒身高超160,6岁儿子一跃跳妈妈背上

小疯子耶
2026-11-04 11:37:38
DeepSeek竟然算出来生产一辆小米SU7的实际成本,真的绝了!

DeepSeek竟然算出来生产一辆小米SU7的实际成本,真的绝了!

生活魔术专家
2026-11-04 11:12:40
84岁弗格森目睹!库尼亚脱衣冲上看台:梦剧场53天等待 卡里克狂喜

84岁弗格森目睹!库尼亚脱衣冲上看台:梦剧场53天等待 卡里克狂喜

风过乡
2026-11-04 06:37:01
张雪愤怒了!米兰车展忙里抽空回怼主持人,直言:可以说我工资低,说我不尊重,你是不是有病哦

张雪愤怒了!米兰车展忙里抽空回怼主持人,直言:可以说我工资低,说我不尊重,你是不是有病哦

火山詩话
2026-11-04 09:43:53
马桶拆卡!开出288万天价球星卡!

马桶拆卡!开出288万天价球星卡!

柚子说球
2026-11-04 14:41:22
44岁超女纪敏佳近况曝光!低调结婚生下一子,如今婚姻生活很幸福

44岁超女纪敏佳近况曝光!低调结婚生下一子,如今婚姻生活很幸福

代军哥哥谈娱乐
2026-11-04 09:38:30
珠海赛道,一堂课,马自达回答了新能源时代最难的问题

珠海赛道,一堂课,马自达回答了新能源时代最难的问题

汽车商业评论
2026-09-29 10:37:04
网传股民圈传出劲爆消息,全网炸锅:A股最残酷真相被撕开…

网传股民圈传出劲爆消息,全网炸锅:A股最残酷真相被撕开…

慧翔百科
2026-11-04 08:24:14
黄某倩(女,22岁)在贺兰山独自翻越护栏,进入自然保护区后失联,3天后被发现在山崖下方,现场确认死亡,警方通报

黄某倩(女,22岁)在贺兰山独自翻越护栏,进入自然保护区后失联,3天后被发现在山崖下方,现场确认死亡,警方通报

南方都市报
2026-11-04 14:31:46
演员罗正曝黄子韬婚礼随礼1200元现金,徐艺洋得知其经济状况后退回1000元;此前罗正称出道十年存款仅4800元,曾遭前经纪公司索赔五千万元

演员罗正曝黄子韬婚礼随礼1200元现金,徐艺洋得知其经济状况后退回1000元;此前罗正称出道十年存款仅4800元,曾遭前经纪公司索赔五千万元

洪观新闻
2026-11-04 10:49:47
2026-11-04 14:52:49
半导体圈 incentive-icons
半导体圈
这才是半导体的圈子!
7605文章数 61464关注度
往期回顾 全部

科技要闻

国行苹果AI上手实测:苦等两年,成色如何

头条要闻

牛弹琴:菲外长把电话打到北京 王毅说出最狠的一句话

头条要闻

牛弹琴:菲外长把电话打到北京 王毅说出最狠的一句话

体育要闻

老板豪言建队五年必夺冠 球员:保守了

娱乐要闻

黄子弘凡辟谣结婚:“无稽之谈!”

财经要闻

民主党大胜!特朗普:愿意接受选举结果

汽车要闻

林肯飞行家EX8/新一代宝马3系 多款新车申报图曝光

态度原创

游戏
家居
教育
旅游
公开课

《塞尔达:时之笛 重制版》盲选配音选回原版声优

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

这样课桌对得齐了!

旅游要闻

抖音大楼落户上海“老船厂”!周边向公众开放!休闲新去处!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版