网易首页 > 网易号 > 正文 申请入驻

OrcaRouter用一套路由多模型组合,将ClaudeFable5满血复活

0
分享至

当行业默认“更强的 AI”等同于“等待下一个更大的模型”时,另一条路线正在变得清晰:不追求单点突破,而是把已有的模型编排成一个能协作、能互检的系统。

近期,AI 网关OrcaRouter(https://www.orcarouter.ai/)上线了一套名为 Routing DSL 的可编程路由策略。它的技术主张可以概括为一句话:用一套声明式规则,把多个现成模型组合起来,逼近——在部分场景甚至追平——顶级单模型的表现。其中一个被反复提及的参照对象,是被不少开发者视为最强模型的 Fable 5。

本文要点

• 在一组示意性测试中,多模型“组合面板”的得分普遍高于它的任一成员模型,且多个组合追平了顶级单模型。

• 这并非取巧,而是有清晰研究脉络的支撑:自一致性、混合智能体、复合 AI 系统、推理时计算扩展。

• OrcaRouter 的价值不在于提出新方法,而在于把这些原本停留在论文与脚本层面的思路,做成可声明、可灰度、可审计的基础设施。

一、一个被低估的事实:组合往往胜过单点

先看现象。在一组示意性测试中(注:以下为说明趋势的示意数据,非官方跑分,100 题中评分 93 题),由多个模型并行作答、再经仲裁挑选的“组合面板”,其得分普遍高于参与组合的每一个成员模型(图表 1):


  • · Claude Opus 4.8 与 GPT-5.5 组成的双模型面板(约 67.5%),同时高于二者各自单跑(约 58.5% 与 60%),领先 7 到 9 个百分点;

  • 多个组合追平、甚至超过了 Fable 5 单跑(约 65.5%);

  • 更值得注意的是:即便是“同一模型的自我组合”(Opus×2)也能逼近顶级水平;而一组更便宜的模型组合(约 64.5%)同样贴近 Fable 5——这意味着“性能”与“单价”被部分解耦。

如果再按请求难度做智能分流,把整套策略跑成一个完整端点,其综合表现在这组示意数据中可与 Fable 5 持平(图表 2)。换句话说,真正起作用的不是“更强的模型”,而是“更合理的编排结构”。


二、为什么有效:一条清晰的研究脉络

这一现象并非反常,它与过去两年生成式 AI 领域的一条重要研究主线高度吻合——通过在推理阶段投入更多计算与结构,而非单纯堆叠参数,来换取能力提升(图表 3)。


  • 自一致性(Self-Consistency):让模型对同一问题采样多条推理路径,再以多数投票得出答案,可显著提升推理准确率。

  • 混合智能体(Mixture-of-Agents):把多个模型的输出分层聚合、互相参考,仅用开源模型就能在部分对话基准上超过当时最强的闭源单模型。

  • 模型即裁判(LLM-as-a-Judge):用一个模型评判、排序另一些模型的输出,已成为评测与筛选的常用手段。

  • 复合 AI 系统(Compound AI Systems):学界明确提出,前沿能力正从“单一模型”转向“系统级组合”——检索、工具、多模型协作共同构成系统。

这些工作指向同一个机制:不同模型的错误往往是不相关的(decorrelated)。让它们各自独立作答,错误是分散的;再用投票、裁判或执行验证把正确答案挑出来,整体正确率就被抬升(图表 4)。模型之间的分歧不是噪音,而是可被收割的信号。


三、从论文到基础设施:Routing DSL 做了什么

上述方法虽有效,却长期停留在论文复现和一次性脚本的层面——难以治理、难以观测,更难安全地放到生产流量上。

OrcaRouter(https://www.orcarouter.ai/)

的Routing DSL

(https://docs.orcarouter.ai/zh/routing/routing-dsl)

本质上是给“复合 AI 系统”提供了一个声明式、可灰度、可审计的工程形态。

规则用 YAML 描述,条件判断用 CEL 表达式(运行在安全沙箱内、只读、微秒级求值),自上而下匹配。开发者既可按难度或任务把请求分流给不同模型,也可以让一条规则“扇出”到多个模型并行作答(图表 5):


use:

parallel: # 2~5 个模型并行作答

- { model: "claude-opus-4-8" }

- { model: "gpt-5.5" }

- { model: "gemini-3.1-pro" }

arbiter:

strategy: best_of_n # 由一个"裁判模型"挑选最优

model: "claude-sonnet-4-6"

仲裁提供四种策略,对应不同的工程目标:


更关键的是它的治理面:lint 静态校验、dry-run 试跑、影子模式(只评估不生效、先看 A/B 差异与成本变化)、0—100% 的灰度放量,以及每次变更的回滚审计。这套机制,使“把多模型编排放上生产流量”从一件高风险操作,变成可控、可观测、可回退的工程实践。

四、意义与边界

把视角拉远,这件事的意义有三层:其一是供给侧的现实意义——当头部模型对普通用户收紧、顶级能力变得稀缺,编排提供了一条“用现有资源重新逼近前沿能力”的路径;其二是成本结构的改变——“用拓扑换智能”使性能与单价解耦,真正昂贵的并行扇出只发生在难度最高的少数请求上(图表 6);其三是工程范式的迁移——团队的竞争力,正从“选用哪个模型”,部分转移到“如何编排模型”。


但同样需要冷静看待它的边界:

  • 成本:并行扇出意味着每条调用腿都要计费,只有配合按难度分流才具备经济性;

  • 成熟度:多模型并行扇出的运行时目前仍处于灰度/预览阶段,计费链路仍在验证;

  • 数据:本文引用的对比均为示意,而非官方基准;

  • 适用性:并非所有任务都受益——低难度或答案确定的请求,单模型往往更经济;编排也会引入额外延迟与系统复杂度。

换言之,编排是一种需要按场景权衡的工具,而非银弹。

结语

模型能力的边界,正在从“单点参数竞赛”扩展到“系统级编排”。在这条路线上,前沿不再只是一个需要等待的模型,而是一种可以被设计、被治理的结构。对工程团队而言,这或许意味着一个朴素但重要的转变:把更多注意力,从“追逐下一个模型”,转向“如何把已有的模型组织得更好”。

注:本文所涉性能对比均为示意性数据,仅用于说明趋势,非官方跑分;文中所述多模型融合运行时目前处于灰度/预览阶段。

更多内容:https://www.orcarouter.ai/blog/routing-dsl-compose-a-panel-of-models-that-thinks-like-fable-5

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
川西租车自驾游遭遇“连环套”, 无违法记录却遭GPS“定罪”,合同暗藏5000元天价罚款

川西租车自驾游遭遇“连环套”, 无违法记录却遭GPS“定罪”,合同暗藏5000元天价罚款

大风新闻
2026-11-03 16:56:03
省委常委会召开会议,传承弘扬伟大长征精神,研究做好巡视、安全生产和灾害防范等工作

省委常委会召开会议,传承弘扬伟大长征精神,研究做好巡视、安全生产和灾害防范等工作

广东发布
2026-11-03 15:44:01
今日金价大跌了2026年11月4日

今日金价大跌了2026年11月4日

说故事的阿袭
2026-11-04 03:56:59
九寨沟打人事件被打的满脸是血,全程不还手,都是双方都有责任?

九寨沟打人事件被打的满脸是血,全程不还手,都是双方都有责任?

走读新生
2026-11-03 14:06:00
詹姆斯:威斯布鲁克从不想缺席比赛,我很幸运曾和他并肩作战

詹姆斯:威斯布鲁克从不想缺席比赛,我很幸运曾和他并肩作战

懂球帝
2026-11-04 07:51:26
特朗普时代结束了,死因:政治自杀

特朗普时代结束了,死因:政治自杀

阿尔卑斯瞭望
2026-11-03 18:46:55
中选落败后,特朗普的“跛脚鸭”策略

中选落败后,特朗普的“跛脚鸭”策略

墨心人
2026-11-03 15:34:00
张镇麟16+7补篮绝杀!上海加时险胜吉林5连胜 威尔逊30+21

张镇麟16+7补篮绝杀!上海加时险胜吉林5连胜 威尔逊30+21

醉卧浮生
2026-11-03 14:09:20
外交部:中方决定以视频的方式举办今年的APEC双部长会

外交部:中方决定以视频的方式举办今年的APEC双部长会

北青网-北京青年报
2026-11-03 16:24:05
美国中期选举结果牵动多方,特朗普在“收官”演讲中称:“我们已经尽力了”

美国中期选举结果牵动多方,特朗普在“收官”演讲中称:“我们已经尽力了”

环球网资讯
2026-11-04 06:36:05
调查发现:膝盖不怕走路,真正“怕”的是频繁去做这5件事

调查发现:膝盖不怕走路,真正“怕”的是频繁去做这5件事

刘哥谈体育
2026-11-03 01:06:09
歌手马天宇晒聊天记录发文:“杨幂已经被删除,接下来是孙怡了”

歌手马天宇晒聊天记录发文:“杨幂已经被删除,接下来是孙怡了”

荒野老五
2026-11-03 11:33:57
官媒连发三文质问!千万网友为徽剑呐喊:勇士惨死,主谋何日归案

官媒连发三文质问!千万网友为徽剑呐喊:勇士惨死,主谋何日归案

锅锅爱历史
2026-11-03 13:29:43
网购 “侏儒宠物猪” 长成两百斤肉猪,女子每日遛猪五六小时,糟心经历走红;本人回应:每月养猪成本超6000元,不会弃养,将考虑做自媒体

网购 “侏儒宠物猪” 长成两百斤肉猪,女子每日遛猪五六小时,糟心经历走红;本人回应:每月养猪成本超6000元,不会弃养,将考虑做自媒体

极目新闻
2026-11-03 19:59:52
小小徐婚礼结束仅1天,底裤被扒,文旅下架视频,我们都被骗了?

小小徐婚礼结束仅1天,底裤被扒,文旅下架视频,我们都被骗了?

兵鉴史
2026-11-02 21:35:03
再不盈利天理难容!果然,三桶油前三季度净利润超过2025年总和

再不盈利天理难容!果然,三桶油前三季度净利润超过2025年总和

正经说个事儿
2026-11-03 06:22:25
横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

扶苏聊历史
2026-10-28 15:47:11
海外华人发帖:越来越朝鲜化,我多多少少有点害怕了!国内网友:只有敌人才会害怕

海外华人发帖:越来越朝鲜化,我多多少少有点害怕了!国内网友:只有敌人才会害怕

谭谈社会
2026-11-03 23:16:30
沉默的易建联和疯狂的“乔姐”

沉默的易建联和疯狂的“乔姐”

凤眼论
2026-11-03 21:05:18
iPhone系统天气被“冻傻”,-28℃、-31℃、-32℃......北京、上海一天温差近50度?太离谱!

iPhone系统天气被“冻傻”,-28℃、-31℃、-32℃......北京、上海一天温差近50度?太离谱!

极目新闻
2026-11-04 07:29:35
2026-11-04 08:24:49
半导体圈 incentive-icons
半导体圈
这才是半导体的圈子!
7605文章数 61464关注度
往期回顾 全部

科技要闻

马斯克也哭穷!Grok Bot额度暴跌

头条要闻

男子在菜地里"种"出800多个汉字:一个字要长20多天

头条要闻

男子在菜地里"种"出800多个汉字:一个字要长20多天

体育要闻

领意甲最低的工资,踢着最幸福的足球

娱乐要闻

巴图自曝已改姓后,英如嫡直播摊牌

财经要闻

巨额开支"难落地" 美国数据中心建设遇阻

汽车要闻

可油可甲醇/每公里成本2毛 银河星耀6EF焕新价7.68万起

态度原创

健康
亲子
艺术
数码
公开课

痘痘长到25岁还没完?查查内分泌

亲子要闻

音乐一响,一岁半萌娃已准备出道!扭秧歌是刻在每个东北人DNA里的

艺术要闻

谁被戳中了?罗中立:有钱没文化,才是真可悲!

数码要闻

苹果Fitness+进军健身房:推出4周个性化力量训练计划

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版