网易首页 > 网易号 > 正文 申请入驻

OrcaRouter用一套路由多模型组合,将ClaudeFable5满血复活

0
分享至

当行业默认“更强的 AI”等同于“等待下一个更大的模型”时,另一条路线正在变得清晰:不追求单点突破,而是把已有的模型编排成一个能协作、能互检的系统。

近期,AI 网关OrcaRouter(https://www.orcarouter.ai/)上线了一套名为 Routing DSL 的可编程路由策略。它的技术主张可以概括为一句话:用一套声明式规则,把多个现成模型组合起来,逼近——在部分场景甚至追平——顶级单模型的表现。其中一个被反复提及的参照对象,是被不少开发者视为最强模型的 Fable 5。

本文要点

• 在一组示意性测试中,多模型“组合面板”的得分普遍高于它的任一成员模型,且多个组合追平了顶级单模型。

• 这并非取巧,而是有清晰研究脉络的支撑:自一致性、混合智能体、复合 AI 系统、推理时计算扩展。

• OrcaRouter 的价值不在于提出新方法,而在于把这些原本停留在论文与脚本层面的思路,做成可声明、可灰度、可审计的基础设施。

一、一个被低估的事实:组合往往胜过单点

先看现象。在一组示意性测试中(注:以下为说明趋势的示意数据,非官方跑分,100 题中评分 93 题),由多个模型并行作答、再经仲裁挑选的“组合面板”,其得分普遍高于参与组合的每一个成员模型(图表 1):


  • · Claude Opus 4.8 与 GPT-5.5 组成的双模型面板(约 67.5%),同时高于二者各自单跑(约 58.5% 与 60%),领先 7 到 9 个百分点;

  • 多个组合追平、甚至超过了 Fable 5 单跑(约 65.5%);

  • 更值得注意的是:即便是“同一模型的自我组合”(Opus×2)也能逼近顶级水平;而一组更便宜的模型组合(约 64.5%)同样贴近 Fable 5——这意味着“性能”与“单价”被部分解耦。

如果再按请求难度做智能分流,把整套策略跑成一个完整端点,其综合表现在这组示意数据中可与 Fable 5 持平(图表 2)。换句话说,真正起作用的不是“更强的模型”,而是“更合理的编排结构”。


二、为什么有效:一条清晰的研究脉络

这一现象并非反常,它与过去两年生成式 AI 领域的一条重要研究主线高度吻合——通过在推理阶段投入更多计算与结构,而非单纯堆叠参数,来换取能力提升(图表 3)。


  • 自一致性(Self-Consistency):让模型对同一问题采样多条推理路径,再以多数投票得出答案,可显著提升推理准确率。

  • 混合智能体(Mixture-of-Agents):把多个模型的输出分层聚合、互相参考,仅用开源模型就能在部分对话基准上超过当时最强的闭源单模型。

  • 模型即裁判(LLM-as-a-Judge):用一个模型评判、排序另一些模型的输出,已成为评测与筛选的常用手段。

  • 复合 AI 系统(Compound AI Systems):学界明确提出,前沿能力正从“单一模型”转向“系统级组合”——检索、工具、多模型协作共同构成系统。

这些工作指向同一个机制:不同模型的错误往往是不相关的(decorrelated)。让它们各自独立作答,错误是分散的;再用投票、裁判或执行验证把正确答案挑出来,整体正确率就被抬升(图表 4)。模型之间的分歧不是噪音,而是可被收割的信号。


三、从论文到基础设施:Routing DSL 做了什么

上述方法虽有效,却长期停留在论文复现和一次性脚本的层面——难以治理、难以观测,更难安全地放到生产流量上。

OrcaRouter(https://www.orcarouter.ai/

Routing DSL

https://docs.orcarouter.ai/zh/routing/routing-dsl

本质上是给“复合 AI 系统”提供了一个声明式、可灰度、可审计的工程形态。

规则用 YAML 描述,条件判断用 CEL 表达式(运行在安全沙箱内、只读、微秒级求值),自上而下匹配。开发者既可按难度或任务把请求分流给不同模型,也可以让一条规则“扇出”到多个模型并行作答(图表 5):


use:

parallel: # 2~5 个模型并行作答

- { model: "claude-opus-4-8" }

- { model: "gpt-5.5" }

- { model: "gemini-3.1-pro" }

arbiter:

strategy: best_of_n # 由一个"裁判模型"挑选最优

model: "claude-sonnet-4-6"

仲裁提供四种策略,对应不同的工程目标:


更关键的是它的治理面:lint 静态校验、dry-run 试跑、影子模式(只评估不生效、先看 A/B 差异与成本变化)、0—100% 的灰度放量,以及每次变更的回滚审计。这套机制,使“把多模型编排放上生产流量”从一件高风险操作,变成可控、可观测、可回退的工程实践。

四、意义与边界

把视角拉远,这件事的意义有三层:其一是供给侧的现实意义——当头部模型对普通用户收紧、顶级能力变得稀缺,编排提供了一条“用现有资源重新逼近前沿能力”的路径;其二是成本结构的改变——“用拓扑换智能”使性能与单价解耦,真正昂贵的并行扇出只发生在难度最高的少数请求上(图表 6);其三是工程范式的迁移——团队的竞争力,正从“选用哪个模型”,部分转移到“如何编排模型”。


但同样需要冷静看待它的边界:

  • 成本:并行扇出意味着每条调用腿都要计费,只有配合按难度分流才具备经济性;

  • 成熟度:多模型并行扇出的运行时目前仍处于灰度/预览阶段,计费链路仍在验证;

  • 数据:本文引用的对比均为示意,而非官方基准;

  • 适用性:并非所有任务都受益——低难度或答案确定的请求,单模型往往更经济;编排也会引入额外延迟与系统复杂度。

换言之,编排是一种需要按场景权衡的工具,而非银弹。

结语

模型能力的边界,正在从“单点参数竞赛”扩展到“系统级编排”。在这条路线上,前沿不再只是一个需要等待的模型,而是一种可以被设计、被治理的结构。对工程团队而言,这或许意味着一个朴素但重要的转变:把更多注意力,从“追逐下一个模型”,转向“如何把已有的模型组织得更好”。

注:本文所涉性能对比均为示意性数据,仅用于说明趋势,非官方跑分;文中所述多模型融合运行时目前处于灰度/预览阶段。

更多内容:https://www.orcarouter.ai/blog/routing-dsl-compose-a-panel-of-models-that-thinks-like-fable-5

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
日本亚运再惹众怒!拒派大巴接运动员:中国队在机场白白等6小时

日本亚运再惹众怒!拒派大巴接运动员:中国队在机场白白等6小时

风过乡
2026-09-16 23:01:32
梅西传射建功+怒斥主裁判,一战刷爆2大神迹,迈阿密国际2-0夺冠

梅西传射建功+怒斥主裁判,一战刷爆2大神迹,迈阿密国际2-0夺冠

钉钉陌上花开
2026-09-17 09:59:24
双休吗?五险一金足额吗?评论区几个问题问停了一批厂二代账号

双休吗?五险一金足额吗?评论区几个问题问停了一批厂二代账号

西虹市闲话
2026-09-16 14:11:22
人有钱后能飘到啥程度?网友:财富带来权利,权利带来欲望,欲望带来痛苦

人有钱后能飘到啥程度?网友:财富带来权利,权利带来欲望,欲望带来痛苦

带你感受人间冷暖
2026-09-17 00:05:12
体制内的饭局基本消失了

体制内的饭局基本消失了

砚田文化
2026-09-16 18:33:32
“孙子非亲生案”鉴定中心被处罚,疑出轨儿媳立不败之地,法律到底在保护谁?

“孙子非亲生案”鉴定中心被处罚,疑出轨儿媳立不败之地,法律到底在保护谁?

可达鸭面面观
2026-09-16 16:25:49
武汉一女生为专升本,穿情趣内衣上门勾引老师:原配找到学校对峙,被气到流产了

武汉一女生为专升本,穿情趣内衣上门勾引老师:原配找到学校对峙,被气到流产了

江山挥笔
2026-09-16 18:26:08
一年花费几十万,“肢体接触不够多,就投诉”

一年花费几十万,“肢体接触不够多,就投诉”

中国新闻周刊
2026-09-16 23:30:05
高市早苗内阁全体阁僚辞职

高市早苗内阁全体阁僚辞职

界面新闻
2026-09-17 10:08:34
90岁达赖宣布"入驻"火星哥身体一年,还喊话:不信就看着

90岁达赖宣布"入驻"火星哥身体一年,还喊话:不信就看着

自愈小日子
2026-09-17 00:59:03
某县教体局借调人员将涉密文件拍照发至校长群,某校长未细看便将照片转至教师群,文件立即在多个群扩散……二人被处分

某县教体局借调人员将涉密文件拍照发至校长群,某校长未细看便将照片转至教师群,文件立即在多个群扩散……二人被处分

新快报新闻
2026-09-16 17:17:02
俄军少将 格鲁尼斯 遭斩首

俄军少将 格鲁尼斯 遭斩首

战争研究所
2026-09-17 00:13:38
悲痛!广州一医学生不幸坠亡,聊天记录显示导师曾转账并关心,家属:很难过,请大家不要再网暴我们和孩子导师

悲痛!广州一医学生不幸坠亡,聊天记录显示导师曾转账并关心,家属:很难过,请大家不要再网暴我们和孩子导师

新快报新闻
2026-09-16 20:17:13
央视重要决定,中国男篮决战日本队大调整,能赢40绝不赢20分

央视重要决定,中国男篮决战日本队大调整,能赢40绝不赢20分

宗介说体育
2026-09-17 09:55:52
美国中将公开承认:打完伊朗,我才看清中国到底有多强大!

美国中将公开承认:打完伊朗,我才看清中国到底有多强大!

果妈聊娱乐
2026-09-17 08:20:56
随着中国男篮9分险胜沙特,产生5个不争的事实,郭士强夺冠真难了

随着中国男篮9分险胜沙特,产生5个不争的事实,郭士强夺冠真难了

侃球熊弟
2026-09-16 16:57:37
独家|央视原副台长孙玉胜忆敬一丹:她温和,但说出的话分量不低

独家|央视原副台长孙玉胜忆敬一丹:她温和,但说出的话分量不低

澎湃新闻
2026-09-17 10:02:30
哥伦比亚总统确认失联飞机上5人全部遇难

哥伦比亚总统确认失联飞机上5人全部遇难

环球网资讯
2026-09-17 06:08:04
“再不敢手贱了!”50岁大叔被可乐瓶“咬”住命根子,医生:再拖下去可能坏死

“再不敢手贱了!”50岁大叔被可乐瓶“咬”住命根子,医生:再拖下去可能坏死

南方都市报
2026-09-16 07:58:15
炸裂!女网红和男子开房,因动作太猛导致女网红腰部骨折,告上法庭索赔50万

炸裂!女网红和男子开房,因动作太猛导致女网红腰部骨折,告上法庭索赔50万

小徐讲八卦
2026-09-17 09:49:48
2026-09-17 11:48:49
半导体圈 incentive-icons
半导体圈
这才是半导体的圈子!
7583文章数 61460关注度
往期回顾 全部

科技要闻

赛力斯全面接盘,华为真的“撤”了吗?

头条要闻

牛弹琴:印巴军舰茫茫大海上罕见相撞 有三个疑点

头条要闻

牛弹琴:印巴军舰茫茫大海上罕见相撞 有三个疑点

体育要闻

逆转朝鲜,国足亚运队“啃老”过关

娱乐要闻

比起敬一丹的退而不休 章伟秋更显明智

财经要闻

沪指半日跌0.36% 汽车、医药股走强

汽车要闻

激光雷达+EVA机器人+爆胎稳行 星瑞L PLUS预售限时价11.57万起

态度原创

旅游
时尚
艺术
公开课
军事航空

旅游要闻

贵州从江:金色梯田好“丰”景

8年没换过|| 每次“垮脸”都靠它救,这笔小投资已值回本

艺术要闻

16幅 罗中立奖学金获得者的作品

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

中东美军基地遭伊朗袭击后照片被披露

无障碍浏览 进入关怀版