网易首页 > 网易号 > 正文 申请入驻

面向数据中心级AI推理,d-Matrix正式推出Squadron多机架集群

0
分享至



2026年10月12日,AI推理计算企业d-Matrix宣布推出Squadron多机架计算集群。

该系统专为数据中心规模的AI推理场景打造,目标是提供兆瓦级、高能效推理算力,支撑AI模型实现高速、低延迟运行。依托d-Matrix自研的内存中心计算架构,Squadron主要面向AI实验室、企业及主权机构,适配代码生成、个人智能体、网络安全、高频交易等对响应延迟高度敏感的应用场景。

Squadron由d-Matrix联合Arista、博通、Supermicro共同开发。目前,这套系统已部署在d-Matrix位于美国亚利桑那州的数据中心,用于内部研发验证。与此同时,d-Matrix正优先向部分客户交付设备,支持客户在自有数据中心完成部署。此外,Squadron的d-Matrix Corsair服务器与Corsair SquadRack机架系统现已全面上市。

Squadron支持多种部署配置,最大可扩展至16台d-Matrix SquadRack机架,单机架配备8台服务器,整套集群最高可搭载1024颗d-Matrix Corsair XPU。集群通过d-Matrix JetStream网卡(NIC)完成节点互连,并搭配d-Matrix Aviator软件栈做系统优化,简化集群部署与运维管理流程。

Squadron采用风冷散热方案,基于行业标准架构搭建,客户可直接将其接入现有数据中心环境,无需额外搭建液冷系统,也不用开展成本高昂、周期漫长的数据中心基础设施改造工程。

在部署选型上,客户可根据业务需求灵活选择,包括单台Corsair服务器、完整SquadRack机架系统方案,还可进一步扩容至多机架Squadron集群。不同规模部署方案统一采用风冷、行业标准架构,方便客户随推理业务增长平滑扩容算力。

Squadron除了承载高效AI推理负载,还支持跨硬件的计算任务拆分调度。该集群既能够依靠Corsair XPU独立运行完整大模型,也可采用GPU与XPU协同的异构计算架构,把不同类型计算任务分配至适配硬件执行,属于解耦计算路线的典型落地案例。

在该异构架构下,GPU负责注意力层、嵌入层、键值缓存(KV Cache)以及专家路由等任务;Corsair加速卡承接专家网络的计算负载。这种任务分工旨在充分释放两类硬件各自的架构优势,降低GPU运行专家计算任务时对外部显存带宽的消耗,借助Corsair大容量高速片上SRAM提升推理执行效率。

根据d-Matrix公开测试数据,这套异构架构单用户生成速度可达每秒845 token;64用户并发场景下,系统整体吞吐量约每秒20400 token。两个指标分别表征不同维度的推理性能,不可简单使用单用户生成速率乘以并发用户数量估算集群总吞吐量。

d-Matrix表示,尽管注意力与前馈网络解耦(AFD)此前在行业内被视作极具潜力的解耦计算思路,但本次Squadron与GPU服务器联合演示,首次在市售可用芯片硬件上验证了该方案的实际可运行性。这一成果也证明,AI推理基础设施不必完全依赖单一类型加速器;通过合理拆分计算任务、组合异构硬件,有机会持续优化推理延迟、吞吐能力与能效水平。

小编将在第一时间分享更多相关最新动态和爆料,敬请关注。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
全国每卖5双斐乐鞋,3双产自广西——李宁还把厂开回了来宾

全国每卖5双斐乐鞋,3双产自广西——李宁还把厂开回了来宾

趣味萌宠的日常
2026-10-18 03:36:29
遵义会议上唯独凯丰支持博古与李德,建国后他儿子何明去旧址参观,因相关讲解倍感尴尬

遵义会议上唯独凯丰支持博古与李德,建国后他儿子何明去旧址参观,因相关讲解倍感尴尬

文史明鉴
2026-01-02 19:43:16
上海那个被捧上天的阿大葱油饼,最终还是栽在亲儿子手里

上海那个被捧上天的阿大葱油饼,最终还是栽在亲儿子手里

椰青美食分享
2026-10-15 10:28:18
老套路重现!赵少康得知自己要被开除,又将矛头引向大陆!

老套路重现!赵少康得知自己要被开除,又将矛头引向大陆!

故事终将光明磊落
2026-10-17 10:56:37
公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

公路车骑行服,熟女骑行穿搭,利落面料勾勒饱满曲线

只要高兴就好
2026-09-24 11:58:50
A股:不必再等明天开盘了,趋势已经明朗,明后两天行情没有任何意外了

A股:不必再等明天开盘了,趋势已经明朗,明后两天行情没有任何意外了

财经大拿
2026-10-18 06:05:12
中国篮坛又爆发大规模冲突!女篮国手被打缝了4针:被对手主教练追着打?

中国篮坛又爆发大规模冲突!女篮国手被打缝了4针:被对手主教练追着打?

篮球快餐车
2026-10-17 07:48:24
知名男歌手宣布:将开26场演唱会,每晚重唱不同专辑,观众手机须关机封存

知名男歌手宣布:将开26场演唱会,每晚重唱不同专辑,观众手机须关机封存

上观新闻
2026-10-17 18:00:46
菲海军舰机侵闯黄岩岛,性质和影响极其恶劣,中方忍耐快到极点

菲海军舰机侵闯黄岩岛,性质和影响极其恶劣,中方忍耐快到极点

国平视野
2026-10-18 14:01:31
0-2大爆冷!武网决赛首席诞生,排名170位黑马杀疯:斯瓦泰克笑了

0-2大爆冷!武网决赛首席诞生,排名170位黑马杀疯:斯瓦泰克笑了

大秦壁虎白话体育
2026-10-17 19:25:11
600万顶薪只配打4分34秒?三分失准+防守漏勺,原帅被新帅彻底打入冷宫

600万顶薪只配打4分34秒?三分失准+防守漏勺,原帅被新帅彻底打入冷宫

慢歌轻步谣
2026-10-18 13:58:46
果然散装英语才是真正的神,网友:我要去飞机的家

果然散装英语才是真正的神,网友:我要去飞机的家

水泥土的搞笑
2026-10-14 00:26:01
真废了!场均4.3分+三分15%!历史3D!热火值得吗?

真废了!场均4.3分+三分15%!历史3D!热火值得吗?

篮球盛世
2026-10-18 12:52:16
66岁的费翔采访中,被问到“你看到别人有儿子、有孙子的时候,羡慕吗?遗憾吗?”,他回答得很平静

66岁的费翔采访中,被问到“你看到别人有儿子、有孙子的时候,羡慕吗?遗憾吗?”,他回答得很平静

孙琬童
2026-10-17 06:25:12
最新消息:景甜露面被拍,评论区:强撑着体面!

最新消息:景甜露面被拍,评论区:强撑着体面!

默默有话说
2026-10-17 12:31:21
法庭上杀人犯当场质问法官:“我明明杀了四个女人,你们为什么说我杀了3个?”

法庭上杀人犯当场质问法官:“我明明杀了四个女人,你们为什么说我杀了3个?”

落纸生花创意手工
2026-07-19 12:06:31
男子为健身常年吃土豆等粗粮,为避免发芽囤一冰柜熟土豆,营养专家:冷冻会使抗性淀粉增加升糖更慢,但复热后效果打折,冷冻不是无限保鲜

男子为健身常年吃土豆等粗粮,为避免发芽囤一冰柜熟土豆,营养专家:冷冻会使抗性淀粉增加升糖更慢,但复热后效果打折,冷冻不是无限保鲜

环球时报国际
2026-10-16 15:32:36
王星在诈骗园区被胁迫借下网贷,最终选择分期偿还,律师:如举证证实案涉网贷合同系受胁迫订立,有权诉请法院撤销借贷合同

王星在诈骗园区被胁迫借下网贷,最终选择分期偿还,律师:如举证证实案涉网贷合同系受胁迫订立,有权诉请法院撤销借贷合同

乡野小珥
2026-10-14 16:48:14
蒯曼妹妹省运夺金,偶像却不是姐姐,她的理由让蒯曼没法反驳

蒯曼妹妹省运夺金,偶像却不是姐姐,她的理由让蒯曼没法反驳

娱妮啵啵啊
2026-10-17 15:31:02
尴尬!天津35岁女生相亲陷入两难:隐瞒房产只收到离异大龄追求者,亮出家底引来年轻弟弟

尴尬!天津35岁女生相亲陷入两难:隐瞒房产只收到离异大龄追求者,亮出家底引来年轻弟弟

火山詩话
2026-10-16 07:15:46
2026-10-18 15:27:00
宗熙先生
宗熙先生
分享科技、数码、互联网信息。
4157文章数 558关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

员工仅1人的公司中标3千万项目 标书是代写对手被劝退

头条要闻

员工仅1人的公司中标3千万项目 标书是代写对手被劝退

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

曝郭麒麟与25岁知名女星已经结婚,女方回应关系

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

本地
时尚
教育
房产
军事航空

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

重阳寻香:一炉香,一枚囊,她们以手传香

教育要闻

数典忘祖!中国留学生在课堂上身披旭日旗,本人道歉毫无悔意

房产要闻

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

军事要闻

乌克兰全国超15处重要能源设施遭俄袭击 泽连斯基发声

无障碍浏览 进入关怀版