网易首页 > 网易号 > 正文 申请入驻

面向数据中心级AI推理,d-Matrix正式推出Squadron多机架集群

0
分享至



2026年10月12日,AI推理计算企业d-Matrix宣布推出Squadron多机架计算集群。

该系统专为数据中心规模的AI推理场景打造,目标是提供兆瓦级、高能效推理算力,支撑AI模型实现高速、低延迟运行。依托d-Matrix自研的内存中心计算架构,Squadron主要面向AI实验室、企业及主权机构,适配代码生成、个人智能体、网络安全、高频交易等对响应延迟高度敏感的应用场景。

Squadron由d-Matrix联合Arista、博通、Supermicro共同开发。目前,这套系统已部署在d-Matrix位于美国亚利桑那州的数据中心,用于内部研发验证。与此同时,d-Matrix正优先向部分客户交付设备,支持客户在自有数据中心完成部署。此外,Squadron的d-Matrix Corsair服务器与Corsair SquadRack机架系统现已全面上市。

Squadron支持多种部署配置,最大可扩展至16台d-Matrix SquadRack机架,单机架配备8台服务器,整套集群最高可搭载1024颗d-Matrix Corsair XPU。集群通过d-Matrix JetStream网卡(NIC)完成节点互连,并搭配d-Matrix Aviator软件栈做系统优化,简化集群部署与运维管理流程。

Squadron采用风冷散热方案,基于行业标准架构搭建,客户可直接将其接入现有数据中心环境,无需额外搭建液冷系统,也不用开展成本高昂、周期漫长的数据中心基础设施改造工程。

在部署选型上,客户可根据业务需求灵活选择,包括单台Corsair服务器、完整SquadRack机架系统方案,还可进一步扩容至多机架Squadron集群。不同规模部署方案统一采用风冷、行业标准架构,方便客户随推理业务增长平滑扩容算力。

Squadron除了承载高效AI推理负载,还支持跨硬件的计算任务拆分调度。该集群既能够依靠Corsair XPU独立运行完整大模型,也可采用GPU与XPU协同的异构计算架构,把不同类型计算任务分配至适配硬件执行,属于解耦计算路线的典型落地案例。

在该异构架构下,GPU负责注意力层、嵌入层、键值缓存(KV Cache)以及专家路由等任务;Corsair加速卡承接专家网络的计算负载。这种任务分工旨在充分释放两类硬件各自的架构优势,降低GPU运行专家计算任务时对外部显存带宽的消耗,借助Corsair大容量高速片上SRAM提升推理执行效率。

根据d-Matrix公开测试数据,这套异构架构单用户生成速度可达每秒845 token;64用户并发场景下,系统整体吞吐量约每秒20400 token。两个指标分别表征不同维度的推理性能,不可简单使用单用户生成速率乘以并发用户数量估算集群总吞吐量。

d-Matrix表示,尽管注意力与前馈网络解耦(AFD)此前在行业内被视作极具潜力的解耦计算思路,但本次Squadron与GPU服务器联合演示,首次在市售可用芯片硬件上验证了该方案的实际可运行性。这一成果也证明,AI推理基础设施不必完全依赖单一类型加速器;通过合理拆分计算任务、组合异构硬件,有机会持续优化推理延迟、吞吐能力与能效水平。

小编将在第一时间分享更多相关最新动态和爆料,敬请关注。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
广厦队双加时险胜山西 球员评分 3人优秀1人最差 最佳球员不是塔克

广厦队双加时险胜山西 球员评分 3人优秀1人最差 最佳球员不是塔克

南海浪花
2026-10-17 22:15:11
事闹大了!澳大利亚,强硬拒绝中国资本!中澳关系又要破裂?!

事闹大了!澳大利亚,强硬拒绝中国资本!中澳关系又要破裂?!

澳洲财经见闻
2026-10-17 15:41:17
奥古斯托一球一助攻,国米3-1逆转博洛尼亚,2连胜稳居意甲第一

奥古斯托一球一助攻,国米3-1逆转博洛尼亚,2连胜稳居意甲第一

侧身凌空斩
2026-10-18 01:54:10
天天315|蚂蚁消金36.45亿逾期债权打包转让

天天315|蚂蚁消金36.45亿逾期债权打包转让

21世纪经济报道
2026-10-17 12:15:11
王楚然骨架大,但是大得恰到好处

王楚然骨架大,但是大得恰到好处

娱你同欢
2026-06-09 20:06:02
别等失去了才后悔。 厦门小伙暗恋高一班主任多年,大学毕业后果断追娶回家,祝有情人终成眷属

别等失去了才后悔。 厦门小伙暗恋高一班主任多年,大学毕业后果断追娶回家,祝有情人终成眷属

捣蛋窝
2026-10-03 09:50:51
张闻天从总负责人到省委书记,毛主席随后定了一条规矩

张闻天从总负责人到省委书记,毛主席随后定了一条规矩

溯闻
2026-10-11 15:50:08
“父亲开大奔,才能养出这种女儿”,浙大女孩开学一幕火了,长相普通但气质一流

“父亲开大奔,才能养出这种女儿”,浙大女孩开学一幕火了,长相普通但气质一流

知晓科普
2026-10-09 09:34:31
“你是特朗普‘替罪羊’吗?” 泽连斯基静止10秒笑了

“你是特朗普‘替罪羊’吗?” 泽连斯基静止10秒笑了

看看新闻Knews
2026-10-17 11:32:04
浙江队球迷意难平!不止因为0-5山东泰山,更多在于以下五点!

浙江队球迷意难平!不止因为0-5山东泰山,更多在于以下五点!

球场新视角1号
2026-10-17 21:54:44
朱之文回应网友质疑其“农民歌手”人设:“咱们农民种完地,可以出去打工赚零花钱,我出去唱歌也是一种打工”

朱之文回应网友质疑其“农民歌手”人设:“咱们农民种完地,可以出去打工赚零花钱,我出去唱歌也是一种打工”

韩小娱
2026-10-17 10:31:54
温州知名公园回来崩溃!一百多个包

温州知名公园回来崩溃!一百多个包

温州草根
2026-10-15 17:17:55
CBA官宣新赛季首张罚单:史密斯怒拍官方制作物罚2万 顾全罚1万

CBA官宣新赛季首张罚单:史密斯怒拍官方制作物罚2万 顾全罚1万

醉卧浮生
2026-10-17 21:21:00
女子和男友发生关系后累的睡着,被惊醒后发现男友另有所图,屋内还有一个陌生男,男友一口咬定自己是在嫖娼

女子和男友发生关系后累的睡着,被惊醒后发现男友另有所图,屋内还有一个陌生男,男友一口咬定自己是在嫖娼

丫头舫
2026-10-14 11:01:31
我这辈子最敬佩的就是能搞懂iCloud的人!网友:理解不了一点

我这辈子最敬佩的就是能搞懂iCloud的人!网友:理解不了一点

夜深爱杂谈
2026-10-14 20:56:49
重磅:欧盟讨论再援助乌克兰700亿!泽连斯基成特朗普替罪羊?

重磅:欧盟讨论再援助乌克兰700亿!泽连斯基成特朗普替罪羊?

项鹏飞
2026-10-17 20:11:04
骗子自称保安局人员,给香港保安局局长打电话,让他到政府总部10楼协助调查,邓炳强:我就在10楼,你过来找我

骗子自称保安局人员,给香港保安局局长打电话,让他到政府总部10楼协助调查,邓炳强:我就在10楼,你过来找我

政知新媒体
2026-10-17 14:31:39
“考上还不是扫大街?”成都环卫工考研成功,现实狠狠打了谁的脸

“考上还不是扫大街?”成都环卫工考研成功,现实狠狠打了谁的脸

爱下厨的阿椅
2026-10-18 02:58:35
其实俄罗斯早就有人敢说真话了:普京这一仗,打出几十个“敌国”

其实俄罗斯早就有人敢说真话了:普京这一仗,打出几十个“敌国”

快乐彼岸
2026-10-17 21:45:59
两天票房不到400万,被陈思诚小沈阳碾压,事实再次证明撤档重映没用

两天票房不到400万,被陈思诚小沈阳碾压,事实再次证明撤档重映没用

影视高原说
2026-10-18 09:04:10
2026-10-18 09:55:00
宗熙先生
宗熙先生
分享科技、数码、互联网信息。
4154文章数 558关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

女生科目三没过出来发现教练走了 跟其语音听到麻将声

头条要闻

女生科目三没过出来发现教练走了 跟其语音听到麻将声

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

李连杰回应抛妻弃女传闻,透露四个女儿关系

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

本地
艺术
旅游
游戏
教育

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

艺术要闻

美到窒息!黛安笔下的午后“印象”,明媚又温柔,看完心情都亮了!

旅游要闻

隰县小西天景区闭园公告

《幽灵线:东京》已加入GOG保存计划 取消服务集成

教育要闻

故宫:为什么一定要建在一条中轴线上?

无障碍浏览 进入关怀版