![]()
2026年10月12日,AI推理计算企业d-Matrix宣布推出Squadron多机架计算集群。
该系统专为数据中心规模的AI推理场景打造,目标是提供兆瓦级、高能效推理算力,支撑AI模型实现高速、低延迟运行。依托d-Matrix自研的内存中心计算架构,Squadron主要面向AI实验室、企业及主权机构,适配代码生成、个人智能体、网络安全、高频交易等对响应延迟高度敏感的应用场景。
Squadron由d-Matrix联合Arista、博通、Supermicro共同开发。目前,这套系统已部署在d-Matrix位于美国亚利桑那州的数据中心,用于内部研发验证。与此同时,d-Matrix正优先向部分客户交付设备,支持客户在自有数据中心完成部署。此外,Squadron的d-Matrix Corsair服务器与Corsair SquadRack机架系统现已全面上市。
Squadron支持多种部署配置,最大可扩展至16台d-Matrix SquadRack机架,单机架配备8台服务器,整套集群最高可搭载1024颗d-Matrix Corsair XPU。集群通过d-Matrix JetStream网卡(NIC)完成节点互连,并搭配d-Matrix Aviator软件栈做系统优化,简化集群部署与运维管理流程。
Squadron采用风冷散热方案,基于行业标准架构搭建,客户可直接将其接入现有数据中心环境,无需额外搭建液冷系统,也不用开展成本高昂、周期漫长的数据中心基础设施改造工程。
在部署选型上,客户可根据业务需求灵活选择,包括单台Corsair服务器、完整SquadRack机架系统方案,还可进一步扩容至多机架Squadron集群。不同规模部署方案统一采用风冷、行业标准架构,方便客户随推理业务增长平滑扩容算力。
Squadron除了承载高效AI推理负载,还支持跨硬件的计算任务拆分调度。该集群既能够依靠Corsair XPU独立运行完整大模型,也可采用GPU与XPU协同的异构计算架构,把不同类型计算任务分配至适配硬件执行,属于解耦计算路线的典型落地案例。
在该异构架构下,GPU负责注意力层、嵌入层、键值缓存(KV Cache)以及专家路由等任务;Corsair加速卡承接专家网络的计算负载。这种任务分工旨在充分释放两类硬件各自的架构优势,降低GPU运行专家计算任务时对外部显存带宽的消耗,借助Corsair大容量高速片上SRAM提升推理执行效率。
根据d-Matrix公开测试数据,这套异构架构单用户生成速度可达每秒845 token;64用户并发场景下,系统整体吞吐量约每秒20400 token。两个指标分别表征不同维度的推理性能,不可简单使用单用户生成速率乘以并发用户数量估算集群总吞吐量。
d-Matrix表示,尽管注意力与前馈网络解耦(AFD)此前在行业内被视作极具潜力的解耦计算思路,但本次Squadron与GPU服务器联合演示,首次在市售可用芯片硬件上验证了该方案的实际可运行性。这一成果也证明,AI推理基础设施不必完全依赖单一类型加速器;通过合理拆分计算任务、组合异构硬件,有机会持续优化推理延迟、吞吐能力与能效水平。
小编将在第一时间分享更多相关最新动态和爆料,敬请关注。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.