![]()
2026年10月12日,微软正式发布第三代自研AI加速器Azure Maia 300,并计划从2027年起将Azure Maia基础设施扩展至多吉瓦级部署规模。微软表示,Maia 300将成为其产品和服务的重要AI推理平台。
微软称,在完整的96颗加速器机架配置下,Maia 300的机架级Token吞吐量最高可达Maia 200的7倍;与领先的GPU系统相比,其每兆瓦可处理的Token数量预计提高40%。这些数据属于微软公布的性能指标,实际表现仍取决于模型、精度及系统配置等因素。
一、主要性能与技术改进
Maia 300不仅注重提升峰值算力,也着力优化单位能耗下的有效推理吞吐量。在机架级系统中,其每瓦性能最高可达Maia 200的约2.5倍。
![]()
内存子系统是此次升级的重点。Maia 300配备8组HBM4高带宽内存,总容量达到288GB,峰值内存带宽为18TB/s。与Maia 200相比,其内存容量提升约33%,内存带宽达到原来的2.5倍,每瓦HBM带宽约为原来的2倍。在计算与互连方面,Maia 300的计算FLOPs较前代提升36%,扩展互连带宽提升14%,单颗加速器的热设计功耗(TDP)为950W。
在推理优化方面,Maia 300支持增强版MXFP4低精度计算格式,以及低于3比特的模型权重存储表示格式,有助于降低模型存储需求和数据搬运开销。此外,其采用局部性感知的非统一内存访问(NUMA)架构,使软件能够根据计算任务的需求,将数据放置在更接近相应计算资源的位置,以减少数据访问开销并改善系统效率。
二、多芯粒设计:兼顾性能与成本
![]()
Maia 300采用多芯粒(Chiplet)架构,将计算、内存控制器及I/O等功能拆分至不同芯粒。其中,主要计算芯粒采用台积电N2P先进制程,其他功能模块则可根据带宽、连接能力和制造成本等需求分别优化。
这种设计使微软能够针对不同模块采用更合适的制造工艺与电路设计,在计算性能、内存访问、数据传输和制造成本之间取得平衡。结合HBM4内存、低精度计算及互连架构的升级,Maia 300试图从多个环节协同提升AI推理效率,而非单纯依靠增加算力实现性能增长。
三、机架与集群:扩展至万卡级系统
单个Maia 300机架可容纳96颗AI加速器,整机架功耗设计约为167kW,加速器部署密度是Maia 200的两倍。按照单颗加速器288GB的HBM容量计算,每个机架可提供约27.6TB的HBM内存,聚合内存带宽约为1.7PB/s。
![]()
在互连方面,微软采用基于以太网的定制AI传输网络,支持多个机架之间的高速通信。一个Maia 300超级集群最多可连接128个机架,合计12,288颗加速器。这种集群架构旨在支持大规模推理任务跨机架协同运行,并提高并行计算过程中的数据交换效率与资源利用率。
四、液冷与风冷结合,优化散热
针对高密度AI计算产生的散热压力,微软为Maia 300设计了液冷与风冷相结合的冷却系统。液冷系统可移除机架超过80%的热负载,风冷则承担其余部分的散热需求。通过液冷与风冷协同工作,微软希望在高功耗、高密度的部署环境下控制热负载,为大规模AI基础设施建设提供散热支持。
五、2027年启动部署,服务微软AI生态
微软计划于2027年启动Maia 300的生产部署,并逐步扩大Azure Maia基础设施规模,向多吉瓦级部署迈进。在应用层面,Maia 300将面向微软产品和服务的大规模AI推理需求,涉及Microsoft Copilot、GitHub Copilot、Microsoft Foundry及微软自研MAI模型等业务。
![]()
微软此前已表示,Maia 200正在承载包括Copilot在内的生产工作负载,并支持OpenAI模型、微软自研MAI模型及主流开源模型。Maia 300将进一步扩展微软自研AI基础设施体系,但各项产品与模型的具体部署进度,仍需以微软后续公布的信息为准。
总结展望
总的来看,Maia 300的发布标志着微软在自研AI芯片领域迈出了更具规模的一步。通过HBM4内存、多芯粒设计与低精度计算等协同优化,它在提升推理吞吐的同时兼顾能效与成本。随着2027年多吉瓦级部署推进,微软有望进一步强化自身AI基础设施的自主性,但其实际表现与生态落地效果,仍需市场与时间的检验。
小编将在第一时间分享更多相关最新动态和爆料,敬请关注。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.