北京
微软计划从 2027 年开始部署其自研 Maia 芯片，规模达数吉瓦。
微软计划摆脱对英伟达的依赖，于 2027 年部署其下一代 Maia 300 AI 加速器，目标是每兆瓦 token 数比领先的基于 GPU 的系统高出 40%。该芯片将为微软不断扩展的 AI 基础设施提供动力，其 96 个加速器的机架配置旨在实现高达前代 7 倍的 token 吞吐量。
这一发布标志着微软在构建用于大规模 AI 推理的定制芯片方面又迈出一步。其 Maia 200 加速器已经承担生产工作负载，包括 Microsoft Copilot。微软预计 GitHub Copilot 和 Microsoft Foundry 将在 2026 年底前采用该硬件。
Maia 300 采用系统级方法来提升推理效率。其架构面向内存密集型工作负载、长上下文推理，以及跨多步骤执行复杂任务的 AI 智能体。
内存带宽驱动设计
Maia 300 将八个 HBM4 内存堆栈与每秒 18 TB 的峰值带宽搭配。系统在 950 瓦热设计功耗范围内运行，以满足大型 AI 模型日益增长的内存需求。
微软还采用了多芯粒设计，将计算、内存控制器和输入/输出功能分离。计算芯粒采用台积电的 N2P 制造工艺，旨在提升每瓦性能。
该加速器还支持增强的 MXFP4 低精度计算。这种方法降低了模型计算和键值缓存存储的内存需求。这些节省可帮助系统在相同功耗预算内支持更长的上下文窗口并服务更多请求。
软件在该设计中发挥重要作用。微软的软件定义数据流架构旨在让数据靠近计算资源，减少不必要的传输。AI 辅助的内核优化也有助于提高不同工作负载下的硬件利用率。
网络连接 96 个加速器
Maia 300 将其架构从单个芯片扩展到整个机架。每种配置在 167 千瓦功耗范围内组合 96 个加速器。
微软列出该机架高速纵向扩展域内总计 27.6 TB 的 HBM 容量和每秒 1.7 PB 的聚合内存带宽。这一组合面向更大的推理工作负载，以及单次部署内更多同时进行的 AI 交互。
定制网络通过针对张量并行优化的高带宽链路连接加速器。一个面向 AI 的传输层使用基于以太网的基础设施，支持跨加速器和跨机架的通信。该设计旨在扩展工作负载，而不把网络视为单独的瓶颈。
微软表示，Maia 300 每兆瓦应能提供比领先的基于 GPU 的系统多 40% 的 token。其预计的机架级吞吐量也比 Maia 200 大幅提升，不过该公司尚未详细说明这些比较所依据的独立基准测试。
Maia 200 扩大生产
微软已在美国、欧洲和澳大利亚部署 Maia 200。该公司报告称，与领先的 GPU 基础设施相比，Teams、Copilot 和 Cowork 体验中的内置 AI 功能每瓦 token 数最高可达到后者的 1.7 倍。
现有加速器运行 OpenAI 模型、微软的 MAI 模型以及开源模型系列。微软利用这些服务的性能数据来指导硬件开发并优化真实工作负载。
Maia 300 将支持微软的模型开发工作、云端推理和基于智能体的编码工具。微软还预计该硬件将帮助扩展其临床 AI 助手 Dragon Copilot。
生产部署将于 2027 年开始。微软的长期计划要求从当年开始进行数吉瓦级的 Maia 部署，将定制芯片定位为其不断扩展的 AI 计算能力的重要组成部分。
如果朋友们喜欢，敬请关注“知新了了”！
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
