微软押注Maia 300，40%能效提升为何被质疑？

微软把未来几年的推理算力，押在了自研芯片上。公司宣布，从2027年起将把Azure Maia系列扩展到多吉瓦级部署，让Maia成为"微软产品和服务的首要推理系统"。这个承诺背后的架构描述得异常具体，唯独领衔的那句能效声明，被一线从业者当场挑刺。

Maia 200已经在产，服务微软Copilot和MAI团队，GitHub Copilot和Microsoft Foundry将在年底前跟进。它部署在美国、欧洲和澳大利亚，微软称其在Teams和Copilot的内置AI上，每瓦token数比领先的GPU基础设施高出最多1.7倍。Maia 300则从2027年开始量产部署。

Maia 300是推理优先的设计，瞄准长上下文、内存密集和解码繁重的工作，两篇公告都没提训练。每颗加速器搭载八个HBM4堆栈，提供288 GB容量和18 TB/s带宽，TDP为950瓦。一个机架装96颗加速器，24个四加速器托盘，功耗167 kW，合计27.6 TB HBM和1.7 PB/s聚合带宽。计算芯粒基于台积电N2P工艺，内存控制器和I/O功能放在独立裸片上，微软称这让计算FLOPs提升36%，并贡献了Maia 200的2.5倍内存带宽和约两倍的每瓦HBM带宽。内存组织从统一访问改为跨芯粒的NUMA布局，让软件能把数据放在使用它的计算单元附近。

网络设计是最有主见的部分。Maia的AI网络控制器实现了基于以太网的自定义AI传输，微软把结果描述为"一张网络，而非分离的scale-up和scale-out域"。加速器可以直接向超节点内任意对端发起通信，"无需经过主机或独立的scale-out网卡"。托盘内两颗加速器直连，交换网络连接机架内全部96颗，光交换第二层把最多128个机架连成12,288颗加速器的超节点。公告列出三个延迟层级：直连对、pod内一跳、跨pod三跳，并期望软件把张量并行流量保持在最低层。机架内和跨机架带宽的分配"不在系统设计时固定"，而由作业打包决定，因此加速器在只有部分流量跨机架时，仍能向任意对端跑到750 GB/s。

这张网络承载一种特定的推理模式。预填充和解码工作节点独立定尺寸、独立放置，预填充完成后，KV状态"直接通过同一张scale-up网络移动到选定的解码工作节点，而不是经由独立的主机中介scale-out路径离开该域"。同一张网络还能让一个机架里的备用托盘顶替另一个机架里故障的托盘，对软件内核透明。

微软的标题数字是：预计Maia 300"相比领先的GPU系统，每兆瓦token数高出40%"，同时机架级token吞吐最高达七倍，每瓦性能是Maia 200的2.5倍以上。

正是这个数字引来了反应，而反对意见针对的是单位，不是数值。Rick Bullotta在Satya Nadella公告帖下写了互动最高的评论："每瓦token，多么荒谬的指标。好像token有一个统一一致的定义，或者与算力有通用关联似的。并没有。而且这种指标本质上会奖励啰嗦。"评论者Michel Floyd用一句话给出了量纲版本："难道不该是每秒每瓦token，或者每千瓦时token吗？"UBIQS创始人、正在做竞品推理加速器的Vinay Bansal则质疑这个数字是在什么负载上测的："40%的每瓦token提升，但在什么上下文长度下？你点名的负载，持续多步智能体，带着长上下文，而每个智能体的工作记忆随每一步增长。到那时约束瓶颈是内存，不是算力，而这次发布领衔的规格正是内存规格。"

如果这些反应有代表性，那么架构比声明更容易评估。微软始终没有点名它对比的是哪些GPU系统，它自己的说法是Maia 300最大化"每瓦有用token和每美元有用token"，却没有定义什么让一个token有用。两篇公告的信心程度也不一致：Scott Guthrie和工程博客说微软"预计"这40%的提升，而Nadella的帖子直接说它"实现"了。

第二个问题是谁能用上。两篇帖子点名的每一个负载都是微软自己的，包括Copilot、GitHub Copilot、Foundry、MAI团队和Dragon Copilot，两篇都没说客户能直接开通Maia容量。Pexon Consulting首席执行官Phillip Pham用德语发问：这些收益会不会转化为更便宜的预留吞吐，还是硬件只留给微软自家服务，因为在承诺容量下，决定生产环境收益的是每个有保障token的价格。

除Rani Borkar和Saurabh Dighe的工程博客外，微软没有发布技术论文，公告链接指向的就是那篇。微软表示将在下个月于旧金山举行的Microsoft Ignite 2026上分享更多内容。