网易首页 > 网易号 > 正文 申请入驻

从Muse到普罗米修斯:Meta的AI工厂,正在变成一张算力网

0
分享至

Meta最近发布Muse Wonder与Muse Wonder Full,标志着它重返前沿AI之列,并为个人智能体战略提供技术支撑。

Meta介绍,两款模型都在超级算力集群普罗米修斯(Prometheus)上完成训练。理解它们的能力,不能只看算法,还要看背后那套支撑预训练和强化学习的生产系统。

Meta进一步公开了普罗米修斯的建设进展和重要细节,与它此前介绍的BAG网络、MAST调度系统放在一起,一种总体构想逐渐清晰:AI工厂正在突破单一建筑和园区的边界,成为由高性能互联、全球调度和分布式训练共同组织起来的计算网络。 从这个意义上说,Meta正在建设一张“企业级算力网”,并且把下一代大模型的竞争门槛,向百万卡级基础设施提升。


(来源:Meta Engineering)

普罗米修斯,向百万卡扩展

位于俄亥俄州新奥尔巴尼的普罗米修斯,正在从服务互联网流量的数据中心,改造为吉瓦级AI超级集群。Meta披露,一期已经完成,目前数十万GPU分布于多座互联建筑,继续向约100万GPU扩展。

规模越大,芯片充分发挥作用难度越大。GPU之间要交换数据,故障后要恢复训练,供电与冷却也必须跟上。为加快建设,Meta结合既有建筑、快速部署结构和邻近托管设施,并同步改进软件,以支持跨地点训练。这不是等待一座完美的新园区全部建成,而是把不同地点、不同交付阶段的资源组织起来。

系统的稳定性和可靠性, 决定了Muse Wonder的有效训练效率(goodput),预训练吞吐量提升至 85% 以上,强化学习 (RL) 吞吐量提升至 90% 以上。训练过程还实现了约 4.7 万 GPU 小时的平均中断间隔时间 (MTBI)。此后,整个系统进一步改进,包括固件修复,MTBI 提升至 5.4 万 GPU 小时以上,这一指标还还在优化之中。通过与英伟达联合解决NVLink、HBM、网络及固件故障,训练中断事件较最严重时期下降约99%。

Meta透露,在一个需要32768张GPU实际工作的训练任务中,为实现容错,必须配置37656张GPU,即额外冗余接近4900张。这比实际参与训练的GPU数量多出的近15%,要从整个系统所获得稳定性的提升弥补。

AI工厂的边界由此不再完全由所在的厂区决定,而越来越由一个问题决定:分散的设备能否高效地共同推进计算任务?普罗米修斯提供物理载体,网络和软件则决定这些资产能否合成生产能力。

BAG:跨建筑跨区域互联

承担跨建筑、跨区域互联的关键技术是BAG(Backend Aggregation),即后端网络聚合层。它是基于以太网的“超级脊骨层”,向下连接不同建筑的GPU网络,横向连接其他聚合节点。普通网络让机器彼此可达,BAG则要让大量GPU高效交换训练数据。Meta披露,区域对之间的互联容量可达16-48Pbps;不过,它并不是一个所有方向都拥有等量带宽的无阻塞网络,而是按训练需求分层配置带宽。在普罗米修斯中,这种互联跨越约2公里至100多公里。

网络可以扩大带宽,却不能取消光传播的时间。Meta采取的方法,是让训练方式适应网络:需要频繁交换数据的紧耦合计算尽量留在同一建筑或近距离区域;不同的数据并行副本则可以部署在不同数据中心。各副本处理不同批次的样本,再交换梯度,共同改进模型。这仍然可以是同一个训练任务,但不要求每次细粒度计算都跨越百公里同步。

故障处理也要遵循这种分组。Meta的FT-HSDP研究以数据并行副本为恢复单位,一个副本出故障时让它退出、恢复,其他副本继续训练。据Meta公布的研究报告,在约十万GPU规模下,有效训练时间占比由44%提高到80%。扩大集群的关键,不只是增加设备,也包括减少整个系统的等待和停顿。


(来源:Meta Engineering)

MAST:决定任务和数据的去向

BAG解决怎样连起来一起算,却不负责决定具体任务去哪里算。后一个问题,属于MAST——Meta的全球机器学习训练调度系统。

Meta在2024年的论文中描述,过去用户先选数据中心区域,再上传数据、申请当地GPU。选择一旦固化,就可能出现一个区域排长队,另一个区域却有空闲资源。MAST改变了这个流程:研究者提交任务,系统综合资源与需求,安排训练任务及所需数据的落点。

数据搬迁比任务分配慢,因此MAST还把调度分为不同时间尺度:较慢的后台过程持续优化数据放置与资源安排,较快的过程处理任务启动。它不是每来一个任务,就临时把海量数据搬过半个大陆。

其效果被证明是显著的。论文披露,优化前,最拥挤区域高优先级任务的GPU需求与供给之比为2.63;优化后降至0.98。这不是GPU性能提高了2.7倍,而是原本错配的需求与设备被重新组织起来。

两者因此互补,MAST在更大范围内匹配任务、数据与资源,BAG让选定的计算资源能够紧密协作。 全球任务调度与跨数据中心联合训练,不是二选一,也不意味着所有地点都必须参加同一个同步作业。

跨芯片系统、跨供电系统协同

把这些能力放在一起,Meta的总体方向可以概括为,把分布于不同地点的计算设施,组织成一个可分配、可协作、可恢复的生产体系。BAG只是其中的网络层,不是整张算力网。

这里也不能忽略异构。普罗米修斯目前披露的主要是NVIDIA GB200、GB300平台,也正在部署Vera Rubin;但Meta整体还使用AMD GPU与自研MTIA加速器。其KernelEvolve系统会为不同硬件生成、验证和优化计算内核,以降低模型适配成本。拥有多种芯片、模型能高效迁移,与不同架构在同一个任务中高效混训,是不同层次的异构能力,不能互相替代。

电力同样在进入计算控制。Meta今年一篇关于150MW、约8.3万颗GB200集群的研究,介绍了动态功率管理系统Dimmer:接近供电设备容量上限时,结合任务信息调整GPU功率,避免局部限功率拖慢整个重要作业。研究还提出,下一步应把供电拓扑与网络拓扑共同纳入任务布局。

由此看来,Meta建设的不是一条只会扩容的硬件流水线,而是一套持续动态调整的生产组织,有些任务应该集中,有些可以分散;有些数据应提前复制,有些应就地处理;有些局部性能可以适度让步,以换取整体运行效率。

企业级与国家级算力网

Meta这条路径,与中国全国一体化算力网确有共同逻辑,都不满足于建设更多机房,而要把分散资源变成可调度、可使用的计算能力。国家数据局特别解释,算力调度并非像输电那样“输送算力”,而是通过网络,把数据与计算任务安排到算力中心。这个定义与MAST处理的问题相当接近。

真正的差异,是中国政策所说的“异属、异构、异地”同时存在。国家算力网需要跨越资源所有权、硬件架构和地理位置,还要统筹通用计算、智能计算与超级计算,建立计量计费、交易结算、安全和绿电协同机制。

Meta可以在企业内部协调采购、软件、模型需求与资源分配;国家级体系面对的则是许多拥有独立利益和技术选择的参与者。一家企业能以内部规则解决的问题,跨企业后往往需要公共标准、契约和市场机制。统一调度也不应理解为一个中央调度器接管全国每颗芯片,更合理的方向是分层管理、跨域协作。

因此,在对比企业级算力网与国家级算力网时,不宜把二者简单分成前者做同步训练,后者做任务交易。工信部的算力互联互通政策也包括高性能互联及异构智算集群混训,只是这些是需要逐项实现的目标,不代表所有资源已经可以无差别组合。反过来,Meta也早已在做跨区域资源匹配,而不只建设紧耦合超级集群。

两者共同的,是这种分层思想:近距离资源承担高频通信的大任务,远距离资源更多通过任务和数据调度共享;异构平台先做到可用和高效迁移,再判断混训是否划算;电力条件进入部署与运行决策,而不是最后才补上的限制。算力网的目标,不是让所有芯片任何时候都一起工作,而是让合适的资源以合适的方式协作。

从Muse Wonder回望普罗米修斯,AI竞争的单位正在变化:不只是一个模型、一颗芯片或一座数据中心,而是一套能够持续产出有效智能的系统。企业级算力网首先回答“怎样把自己的资源用好”;国家级算力网还要回答“怎样让不同主体的资源彼此好用”。 两者共同的衡量尺度,不应只是接入多少GPU、建成多少兆瓦,而是这些资源最终完成了多少有价值的计算。

主要参考:

https://engineering.fb.com/2026/10/19/data-center-engineering/inside-prometheus-meta-gigawatt-scale-supercluster/?utm_source=chatgpt.com

https://engineering.fb.com/2026/02/09/data-center-engineering/building-prometheus-how-backend-aggregation-enables-gigawatt-scale-ai-clusters/

https://www.usenix.org/system/files/osdi24-choudhury.pdf

https://www.ndrc.gov.cn/xxgk/zcfb/tz/202312/t20231229_1363000.html

https://www.nda.gov.cn/sjj/jgsz/jld/llh/llhldhd/0323/20260323202204680553721_pc.html

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
王兴兴穿旧白鞋参加APEC,网友;这鞋没换过,还好没穿牛仔裤!

王兴兴穿旧白鞋参加APEC,网友;这鞋没换过,还好没穿牛仔裤!

玖宇维
2026-11-18 20:38:19
中日韩身高比较:日本男性168.2cm,韩国172.5cm,中国令人吃惊!

中日韩身高比较:日本男性168.2cm,韩国172.5cm,中国令人吃惊!

史之铭
2026-11-19 01:47:45
黄仁勋想回英伟达被打脸,与黄乐早期私密视频曝光

黄仁勋想回英伟达被打脸,与黄乐早期私密视频曝光

壹月情感
2026-11-18 13:49:29
马斯克爆料:黄仁勋再不回来,英伟达就完了!他是美国AI的最重要一环

马斯克爆料:黄仁勋再不回来,英伟达就完了!他是美国AI的最重要一环

留学生日报
2026-11-17 21:09:04
和合共生|APEC观察:亚太自贸区愿景如何落实为共同行动

和合共生|APEC观察:亚太自贸区愿景如何落实为共同行动

上观新闻
2026-11-17 20:25:35
活久见!人类历史上,电脑内存首次“开倒车”了

活久见!人类历史上,电脑内存首次“开倒车”了

互联网.乱侃秀
2026-11-08 14:23:53
风水师:旧物不可乱丢,旧衣不送人,3个处理方法,守住你的财气

风水师:旧物不可乱丢,旧衣不送人,3个处理方法,守住你的财气

古怪奇谈录
2025-09-11 14:21:18
为什么喝新酒也要被营销日历牵着走?

为什么喝新酒也要被营销日历牵着走?

小眼睛小世界
2026-11-18 04:20:13
失算了!订婚收了 28.8 万彩礼,女生转头全款买了一套属于自己的小公寓,男方得知后坚持退婚

失算了!订婚收了 28.8 万彩礼,女生转头全款买了一套属于自己的小公寓,男方得知后坚持退婚

扶苏聊历史
2026-10-24 13:40:19
摩纳哥愿放19球前锋,曼联追他遇良机

摩纳哥愿放19球前锋,曼联追他遇良机

赛场名场面
2026-11-18 00:18:31
尴尬了!济南52岁女子以为停经就是绝经,取消避孕,后续检查确诊葡萄胎

尴尬了!济南52岁女子以为停经就是绝经,取消避孕,后续检查确诊葡萄胎

火山詩话
2026-11-18 14:55:43
“我不反华了”润去美国的前律师周君红,发文希望回国,但不能坐牢

“我不反华了”润去美国的前律师周君红,发文希望回国,但不能坐牢

消失的电波
2026-11-17 19:36:00
33岁章泽天在香港庆生,穿9600元短袖和富婆合影,不见老公刘强东

33岁章泽天在香港庆生,穿9600元短袖和富婆合影,不见老公刘强东

动物奇奇怪怪
2026-11-18 14:35:28
震惊!济南41岁医学硕士、医院科室原主任醉驾获刑,被予以开除处分,有人感慨“不至于一棒子打死”

震惊!济南41岁医学硕士、医院科室原主任醉驾获刑,被予以开除处分,有人感慨“不至于一棒子打死”

火山詩话
2026-11-18 07:25:09
王鸿薇堂妹拒投蒋万安,王鸿薇紧急回应,蓝营叛将有新操作?

王鸿薇堂妹拒投蒋万安,王鸿薇紧急回应,蓝营叛将有新操作?

天气观察站
2026-11-18 08:06:24
CBA俱乐部杯赛:广东不敌山东,辽宁险胜宁波,北京轻取江苏!

CBA俱乐部杯赛:广东不敌山东,辽宁险胜宁波,北京轻取江苏!

中国篮坛快讯
2026-11-19 00:04:17
中央动真格了!2027年底前,全国所有住房都将迎来专属"身份证"?

中央动真格了!2027年底前,全国所有住房都将迎来专属"身份证"?

影孖看世界
2026-11-18 23:57:43
“一堆人去吃预制菜,也配叫研学吗?”一张700人合照,气到了家长

“一堆人去吃预制菜,也配叫研学吗?”一张700人合照,气到了家长

熙熙说教
2026-11-18 11:51:39
CBA速递!山东男篮本赛季三杀广东男篮,广东男篮官宣新援加盟,徐杰重新回归核心地位

CBA速递!山东男篮本赛季三杀广东男篮,广东男篮官宣新援加盟,徐杰重新回归核心地位

凯丰侃球
2026-11-19 03:05:28
黄仁勋身家八千亿满世界跑,亲哥却在台北穿拖鞋买香蕉,黄仁德不进英伟达,不是弟弟不帮,是这笔账早就算明白了

黄仁勋身家八千亿满世界跑,亲哥却在台北穿拖鞋买香蕉,黄仁德不进英伟达,不是弟弟不帮,是这笔账早就算明白了

秋风妃
2026-11-15 21:39:48
2026-11-19 03:16:49
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
576文章数 68关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
健康
艺术
游戏
数码

本地新闻

乌兰察布:以前种土豆,现在种Token

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

洛阳发现唐代墓志,将魏碑、唐楷精髓融于一体,比欧颜柳赵的字更耐看!

《GTA6》不设任务重玩菜单,提供15个存档槽

数码要闻

微星RTX Spark迷你主机EdgeMesa N AI+上市,售价33999元起

无障碍浏览 进入关怀版