网易首页 > 网易号 > 正文 申请入驻

从Muse到普罗米修斯:Meta的AI工厂,正在变成一张算力网

0
分享至

Meta最近发布Muse Wonder与Muse Wonder Full,标志着它重返前沿AI之列,并为个人智能体战略提供技术支撑。

Meta介绍,两款模型都在超级算力集群普罗米修斯(Prometheus)上完成训练。理解它们的能力,不能只看算法,还要看背后那套支撑预训练和强化学习的生产系统。

Meta进一步公开了普罗米修斯的建设进展和重要细节,与它此前介绍的BAG网络、MAST调度系统放在一起,一种总体构想逐渐清晰:AI工厂正在突破单一建筑和园区的边界,成为由高性能互联、全球调度和分布式训练共同组织起来的计算网络。 从这个意义上说,Meta正在建设一张“企业级算力网”,并且把下一代大模型的竞争门槛,向百万卡级基础设施提升。


(来源:Meta Engineering)

普罗米修斯,向百万卡扩展

位于俄亥俄州新奥尔巴尼的普罗米修斯,正在从服务互联网流量的数据中心,改造为吉瓦级AI超级集群。Meta披露,一期已经完成,目前数十万GPU分布于多座互联建筑,继续向约100万GPU扩展。

规模越大,芯片充分发挥作用难度越大。GPU之间要交换数据,故障后要恢复训练,供电与冷却也必须跟上。为加快建设,Meta结合既有建筑、快速部署结构和邻近托管设施,并同步改进软件,以支持跨地点训练。这不是等待一座完美的新园区全部建成,而是把不同地点、不同交付阶段的资源组织起来。

系统的稳定性和可靠性, 决定了Muse Wonder的有效训练效率(goodput),预训练吞吐量提升至 85% 以上,强化学习 (RL) 吞吐量提升至 90% 以上。训练过程还实现了约 4.7 万 GPU 小时的平均中断间隔时间 (MTBI)。此后,整个系统进一步改进,包括固件修复,MTBI 提升至 5.4 万 GPU 小时以上,这一指标还还在优化之中。通过与英伟达联合解决NVLink、HBM、网络及固件故障,训练中断事件较最严重时期下降约99%。

Meta透露,在一个需要32768张GPU实际工作的训练任务中,为实现容错,必须配置37656张GPU,即额外冗余接近4900张。这比实际参与训练的GPU数量多出的近15%,要从整个系统所获得稳定性的提升弥补。

AI工厂的边界由此不再完全由所在的厂区决定,而越来越由一个问题决定:分散的设备能否高效地共同推进计算任务?普罗米修斯提供物理载体,网络和软件则决定这些资产能否合成生产能力。

BAG:跨建筑跨区域互联

承担跨建筑、跨区域互联的关键技术是BAG(Backend Aggregation),即后端网络聚合层。它是基于以太网的“超级脊骨层”,向下连接不同建筑的GPU网络,横向连接其他聚合节点。普通网络让机器彼此可达,BAG则要让大量GPU高效交换训练数据。Meta披露,区域对之间的互联容量可达16-48Pbps;不过,它并不是一个所有方向都拥有等量带宽的无阻塞网络,而是按训练需求分层配置带宽。在普罗米修斯中,这种互联跨越约2公里至100多公里。

网络可以扩大带宽,却不能取消光传播的时间。Meta采取的方法,是让训练方式适应网络:需要频繁交换数据的紧耦合计算尽量留在同一建筑或近距离区域;不同的数据并行副本则可以部署在不同数据中心。各副本处理不同批次的样本,再交换梯度,共同改进模型。这仍然可以是同一个训练任务,但不要求每次细粒度计算都跨越百公里同步。

故障处理也要遵循这种分组。Meta的FT-HSDP研究以数据并行副本为恢复单位,一个副本出故障时让它退出、恢复,其他副本继续训练。据Meta公布的研究报告,在约十万GPU规模下,有效训练时间占比由44%提高到80%。扩大集群的关键,不只是增加设备,也包括减少整个系统的等待和停顿。


(来源:Meta Engineering)

MAST:决定任务和数据的去向

BAG解决怎样连起来一起算,却不负责决定具体任务去哪里算。后一个问题,属于MAST——Meta的全球机器学习训练调度系统。

Meta在2024年的论文中描述,过去用户先选数据中心区域,再上传数据、申请当地GPU。选择一旦固化,就可能出现一个区域排长队,另一个区域却有空闲资源。MAST改变了这个流程:研究者提交任务,系统综合资源与需求,安排训练任务及所需数据的落点。

数据搬迁比任务分配慢,因此MAST还把调度分为不同时间尺度:较慢的后台过程持续优化数据放置与资源安排,较快的过程处理任务启动。它不是每来一个任务,就临时把海量数据搬过半个大陆。

其效果被证明是显著的。论文披露,优化前,最拥挤区域高优先级任务的GPU需求与供给之比为2.63;优化后降至0.98。这不是GPU性能提高了2.7倍,而是原本错配的需求与设备被重新组织起来。

两者因此互补,MAST在更大范围内匹配任务、数据与资源,BAG让选定的计算资源能够紧密协作。 全球任务调度与跨数据中心联合训练,不是二选一,也不意味着所有地点都必须参加同一个同步作业。

跨芯片系统、跨供电系统协同

把这些能力放在一起,Meta的总体方向可以概括为,把分布于不同地点的计算设施,组织成一个可分配、可协作、可恢复的生产体系。BAG只是其中的网络层,不是整张算力网。

这里也不能忽略异构。普罗米修斯目前披露的主要是NVIDIA GB200、GB300平台,也正在部署Vera Rubin;但Meta整体还使用AMD GPU与自研MTIA加速器。其KernelEvolve系统会为不同硬件生成、验证和优化计算内核,以降低模型适配成本。拥有多种芯片、模型能高效迁移,与不同架构在同一个任务中高效混训,是不同层次的异构能力,不能互相替代。

电力同样在进入计算控制。Meta今年一篇关于150MW、约8.3万颗GB200集群的研究,介绍了动态功率管理系统Dimmer:接近供电设备容量上限时,结合任务信息调整GPU功率,避免局部限功率拖慢整个重要作业。研究还提出,下一步应把供电拓扑与网络拓扑共同纳入任务布局。

由此看来,Meta建设的不是一条只会扩容的硬件流水线,而是一套持续动态调整的生产组织,有些任务应该集中,有些可以分散;有些数据应提前复制,有些应就地处理;有些局部性能可以适度让步,以换取整体运行效率。

企业级与国家级算力网

Meta这条路径,与中国全国一体化算力网确有共同逻辑,都不满足于建设更多机房,而要把分散资源变成可调度、可使用的计算能力。国家数据局特别解释,算力调度并非像输电那样“输送算力”,而是通过网络,把数据与计算任务安排到算力中心。这个定义与MAST处理的问题相当接近。

真正的差异,是中国政策所说的“异属、异构、异地”同时存在。国家算力网需要跨越资源所有权、硬件架构和地理位置,还要统筹通用计算、智能计算与超级计算,建立计量计费、交易结算、安全和绿电协同机制。

Meta可以在企业内部协调采购、软件、模型需求与资源分配;国家级体系面对的则是许多拥有独立利益和技术选择的参与者。一家企业能以内部规则解决的问题,跨企业后往往需要公共标准、契约和市场机制。统一调度也不应理解为一个中央调度器接管全国每颗芯片,更合理的方向是分层管理、跨域协作。

因此,在对比企业级算力网与国家级算力网时,不宜把二者简单分成前者做同步训练,后者做任务交易。工信部的算力互联互通政策也包括高性能互联及异构智算集群混训,只是这些是需要逐项实现的目标,不代表所有资源已经可以无差别组合。反过来,Meta也早已在做跨区域资源匹配,而不只建设紧耦合超级集群。

两者共同的,是这种分层思想:近距离资源承担高频通信的大任务,远距离资源更多通过任务和数据调度共享;异构平台先做到可用和高效迁移,再判断混训是否划算;电力条件进入部署与运行决策,而不是最后才补上的限制。算力网的目标,不是让所有芯片任何时候都一起工作,而是让合适的资源以合适的方式协作。

从Muse Wonder回望普罗米修斯,AI竞争的单位正在变化:不只是一个模型、一颗芯片或一座数据中心,而是一套能够持续产出有效智能的系统。企业级算力网首先回答“怎样把自己的资源用好”;国家级算力网还要回答“怎样让不同主体的资源彼此好用”。 两者共同的衡量尺度,不应只是接入多少GPU、建成多少兆瓦,而是这些资源最终完成了多少有价值的计算。

主要参考:

https://engineering.fb.com/2026/10/19/data-center-engineering/inside-prometheus-meta-gigawatt-scale-supercluster/?utm_source=chatgpt.com

https://engineering.fb.com/2026/02/09/data-center-engineering/building-prometheus-how-backend-aggregation-enables-gigawatt-scale-ai-clusters/

https://www.usenix.org/system/files/osdi24-choudhury.pdf

https://www.ndrc.gov.cn/xxgk/zcfb/tz/202312/t20231229_1363000.html

https://www.nda.gov.cn/sjj/jgsz/jld/llh/llhldhd/0323/20260323202204680553721_pc.html

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
耐人寻味!黄仁勋前脚卸任英伟达,刘强东后脚砸99亿买下欧洲1000家店,雷军同一天官宣巴黎,三件事同一天,真有那么巧吗

耐人寻味!黄仁勋前脚卸任英伟达,刘强东后脚砸99亿买下欧洲1000家店,雷军同一天官宣巴黎,三件事同一天,真有那么巧吗

老猫观点
2026-11-18 08:52:59
习惯侧睡的男人,无论朝左还是朝右,大多藏着这6个特质

习惯侧睡的男人,无论朝左还是朝右,大多藏着这6个特质

风起见你
2026-10-17 06:09:48
为什么都在宣传用了新能源车就回不去了?看网友评论:引万千共鸣

为什么都在宣传用了新能源车就回不去了?看网友评论:引万千共鸣

另子维爱读史
2026-08-04 21:35:07
中俄美三国会晤,欧洲破防了:俄罗斯没资格上桌,我们才该有一席之地

中俄美三国会晤,欧洲破防了:俄罗斯没资格上桌,我们才该有一席之地

吃瓜小侦探
2026-11-18 09:29:05
现代韦小宝?贵州男子4女伴4娃,正妻是商K公主,正脸、家境曝光

现代韦小宝?贵州男子4女伴4娃,正妻是商K公主,正脸、家境曝光

谢鵑解说
2026-10-14 11:39:22
国家统计局:10月全国城镇不包含在校生16-24岁劳动力失业率为17.2%,连续两个月下降

国家统计局:10月全国城镇不包含在校生16-24岁劳动力失业率为17.2%,连续两个月下降

澎湃新闻
2026-11-18 16:09:03
江苏原常委赵少麟:开国上将之子,退休8年因其子赵晋而入狱

江苏原常委赵少麟:开国上将之子,退休8年因其子赵晋而入狱

文史旺旺旺
2024-11-25 21:04:27
印度知名网红发文,直言中国电动飞机都起飞了,印度还在研究牛粪

印度知名网红发文,直言中国电动飞机都起飞了,印度还在研究牛粪

新游戏大妹子
2026-11-18 12:43:03
大家有没有发现?油车加200元油,大致能跑400公里,新能源电车花200元电费,可能能跑2000公里。用车成本差这么大,为什么仍有人买油车?

大家有没有发现?油车加200元油,大致能跑400公里,新能源电车花200元电费,可能能跑2000公里。用车成本差这么大,为什么仍有人买油车?

扶苏聊历史
2026-09-22 16:09:20
狗子被爆米花机崩飞,事故全程被多机位记录…摊主事后用排骨安抚,评论区:迟来的深情比草都贱,后会有期安排一下…

狗子被爆米花机崩飞,事故全程被多机位记录…摊主事后用排骨安抚,评论区:迟来的深情比草都贱,后会有期安排一下…

大爱狗狗控
2026-11-18 20:48:36
彻底断供!英伟达临时CEO对外宣布:将停止向中国出货H200芯片

彻底断供!英伟达临时CEO对外宣布:将停止向中国出货H200芯片

影孖看世界
2026-11-18 23:46:42
纳斯达克给科兴控股发了退市决定函,科兴疫苗再度被热议,当年打完三针的人该怎么理性看待这件事

纳斯达克给科兴控股发了退市决定函,科兴疫苗再度被热议,当年打完三针的人该怎么理性看待这件事

磊子讲史
2026-10-24 15:31:41
六台:皇马可能会接受1.5亿欧以上出售维尼修斯,枪手正在关注情况

六台:皇马可能会接受1.5亿欧以上出售维尼修斯,枪手正在关注情况

懂球帝
2026-11-18 22:54:05
当着全世界的面!日本给赖清德“当头一棒”,祖国统一众望所归

当着全世界的面!日本给赖清德“当头一棒”,祖国统一众望所归

阿器谈史
2026-10-18 16:00:56
“保不住香港,我们以死谢罪!”,解密惊心动魄的香港经济保卫战

“保不住香港,我们以死谢罪!”,解密惊心动魄的香港经济保卫战

文史道
2025-02-18 20:31:56
俄罗斯战略智库:从人类历史来看,中国是经验最丰富的超级大国

俄罗斯战略智库:从人类历史来看,中国是经验最丰富的超级大国

农夫史记
2026-11-16 19:32:51
比缅北凶险100倍!曾经的旅游胜地,如今黄赌毒俱全,乱象随处可见

比缅北凶险100倍!曾经的旅游胜地,如今黄赌毒俱全,乱象随处可见

琅琊财经
2026-07-31 22:02:18
广东3消息!徐杰王者归来,宏远官宣新援加盟,阿祖应该被裁

广东3消息!徐杰王者归来,宏远官宣新援加盟,阿祖应该被裁

多特体育说
2026-11-19 00:02:19
江西状元杨仁荣:北航毕业后9年不肯回家,母亲查出癌症才重新露面

江西状元杨仁荣:北航毕业后9年不肯回家,母亲查出癌症才重新露面

磊子讲史
2026-11-18 17:56:56
朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

纯洁的微笑
2026-11-18 21:51:39
2026-11-19 03:08:49
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
576文章数 68关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

教育
游戏
数码
公开课
军事航空

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

PC Gamer试玩GTA6百小时:双主角出色但任务重复

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版