网易首页 > 网易号 > 正文 申请入驻

华为与智谱,一场默契的算力协同

0
分享至

智谱正在“摸高”AGI,华为要做英伟达。模型与算力之间的连接点,在于高效产出token的基础设施。中国AI生态,正在默契地从两端向着同一个方向协同。

这一周,智谱解密了Infra Agent如何优化10万卡国产算力集群,帮助旗下GLM-5.3-Flash在6天吞吐了62万亿token;在“进一步加大投入与优化”后,智谱很快迭代出推理提速数倍的GLM-5.3-FlashX。

智谱还没有透露过,旗下10万卡国产芯片集群究竟由哪些厂商构成。但从当前国产AI芯片的市场格局来看,华为在其中至少应该是主力;智谱曾提到“以通信换显存”,以及这一集群由“自研高带宽互联网络连接”,正是华为的优势与布局。

在本周华为全联结大会上,华为加速了昇腾系列AI芯片的迭代节奏,业内首个规模量产了NPO,并将国产算力集群的可扩展性,推高至百万卡级别。它的灵衢互联是灵魂。今年5月的“韬定律”,以及今年9月的“嵌套并行冯·诺依曼架构”,是华为全联结大会2026的行动纲领。

推理的经济学,最终比拼的,是每单位电力和基础设施能够创造多少收入。这不再是单独一块GPU或者一款模型所能解决的问题,而需要从芯片、节点、集群,以及推理引擎到模型架构,建立系统性的优化策略。在任何一个环节提升少量效率,可能收获系统复利,优化大规模服务的成本结构与利润空间。中国原生的算力和模型,正在踏上这条路。

智谱的Infra Agent

智谱GLM-5.3-Flash对国产算力集群的优化,不到两周,累计提升至3.2倍端到端token吞吐量。这也是该团队“硬件效率和单token成本已达到与主流英伟达GPU相当的水平”的依据,因为业界相信国产AI芯片与英伟达之间存在着两三倍的差距。

在技术博客里,智谱表示,为克服单张芯片算力与内存容量相对有限的问题,团队“以算力换带宽、以通信换显存”,在SGLang的基础上构建了专用的推理引擎,工作范围不仅包括算子的开发与优化,也包括性能瓶颈诊断以及部署服务栈的改进。


这是一个庞大的系统工程。推理系统中的精度异常、性能退化或者性能优化目标未达成预期,往往来自算子实现、并行策略、通信行为、内存管理与服务调度等多个层面的动态交互。

经验丰富的工程师,可以根据一次测试结果,选择下一种观测手段,逐步检查每一个环节,并将来自不同工具的信息联系起来。但这非常考验团队人才深度,无法轻易“扩展”。

每一步都意味着反馈,这恰恰又是智能体能发挥关键作用的地方。智谱GLM团队披露,他们尝试在GLM-5.3-Flash的推理基础设施上,引入了Infra Agent(基础设施智能体)的反馈闭环。智能体可以根据测试、轨迹、基准等“稠密反馈”,自主提出假设、修改代码并验证结果。智谱创始人唐杰与GLM团队认为,这是递归自我改进(RSI)的早期形态。

在智谱看来,这些反馈信号之所以“稠密”,并不意味着它们的量非常大,而是它们足够“本地”、“易得”、“客观”。也就是说,反馈信号是直接关联到具体的参数或路径的,更容易复现;更短的验证周期,也就意味着更少的无效投入;修改是否准确、性能是否改善,通过控制变量的对照实验验证。


性能的优化,往往是按下这头,翘起那头。智谱引入ReplaySSM技术,期望“以算力换带宽”,但最初却遭遇了算子执行时间延长的问题。Infra Agent一步步揪出了真正的原因,最终压榨带宽成功。

为了缓解传统注意力机制KV缓存“爆炸”的问题,智谱等国内开源模型厂商引入了线性注意力。但是,后者把“记忆”压缩成固定大小的“状态”,需要不断在HBM读出与写入,;ReplaySSM的核心思路在于,不再每一步都把完整读写,而是必要时才重建状态,这就需要一点点计算为代价。

但智谱的初步尝试发现,ReplaySSM新增的计算量,超过了节省显存访问带来的收益。于是,Infra Agent首先优化了除法操作,效率有所提升,但幅度并不大;这意味着它没有触及主要瓶颈。后来,它定位到大量不必要的重复计算的存在,并最终通过牺牲一点并行度,换来了更少的计算,也就真正释放了“以算力换带宽”的效果。


智谱已经尝到了AI优化推理集群的甜头,还会继续加码。上市以来,智谱2026年内累计融资额已超过755亿港元;最近一次拟募资超过393亿港元,其中约60%将投向下一代GLM基础模型和“完全自训练”(Fully Self Training)体系,以及大规模训练、推理和算力基础设施的部署与升级。

日前,智谱发布了GLM-5.3-FlashX,推理速度最高200 tokens/s,较GLM-5.3-Flash提速5倍,价格则相应提升2.5倍。这证明10万卡国产算力集群不仅在高吞吐能力上足够好用,在低时延上也能继续改善用户体验。三周时间就进一步优化了国产算力集群,会不会很大程度上也正得益于Infra Agent?

这也不是智谱一家的方向。DeepSeek的拿手好戏,向来就是压榨算力基础设施效率。最近,DeepSeek-V4.1-Flash通过跨层复用和FP4量化,全局KV缓存降至每Token约890字节,约为上一代V4-Flash的1/4。官方称,新模型的HBM需求降至上一代的1/4、SSD需求降至1/8。

DeepSeek也在抢购华为芯片,数量至少16万卡,建设自己的GW级数据中心;它同样在用AI优化算子。

以灵衢为灵魂

而在算力侧,华为也在响应本土AI生态的需求。在ICT和计算领域,它的目标是成为英伟达,确保全球任何大模型,都能在华为的昇腾、鲲鹏、超算节点和集群上高效运行。

想要成为英伟达,华为需要遵循半导体的物理法则,也需要独辟蹊径。今年至今,华为已经发表了两篇关键论文,尝试为自己提供一套新的解释框架与技术叙事。

一篇是华为半导体业务负责人何庭波的《多层电子系统的时间扩展理论》,即“韬(τ)定律”。它的核心思路,是不再将晶体管几何尺寸的缩小,视为半导体持续进步的唯一方向,而是从信号传播时间、逻辑结构等方面,寻找计算性能继续提升的空间。

它的现实价值,在于为短期内先进光刻仍然无法国产替代的AI算力,找到一条单芯片性能继续“等效”进步的道路。但它首先会在消费电子芯片上尝试,真正的AI芯片的“逻辑折叠”,需要等到2030年前后,即昇腾990这一代际。

另一篇关键论文,为国产AI算力“长达”数年的过渡期指明了方向。它是华为半导体首席科学家、昇腾总架构师廖恒撰写的《嵌套并行冯·诺依曼架构与嵌套式BSP》。廖恒认为,冯·诺依曼教会我们,如何构建一台存储程序计算机;但八十年来的错误推论是,认为将多台计算机连接成网络就能形成一台更大的计算机。

如何在单一环节继续提升性能之外,找到从芯片、节点到大规模计算系统的整体扩展路径。论文提到,实现该原理的硬件,就是灵衢(UnifiedBus)。

在这周的华为全联接大会2026期间,AI芯片仍然是最吸引市场目光的。华为宣布下一代的960DT比原计划提前三个季度,2027年第一季度就绪;960PR比原计划提前一个季度,2027年第三季度就绪。

华为仍然在追赶与英伟达的单卡性能的差距。这一次,华为针对FP4进行更深度的优化;“黄氏定律”也是这么干的。在FP4精度下,960PR的算力性能为8 PFLOPS,是FP8精度下的4倍,而非传统的2倍;这也相当于B300的约53%。而除了算力指标,明年发售的960DT,在内存与通信等性能上都超越了当前一代的B300。


但本届全联结大会,最能反映“成为英伟达”的场景之一,就是华为拿出来围绕灵衢互联的11颗关键芯片,涉及算、存、管、联,比英伟达的Vera Rubin架构还多4颗。这是将更多处理器连接成一台逻辑统一的计算机的基础组件。


华为发布了全新的超节点(SuperPoD)与超节点集群(SuperClusters)。其中,昇腾960超节点,可扩展至4096卡规模,是950超节点的4倍;而910C只能构建384卡的超节点。此外,多个960超节点可以通过二层CLOS四平面组网与多轨道拓扑技术,将超节点集群的最大规模,分别扩展至51.2万卡与100万卡。

更大更高效的算力集群,不仅为越来越庞大的智能体群体提供算力,也将是SOTA模型预训练的关键。

这一次,华为明确提到了十万亿参数级的SOTA模型的预训练。在传统计算架构下,集群规模扩大,资源利用率反而下降。但华为看到,在同样十万卡集群下,4096卡超节点组成的集群相对行业八卡服务器组成的集群,MFU(模型浮点算力利用率)可提升2.75倍。


为了让超节点更为高效,华为还发布了推出了全球首个NPO光引擎Hi-ONE,以及全新的AI记忆存储架构OceanStor M900。

在昇腾960超节点,用5500个Hi-ONE替代原本的4万8千颗800G光模块,可以降低超550千瓦功耗。简单推算一下,这相当于为单个超节点省下了482万度电/年,10万卡集群就相当于1.2亿度/年。去年,中国的AI芯片市场合计超过400万卡,而到2030年中国算力规模之上将较2025年大幅增长6倍多。

更重要的是,尽管通信环节的功耗并不直接生产Token,但热管理决定了整个算力系统能否持续以目标功率运行,进而影响实际的Token产出。

而它的AI记忆存储架构,根据不同工作负载需求,基于灵衢“一跳直通”,避免协议转换和CPU转发,在典型AI编程场景中,可实现推理集群Token吞吐率翻倍、首Token时延缩短一半。


目前,一个由25.6万卡组成的Atlas 950超集群正在部署。梁文锋曾提到过,目前闭源前沿模型的活跃参数已经达到了8000亿,达到这一水平,需要5万张GB3000 ,或者不少于20万张昇腾950。

OpenAI用了十万张英伟达GB200/300集群训练出了GPT-6 Astra,目前正在部署一个40万卡GPU的集群。

数十万卡集群、十万亿参数模型,中国本土AI生态,正在从算力与模型两侧出发,围绕同一个效率目标自然协同,并将在明年逐步兑现。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
耐人寻味!黄仁勋前脚卸任英伟达,刘强东后脚砸99亿买下欧洲1000家店,雷军同一天官宣巴黎,三件事同一天,真有那么巧吗

耐人寻味!黄仁勋前脚卸任英伟达,刘强东后脚砸99亿买下欧洲1000家店,雷军同一天官宣巴黎,三件事同一天,真有那么巧吗

老猫观点
2026-11-18 08:52:59
习惯侧睡的男人,无论朝左还是朝右,大多藏着这6个特质

习惯侧睡的男人,无论朝左还是朝右,大多藏着这6个特质

风起见你
2026-10-17 06:09:48
为什么都在宣传用了新能源车就回不去了?看网友评论:引万千共鸣

为什么都在宣传用了新能源车就回不去了?看网友评论:引万千共鸣

另子维爱读史
2026-08-04 21:35:07
中俄美三国会晤,欧洲破防了:俄罗斯没资格上桌,我们才该有一席之地

中俄美三国会晤,欧洲破防了:俄罗斯没资格上桌,我们才该有一席之地

吃瓜小侦探
2026-11-18 09:29:05
现代韦小宝?贵州男子4女伴4娃,正妻是商K公主,正脸、家境曝光

现代韦小宝?贵州男子4女伴4娃,正妻是商K公主,正脸、家境曝光

谢鵑解说
2026-10-14 11:39:22
国家统计局:10月全国城镇不包含在校生16-24岁劳动力失业率为17.2%,连续两个月下降

国家统计局:10月全国城镇不包含在校生16-24岁劳动力失业率为17.2%,连续两个月下降

澎湃新闻
2026-11-18 16:09:03
江苏原常委赵少麟:开国上将之子,退休8年因其子赵晋而入狱

江苏原常委赵少麟:开国上将之子,退休8年因其子赵晋而入狱

文史旺旺旺
2024-11-25 21:04:27
印度知名网红发文,直言中国电动飞机都起飞了,印度还在研究牛粪

印度知名网红发文,直言中国电动飞机都起飞了,印度还在研究牛粪

新游戏大妹子
2026-11-18 12:43:03
大家有没有发现?油车加200元油,大致能跑400公里,新能源电车花200元电费,可能能跑2000公里。用车成本差这么大,为什么仍有人买油车?

大家有没有发现?油车加200元油,大致能跑400公里,新能源电车花200元电费,可能能跑2000公里。用车成本差这么大,为什么仍有人买油车?

扶苏聊历史
2026-09-22 16:09:20
狗子被爆米花机崩飞,事故全程被多机位记录…摊主事后用排骨安抚,评论区:迟来的深情比草都贱,后会有期安排一下…

狗子被爆米花机崩飞,事故全程被多机位记录…摊主事后用排骨安抚,评论区:迟来的深情比草都贱,后会有期安排一下…

大爱狗狗控
2026-11-18 20:48:36
彻底断供!英伟达临时CEO对外宣布:将停止向中国出货H200芯片

彻底断供!英伟达临时CEO对外宣布:将停止向中国出货H200芯片

影孖看世界
2026-11-18 23:46:42
纳斯达克给科兴控股发了退市决定函,科兴疫苗再度被热议,当年打完三针的人该怎么理性看待这件事

纳斯达克给科兴控股发了退市决定函,科兴疫苗再度被热议,当年打完三针的人该怎么理性看待这件事

磊子讲史
2026-10-24 15:31:41
六台:皇马可能会接受1.5亿欧以上出售维尼修斯,枪手正在关注情况

六台:皇马可能会接受1.5亿欧以上出售维尼修斯,枪手正在关注情况

懂球帝
2026-11-18 22:54:05
当着全世界的面!日本给赖清德“当头一棒”,祖国统一众望所归

当着全世界的面!日本给赖清德“当头一棒”,祖国统一众望所归

阿器谈史
2026-10-18 16:00:56
“保不住香港,我们以死谢罪!”,解密惊心动魄的香港经济保卫战

“保不住香港,我们以死谢罪!”,解密惊心动魄的香港经济保卫战

文史道
2025-02-18 20:31:56
俄罗斯战略智库:从人类历史来看,中国是经验最丰富的超级大国

俄罗斯战略智库:从人类历史来看,中国是经验最丰富的超级大国

农夫史记
2026-11-16 19:32:51
比缅北凶险100倍!曾经的旅游胜地,如今黄赌毒俱全,乱象随处可见

比缅北凶险100倍!曾经的旅游胜地,如今黄赌毒俱全,乱象随处可见

琅琊财经
2026-07-31 22:02:18
广东3消息!徐杰王者归来,宏远官宣新援加盟,阿祖应该被裁

广东3消息!徐杰王者归来,宏远官宣新援加盟,阿祖应该被裁

多特体育说
2026-11-19 00:02:19
江西状元杨仁荣:北航毕业后9年不肯回家,母亲查出癌症才重新露面

江西状元杨仁荣:北航毕业后9年不肯回家,母亲查出癌症才重新露面

磊子讲史
2026-11-18 17:56:56
朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

纯洁的微笑
2026-11-18 21:51:39
2026-11-19 03:08:49
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
576文章数 68关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
教育
时尚
手机
军事航空

本地新闻

乌兰察布:以前种土豆,现在种Token

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版