网易首页 > 网易号 > 正文 申请入驻

业界最高密度单机柜超节点来了

0
分享至



今年的算力展会上,超节点是最不缺关注的那类产品。各家比的东西也很直接:一个机柜,到底能塞下多少张卡。

看多了会发现一个现实问题,卡越塞越多,但这些超级机柜大多是专用形态,供电、液冷都得单独配,老数据中心往往接不住。

工博会上,天数智芯拿出的天垓300 IXL144,想解决的就是这件事。单柜144颗GPU、18颗CPU,约10.1TB显存,用的却是贴近标准的单机柜形态,现有机房条件匹配就能上。


超节点的门槛,不止在芯片上

大模型和智能体把算力需求一再推高。IDC的判断是,2026年中国智能算力规模约2576.5 EFLOPS,同比增长87.9%。需求是真的,超节点也因此从技术验证走到规模采购。

真到掏钱的时候,客户关心的反而不是峰值算力。机房要不要改造,已有模型和代码要不要重写,每百万Token的成本能不能降下来,这三件事决定了一套超节点能不能铺开。

换句话说,超节点拼到这一步,已经不只是拼芯片,而是拼整套方案在客户现场好不好落地。


机房改动尽量小

这是IXL144和不少现有整机柜方案最不一样的地方。

常见的整机柜超节点,机柜是专门设计的,液冷、供电也是专属配套,往往要专门机房,相当于“先建房、再上柜”,投入和周期都不小。

IXL144贴近常规机柜标准,供配电、承重、散热条件对得上,就能进现有机房;组网拓扑也支持一次规划、分步扩容,不用一开始就把钱砸满。对机房空间紧张、又不想新建的客户来说,这一点比单纯多塞几张卡更实在。

代码和模型,尽量不重写

迁移是另一道坎。天数智芯用的是自研通用GPU架构和软件栈,兼容CUDA,客户已有的模型、框架和开发经验基本能接着用。

通用GPU还有个好处,训大模型、做推理可以,金融估值、科学智能这类任务也能跑,不是只适配某一类AI负载,算力利用效率自然更好,适配、迁移工作也更好做。

底座天垓300,对标的是H100、H200

IXL144里的GPU,是天数智芯今年7月WAIC发布的旗舰天垓300,基于SIMT通用计算架构。它的对标对象,是英伟达Hopper这一代,也就是H100、H200。

官方给出的实测数据集中在几个主流场景:64k长上下文的Attention效能高出约10%,DeepSeek V4这类MoE场景计算效率超过70%;主流模型首字延迟降低约20%,Decode阶段通信延迟降低约13%。


需要说明的是,这些都是特定模型、特定场景下的对比,不是全场景的跑分碾压。但能在大模型最吃重的几个环节正面比较、甚至占优,对国产GPU来说已经说明问题。

144张卡,要像一张卡那样协同

卡多了,互联跟不上,算力就会空转。IXL144用整柜高带宽互联把144颗GPU连成一个统一内存域,单跳时延在100ns量级,高频的All-to-All通信尽量留在柜内,个别MoE场景有效带宽能提升约15%。10.1TB显存,则用来放模型权重、MoE专家和长上下文的KV Cache。

面向在线推理,它也按高并发、多业务和流量波动做了优化,重点看吞吐、时延和利用率。

最后算的是Token这笔账

前面这些,最终都要落到成本上。天数智芯给出的测算是,IXL144每百万有效Token的成本,比国际主流方案低40%。

这个数字是厂测口径,落到不同客户的真实业务上会有差异,还需要更多项目验证。不过天垓系列已经做到万卡级规模部署,服务380余家客户、落地超千个项目,系统交付和运维有实际经验打底。

“超节点不是单一产品,而是一项系统工程。”天数智芯副总裁邹翾说,IXL144只是整套方案里的第一个,面向不同算力规模和机房条件的产品已经布局好,后面会陆续推出。

超节点这门生意,最终还是要回到客户的机房和账单里。能不能让客户少改一点机房、少重写一点代码、少花一点Token的钱,比单柜塞了多少颗卡,更值得关心。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
日本网友让志田千阳“滚出日本、入籍中国”,结果她真的来了

日本网友让志田千阳“滚出日本、入籍中国”,结果她真的来了

叒女紫121
2026-10-15 17:59:37
懂车帝也太刚了!

懂车帝也太刚了!

胖胖说他不胖
2026-10-09 15:08:05
懂车帝回应“黑尊界”传言,一切都反转了!

懂车帝回应“黑尊界”传言,一切都反转了!

财经三分钟pro
2026-10-15 17:00:19
CBA疯狂一夜,3场爆冷,1场惊天大逆转,3支非季后赛球队掀翻劲旅

CBA疯狂一夜,3场爆冷,1场惊天大逆转,3支非季后赛球队掀翻劲旅

南海浪花
2026-10-18 06:20:16
贫穷是被设计好的,社会需要大量勤劳的穷人

贫穷是被设计好的,社会需要大量勤劳的穷人

经济学教授V
2026-10-17 19:11:12
“我们家三代人攒下的钱,不是让你去给别人家扶贫的”残忍又清醒

“我们家三代人攒下的钱,不是让你去给别人家扶贫的”残忍又清醒

另子维爱读史
2026-10-17 21:31:29
讲台上下:被误解的老师和不敢沟通的家长

讲台上下:被误解的老师和不敢沟通的家长

新京报
2026-10-16 09:09:41
长鑫科技的股东们心情有点复杂了

长鑫科技的股东们心情有点复杂了

财报时间
2026-10-18 08:34:04
1971年陕西老农娶了一位懒妻,不做饭不同行房,8年后才知她是大家闺秀!

1971年陕西老农娶了一位懒妻,不做饭不同行房,8年后才知她是大家闺秀!

大运河时空
2026-10-17 21:25:05
议员奥马尔美国公民身份或将被剥夺 最终或遭驱逐

议员奥马尔美国公民身份或将被剥夺 最终或遭驱逐

小影的娱乐
2026-10-18 10:49:36
岛内最新民调,沈伯洋大幅领先蒋万安?赵少康罕见向大陆喊话

岛内最新民调,沈伯洋大幅领先蒋万安?赵少康罕见向大陆喊话

DS北风
2026-10-17 17:02:04
黄奇帆和唐宁有什么关系?

黄奇帆和唐宁有什么关系?

西虹市闲话
2026-10-15 13:28:15
从新能源车销量看中国能源转型的世界启示

从新能源车销量看中国能源转型的世界启示

齐鲁壹点
2026-10-17 21:14:44
2-1逆转夺冠!中国女羽17岁新星崛起:独苗力挫日本悍将,偶像陈雨菲

2-1逆转夺冠!中国女羽17岁新星崛起:独苗力挫日本悍将,偶像陈雨菲

李喜林篮球绝杀
2026-10-18 12:08:12
无底线了!内塔尼亚胡之子被伊朗特工暗杀,弃行李连夜逃回以色列

无底线了!内塔尼亚胡之子被伊朗特工暗杀,弃行李连夜逃回以色列

梦史
2026-08-29 06:21:20
1 分钟售罄、发货排到明年,iPhone Duo 卖爆背后的真相

1 分钟售罄、发货排到明年,iPhone Duo 卖爆背后的真相

极客公园
2026-10-17 10:39:35
成都一场婚礼的寒酸程度把全国人民都看愣了

成都一场婚礼的寒酸程度把全国人民都看愣了

七月生活情感驿站
2026-10-11 21:16:41
刘德华《白衣逆行者》积压6年终于定档,有望刷新票房新低

刘德华《白衣逆行者》积压6年终于定档,有望刷新票房新低

光影新天地
2026-10-17 14:26:20
“生平没碰过女孩”,万米高空自杀式袭击揭秘

“生平没碰过女孩”,万米高空自杀式袭击揭秘

中国新闻周刊
2026-10-17 23:24:03
2026-10-18 17:55:00
芯榜 incentive-icons
芯榜
中国芯片排行榜
5480文章数 3272关注度
往期回顾 全部

科技要闻

王江舟院士:6G到底是不是骗局 是不是收割

头条要闻

法国骚乱爆发数小时前 马克龙夫妇被拍到在演唱会跳舞

头条要闻

法国骚乱爆发数小时前 马克龙夫妇被拍到在演唱会跳舞

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

郭麒麟被传领证,女方戳破谣言

财经要闻

马斯克:美债问题只能靠AI和机器人解决

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

亲子
本地
艺术
手机
公开课

亲子要闻

小学生讲军事:特斯拉飞行汽车

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

艺术要闻

一位“恶霸官员”却写出最美行书,字字美若天仙,400多年来无人比肩!

手机要闻

华为畅享100系列大揭秘:外观、配置,均已经清晰了!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版