网易首页 > 网易号 > 正文 申请入驻

天垓300实测对标H200:国产GPU从性能追赶迈向高价值应用竞争

0
分享至

10月28日,“从模型到世界”天数智芯2026媒体开放日活动在上海举办。天垓300首次面向媒体开放实机演示,基于天垓300的AFD分离方案、IXL144超节点方案,以及天数智算软件栈、彤央端侧算力终端同台亮相,并预告标称算力达600T的下一代端侧产品。

第三方权威机构今年7月完成的第三方实测显示,在典型PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍,这是国内首个实测性能达到H200水平的通用GPU。与此同时,软件栈展示“用AI开发AI”的新路径,彤央TY1200在实测中超越Thor T5000。



为什么要对标H200?作为大模型推理和复杂计算领域具有代表性的高水平GPU,H200水平是衡量先进AI算力的重要标杆。天垓300在真实业务测试中达到这一水平,标志着国产通用GPU迈过了一道具有重要意义的性能门槛:开始具备在复杂AI任务和高算力市场中快速发展的实力。这也意味着国产GPU正在进入新阶段——从解决“能不能用”的问题,转向比拼实际产出、运行效率和经济价值。

天数智芯将这一阶段的标准概括为高质量算力——“高效率、可预期、可持续”——相同投入能产出多少有效结果,长时间运行能否稳定,面对不同模型、业务和部署方式能否持续发挥作用。在天数智芯看来,云端生产智能,软件加速适配与优化,端侧让智能进入更多现场,形成让高质量算力持续生长的增强回路。

实测对标H200:走向复杂AI任务的性能门槛

对标H200的看点,在于测试所对应的真实业务。第三方权威机构今年7月针对四大主流模型、三类场景开展测试,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍。这里比较的不是理论峰值,而是在特定模型和部署条件下,整条推理链路的实际输出能力。

天数智芯性能实验室的实测进一步覆盖典型业务场景:在64K长上下文下,天垓300的Attention性能为H200的1.05倍;GLM-5.3模型64K规模下,保障同等用户体验的同时,MoE吞吐为H200的1.15倍;8K至128K长上下文场景下Agent首字延迟较H200降低约10%—30%;多模态生成推理吞吐相较H200提升约2%—5%;在搜广推等在线业务中,推荐推理吞吐提升21%、轻量计算时延降低26%。活动现场开放天垓300实机演示,接受与H200在GLM5.3等大语言模型、文生图、文生视频场景的对比测试。

这些指标各自对应着用户能够感知的体验。长上下文处理关系到长文档分析和复杂Agent能否高效运行;MoE吞吐影响同等服务要求下系统承接请求的能力;首字延迟则直接关系到用户发出请求后的等待时间。此次对标说明天垓300已在多类关键负载上进入与国际主流高水平GPU直接比较的区间。



训练方面,在基于Qwen3-32B模型的8卡整机FP8精度训练演示中,天垓300每卡有效吞吐达到H100的1.33倍。目前,强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、Minimax、Kimi等国内外主力模型公开采用的核心后训练路线。天垓300同样胜任强化学习训练,据条件性工程估算,以1024张卡对已有预训练基座开展一次强化学习,在40B激活参数的中心情景下,约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。

随着日均Token调用量较2024年初增长上千倍,Token工厂正成为算力规模化落地的热门形态,也是高质量算力三要素的集中检验场。各项表现显示,天垓300高度满足Token工厂对算力的各项实际要求。

首先是高效率。电力、机房和固定运维等支出难以随意压缩,单位Token成本很大程度上取决于设备投入和有效吞吐。在前述第三方测试条件下,天垓300折算单卡端到端吞吐达到H200的1.05倍,为单位时间内生产更多有效Token提供了性能基础。

其次是可预期。Token工厂不能只在短时测试中跑得快,还要在长时间满负荷运行时保持稳定。天垓300满负荷运行的步时波动为0.43%,低于对比Hopper方案的0.76%,长时间高负载不掉链子,直接保障利用率与可用率。

最后是可持续。天垓300通用架构原生支持CUDA语义,主流框架均已适配,并提供从加速卡、服务器到超节点的不同部署形态,面向多种模型与业务需求。

天垓300同时提供开放、可组合的异构计算平台解决方案。以通用GPU为底座,支持混合训练、PD分离与AFD分离等多种部署形态,可与其他厂商的加速卡、专用芯片协同。以AFD分离为例,天垓300承担Prefill全流程计算与解码阶段的Attention,合作厂商的XPU承担FFN专家网络,两类芯片在统一调度下异构协同,实测Decoding推理延迟可降低60%,该方案已实际跑通,是国内第一个基于GPU+XPU的异构部署AFD分离方案。

“未来的AI算力系统,不一定由一种芯片包打天下。”天数智芯AI与加速计算负责人单天逸表示,“关键是如何把它们高效组织起来,让整个系统发挥更大的价值。我们希望通过开放的异构计算能力,让客户充分利用已有算力资产,以更灵活的方式构建适合自身业务的计算系统。”

高质量算力的价值,由此不只是测试成绩,而是能够持续投入实际生产的能力。天数智芯更将通用算力延伸至科学智算与物理AI等前沿领域,加速科学发现和产业应用。天垓300全面支持Boltz-2、OpenFold3、Protenix等模型及Newton、Warp、ALCHEMI等框架,覆盖生命科学、物理AI、化学与材料四大领域近百个典型场景,涵盖蛋白结构预测、药物筛选、机器人仿真、分子动力学、材料结构优化等关键任务。

物理AI尤其体现出通用计算的新价值。机器人要进入真实世界,往往需要先在遵循物理规律的仿真环境里反复试错,学习动作并验证策略。天垓300的云端仿真和计算能力,让这种学习和验证更充分。

在规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存,是目前业界密度最高的单机柜GPU超节点,据测算,其每百万有效Token成本较国际主流方案可降低约40%。其新一代P2P互联引擎面向Scale-up和Scale-out,目标是将域内单次传输延迟由3—5微秒降至1微秒;支持统一内存语义编程;同时支持大EP,将专家权重分散到更多核心。该方案已在工博会公开亮相,面向不同算力规模与机房条件的其他超节点方案也将陆续推出。

用AI开发AI:让一位工程师的经验,服务千千万万开发者

硬件性能达到可用区间之后,另一道门槛是开发者能否真正用好。新模型不断出现,部署、适配和性能调优往往需要经验丰富的工程师投入大量时间。如果这些环节仍然复杂,硬件性能就很难及时转化为业务价值。天数智芯此次展示的软件栈,让AI不仅作为计算任务被运行,也参与AI系统自身的开发与优化。

活动现场,天数智芯副总裁石加圣围绕“易于使用、易于优化、易于开发”三个层次,首次展示天数智算软件栈全面拥抱Agentic AI的系统性布局:基于多年GPU研发、模型适配和性能调优积累,将软件栈、专业工具与工程经验同Agent技术结合,让一线开发者能够围绕场景目标和服务约束,直接调用工具、复用经验、开展优化,加速迈向端到端智能开发。



“易于使用”方面,软件栈将环境安装、配置检查与模型部署方法组织为智能体可调用的工具与技能,由AI协助执行并检查结果,减少开发者反复查阅文档、手动配置和排查问题的负担。在模型PD分离部署实测中,环境准备与服务部署整体用时由1小时缩短至10分钟,人工操作由数十步减少至1步,助力开发者更便捷地使用先进推理架构。

“易于优化”方面,软件栈结合自研性能分析工具与调优经验,让AI依据真实运行数据定位瓶颈、提出优化方案,并通过测试验证效果。根据某大模型调优任务实测,工作周期由7天缩短至2小时内;在相同硬件、模型和精度要求下,相关任务运行性能较优化前接近翻倍。开发者能够更快开展优化、获得反馈,减少对厂商技术支持的依赖。

“易于开发”方面,作为首家深度接入FlyDSL的国产GPGPU厂商,天数智芯通过Agent与FlyDSL协同,让AI参与代码生成、编译、测试和性能优化。开发者明确目标与约束,AI协助生成或修改候选实现,再根据正确性检查和性能测试结果持续调整,最终完成自主开发、验证与迭代,形成从目标提出到结果验收的工程闭环。在某主流模型适配与调优实测中,过去10人天完成的工作,现在1人在小时级内就能完成,编译速度提升90%以上,理想状态可用1%的编译时间实现99%的运行性能,为更快支持新模型、尝试更多实现方案创造条件。



“Agentic AI让一位工程师的经验,能够持续服务千千万万开发者。”石加圣表示,天数智芯将GPGPU工程师在模型适配、性能调优中积累的方法沉淀为可调用的工具与技能,让模型和应用开发者能够在自身工作流中复用专家经验,更快获得反馈、自主完成优化。GPGPU工程师则能将更多精力投入复杂性能问题的解决,并持续将新的工程积累提供给开发者。

彤央TY1200实测超Thor T5000:云端能力下沉端侧

物理世界的数据量持续增长,对感知、规划与执行提出毫秒级响应要求,合同、科研等涉及数据安全的任务要求算力必须“贴着数据跑”,业务需求让算力必须分层。与此同时,小参数量模型能力提升,让更多任务具备边端部署条件,技术演进使算力可以分层。客户对长期使用成本的关注,要求算力投入更精准:简单任务不必都上云,复杂任务也不宜一律下沉,成本约束让分层值得做。

业务上“必须”,技术上“可以”,经济上“值得”,算力分层由此成为现实选择:大规模训练与复杂复判留在云端,要求实时响应、涉及数据安全、需要现场闭环的任务,放在端侧。

“云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。”天数智芯彤央产品市场负责人宋远盈表示。天数智芯在云侧大规模训练与推理中积累的模型压缩、量化、蒸馏和软硬协同能力,连同通用GPU架构、编译器、算子库和性能工具,被一起带到边端。模型因此可以“生在云、长在边”:云端训练、边端部署,需要时再由云端复判,模型能力与精度保持衔接。在客户现场积累的高负载交付经验,也为工业应用、具身智能等高度要求稳定性的场景交付提供能力基础。

彤央以一套生态、两种形态、五款产品覆盖从客户自主集成到即用型部署的需求;端云接续的技术路线,“把云的能力折叠进方寸之间”,也让客户的边端投入具备长期延续性。其中,彤央TY1200端侧算力终端标称300 TOPS稠密算力,而非行业惯用的稀疏峰值;在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能达到Thor T5000的1.2倍。以实测稠密算力超越标称算力更高的芯片,端侧的有效产出同样不被标称算力定义。



在本地部署场景,TY1200让原本必须上云的任务在数据端内闭环。合同审核、投资BP分析等对数据安全高度敏感的工作,可基于本地部署的大模型离线处理,安全的同时,也可节省算力支出;视频生成这类高算力任务也在本地跑通——基于MiniMax H3开源视频模型,TY1200平均6分钟生成1056×608分辨率、时长5秒的视频,1376×768分辨率下平均用时11分钟,全程在本地进行,不产生任何云端调用费用。它还能流畅运行推理应用,并承担小模型的本地训练。

在物理AI场景,TY1200成为具身智能设备的大脑。这个大脑不仅可以内置,还可“外挂”。TY1200首次在国产端侧产品上实现基于MuJoCo-Warp的GPU加速物理仿真,机器人动作学习所需的大规模并行仿真可在本地终端完成。

活动现场,MicroDuck动作演示呈现“本地仿真—策略训练—动作验证”的完整链路;搭载TY1000算力模组的机器狗在本地完成人脸识别与跟随主人,形成“感知—决策—行动”闭环。世界模型等物理AI负载同样在本地运行,在Cosmos-R2-2B和Cosmos-R2-8B测试中,TY1200的实测性能分别达到Thor T5000的158%和180%;



性能最终要进入真实任务。在储能电芯研究案例中,TY1200支持科研智能体自动采集、治理实验数据,并可在约2分钟内生成报告;应急视觉识别案例,端侧CV与多模态大模型交叉验证,将识别准确率由70%提升至95%;在文旅案例中,同一台TY1200,白天提供智能导览、夜间训练CV小模型;搭载TY1200的陪诊机器人,已在上海市阳光康复中心服务视障人士,负责导诊、分诊与带路。

TY1200此前已获2026工博会CIIF国芯展创新成果奖。活动现场,天数智芯还预告下一代端侧产品彤央TY2000,标称算力将达600T,把云端能力下沉的边界再向前推进一步。

云端高效生产智能,软件加速进化,端侧拓宽现实应用、连接物理世界,三端协同构成高质量算力的“增强回路”,让高效率、可预期、可持续在循环中复利式积累。

产品层面的复利,最终要回答产业层面的命题。算力是发展新质生产力的关键底座,中共中央、国务院《关于发展新质生产力的意见》提出,全面实施“人工智能+”行动、强化算力算法数据高效供给,加快人形机器人等新一代智能终端的场景应用。从云端天垓300、天数智算软件栈,到端侧彤央算力终端,天数智芯以贯通云边端的产品体系,把高质量算力落实为可实测、可复现、可交付的有效产出,为“人工智能+”在千行百业的规模落地,提供高质量算力支撑。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
征信,已经成了最大的笑话。

征信,已经成了最大的笑话。

老陆不老
2026-10-30 21:21:31
17亿暴跌至9250万!“家居龙头”大佬公开认错了

17亿暴跌至9250万!“家居龙头”大佬公开认错了

李砍柴
2026-10-30 17:00:05
25分大逆转!勇士112-95轻取湖人,库里31分,东契奇空砍37+7+5

25分大逆转!勇士112-95轻取湖人,库里31分,东契奇空砍37+7+5

全景体育V
2026-10-31 12:52:00
10月29日深夜,人民日报发声,公布养老金的三个真相,以正视听

10月29日深夜,人民日报发声,公布养老金的三个真相,以正视听

社保小达人
2026-10-31 10:46:42
“徽剑”姨娘:没想过他敢跟境外网诈团伙斗争,不同意签刑事谅解书

“徽剑”姨娘:没想过他敢跟境外网诈团伙斗争,不同意签刑事谅解书

大风新闻
2026-10-31 14:59:03
药不是车:华为式“赋能”进入医药,边界在哪?

药不是车:华为式“赋能”进入医药,边界在哪?

迷世书童
2026-10-31 10:06:32
2026世界顶尖科学家论坛开幕式暨顶科奖颁奖典礼举行,陈吉宁万钢朱忠明出席

2026世界顶尖科学家论坛开幕式暨顶科奖颁奖典礼举行,陈吉宁万钢朱忠明出席

上观新闻
2026-10-31 17:48:07
59岁著名汉语言文字专家罗卫东因突发疾病逝世,长年深耕冷门绝学

59岁著名汉语言文字专家罗卫东因突发疾病逝世,长年深耕冷门绝学

澎湃新闻
2026-10-31 09:36:33
原中国石油化工集团公司党组书记、董事长傅成玉接受审查调查

原中国石油化工集团公司党组书记、董事长傅成玉接受审查调查

都市快报橙柿互动
2026-10-31 17:59:21
42岁卡戴珊公开择偶清单:不能有微阴茎,不介意整容

42岁卡戴珊公开择偶清单:不能有微阴茎,不介意整容

自愈小日子
2026-10-30 00:22:07
被执行死刑失败后,美国女囚首次发声

被执行死刑失败后,美国女囚首次发声

澎湃新闻
2026-10-31 17:59:03
打虎!涉嫌严重违纪违法,傅成玉被查

打虎!涉嫌严重违纪违法,傅成玉被查

政知新媒体
2026-10-31 17:45:15
不要让华为“制药”也走上速成车的道路

不要让华为“制药”也走上速成车的道路

凤眼论
2026-10-30 16:08:22
中方当场拒签!G20罕见分出第2桌,俄外长赴美,这次绝非普通碰面

中方当场拒签!G20罕见分出第2桌,俄外长赴美,这次绝非普通碰面

面包夹知识
2026-10-31 19:05:04
前国足主帅:中国人总以为自己是世界的主人 姆巴佩可请律师告他们

前国足主帅:中国人总以为自己是世界的主人 姆巴佩可请律师告他们

风过乡
2026-10-31 07:43:34
闹大了!李立群吐槽杭州萧山机场,称航站楼体量过大步行太远,对老年人出行不友好,网友观点两极分化

闹大了!李立群吐槽杭州萧山机场,称航站楼体量过大步行太远,对老年人出行不友好,网友观点两极分化

火山詩话
2026-10-31 14:12:22
11月起江苏进入新一轮森林防火期今冬明春防火形势严峻

11月起江苏进入新一轮森林防火期今冬明春防火形势严峻

金台资讯
2026-10-31 07:49:33
吃饭砸锅?绝不接受!24小时丢5000万,姆巴佩“天价”账单才刚刚开始

吃饭砸锅?绝不接受!24小时丢5000万,姆巴佩“天价”账单才刚刚开始

可达鸭面面观
2026-10-30 17:35:48
姆巴佩道歉后,欧洲人的反应,震碎了我的三观

姆巴佩道歉后,欧洲人的反应,震碎了我的三观

斐君观点
2026-10-31 08:18:58
昂跑未与姆巴佩解约,网友怒了

昂跑未与姆巴佩解约,网友怒了

21世纪经济报道
2026-10-31 03:23:54
2026-10-31 20:44:49
老冀谈科技 incentive-icons
老冀谈科技
老冀将带给您最新的科技资讯
970文章数 10079关注度
往期回顾 全部

科技要闻

苦等两年!国行苹果AI下周开测,12月推出

头条要闻

13岁女孩遭胁迫卖淫 涉案5人最大18岁最小15岁均获刑

头条要闻

13岁女孩遭胁迫卖淫 涉案5人最大18岁最小15岁均获刑

体育要闻

决胜时刻三连击!勒布朗绝命补篮价值千金

娱乐要闻

41岁吾恩胃癌七年去世,伴侣也确诊癌

财经要闻

Meta、谷歌、英特尔增发认购者集体浮亏

汽车要闻

钛7上市一年销量突破30万 海外半年销量2.7万

态度原创

房产
旅游
家居
公开课
军事航空

房产要闻

单月杀进全省前十!崖州卖最火的盘,产品真能打

旅游要闻

大V“渝”见一江碧水|“开往春天的列车”驶过,一条“会呼吸的飘带”绣上山城

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美国批准向乌克兰出售500枚爱国者导弹

无障碍浏览 进入关怀版