天数智芯首次实机演示天垓300！单卡吞吐约H200的1.05倍，端侧硬刚Thor T5000

芯东西（公众号：aichip001）
作者 程茜
编辑 心缘

芯东西10月28日报道，今日，天数智芯首次实机演示了通用GPU天垓300以及端侧算力终端TY1200。其还预告了标称算力达600T的下一代端侧产品TY2000，支持多机互联、弹性扩容、离线部署。

天数智芯披露，上海仪电今年7月完成的第三方实测显示，在典型PD分离部署下，天垓300折算单卡整体端到端吞吐达到H200的1.05倍，是国内首个实测性能达到英伟达H200水平的通用GPU。此外，其端侧算力终端彤央TY1200在实测中也超越了英伟达的Thor T5000。

在AI领域，云端用更高效率输出更高算力，软件栈加速云端的智能部署、调优，端侧让算力走入更多现实世界，触碰到物理世界，这正是天数智芯当下布局的关键。

天数智芯AI与加速计算负责人单天逸谈道，AI正从信息智能到行动智能，再到探索智能，形成智慧飞轮。信息智能就是理解信息、生成信息和转换信息的能力；行动智能是让AI有行动的能力，能自己去规划、执行、反馈；探索智能是AI自主设计、验证、迭代，如AI for Science、物理AI、具身智能等领域。

今年1月，该公司公布了芯片的4代架构图，天数天枢架构已于2025年发布、天数天璇架构于2026年发布、天数天玑架构于2026年发布、天数天权架构计划于2027年发布。

天数智芯所做的事就是为上文提到的一次次智慧飞轮循环提供源源不断的算力。

一、TY1200实测性能超Thor T5000，端侧算力训练出双足鸭机器人

如今，企业愈发看重低时延、数据合规等，再加上参数规模较小的大模型性能飙涨，AI商业化的矛盾从能不能用转向AI持续规模化使用的成本问题。

基于此，天数智芯彤央产品市场负责人宋远盈谈道，算力的性价比是当前业界关注的重点，而谁能给出最优的性价比，谁就能占得先机。

这背后的一个明显趋势就是算力需要分层，这是天数智芯布局边端产品的核心原因。

今年1月，天数智芯正式发布边端系列彤央，并形成了1+2+5的矩阵。

1指一套成熟通用GPU架构和完整软件栈组成的生态；2指面向两种客户提供的算力模组和算力终端两种形态产品；5指的是5个产品，其中算力模组产品包括TY1000、TY1100，算力终端产品包括TY1100-NX、TY1100-NX-PRO、TY1200。

宋远盈现场实测对比了TY1200和英伟达Thor-T5000的效果。关于两款设备的参数对比，Thor-T5000为2P FP4稀疏算力，128GB的共享内存；TY1200为300 TOPS INT8稠密算力，存储是32GB系统内存+32GB HBM2e显存。

其选择了Qwen3.8-27B模型，首先向模型提问了“狮子和老虎单挑谁会打赢”。结果显示，TY1200的首词延迟更低、吞吐更高、输出时间更短。

根据天数智芯公开的数据，在大语言模型、多模态模型、世界模型等的实测中，TY1200的TPS（每秒词元数）均超越了T5000。宋远盈称，TY1200性能更优的原因在于显存带宽更高、计算核数量更多。

TY1200潜在客户是AI视频生成的创作者、需要保密的场景以及物理AI场景的企业。

演示人员现场实测的下一个任务是文生视频。她让两款产品生成了猫咪打架并打碎了花瓶的视频。TY1200在6分10秒内生成了5秒视频。

其次是对保密要求更高的法务合规场景，演示人员现场演示了基于企业内部的规则进行法务合同审核。

最后是物理AI场景。其现场用端侧算力训练了双足鸭机器人MicroDuck，让MicroDuck在仿真环境里完成各项活动，包括前进、后退、转身、被推倒后站起等。

演示人员现场还让实体的MicroDuck自己走动，并在摔倒后站起来。

在具体的应用方面，其基于TY1200打造了面向储能电芯研究的垂直AI智能体；此外在视觉识别领域，传统方案的视觉识别准确率为70%，天数智芯用CV+多模态+端侧算力，再结合云端进行应急指挥管理，将视觉识别的准确率提升至95%。

此外，机器狗基于TY1000算力模组能实现自动识别、跟随主人，感知、决策、行动，整个过程都在本地完成；基于TY1200算力终端打造的陪诊机器人，能为患者带路、理解医院就诊流程。

二、为下一代AI而生的天垓300，现场实测让“豆包迎娶奶龙”

单天逸重点提到面向下一代AI打造的全新计算平台天垓300。天垓300有144GB显存、支持芯片间高速互联，搭载新一代Tensor Core，支持FP4、FP8、FP16、BF16等数据精度。

天数智芯性能实验室的实测显示，在64K长上下文下，天垓300的Attention性能为H200的1.05倍。

GLM-5.3模型64K规模下，在保障同等用户体验的同时，天垓300 MoE吞吐为H200的1.15倍。

8K至128K长上下文场景下，天垓300的Agent首字延迟较H200降低约10%—30%；多模态生成推理吞吐，天垓300相较H200提升约2%—5%；在搜广推等在线业务中，推荐推理吞吐提升21%、轻量计算时延降低26%。

训练方面，在基于Qwen3-32B模型的8卡整机FP8精度训练演示中，天垓300每卡有效吞吐达到H100的1.33倍。

强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、MiniMax、Kimi等国内外主力模型公开采用的核心后训练路线。据条件性工程估算，天垓300以1024张卡对已有预训练基座开展一次强化学习，在40B激活参数的中心情景下，约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。

单天逸现场实测了天垓300与H200在文生图、文生视频方面的性能。

其生成了“一个亚麻发色、穿白色连衣裙的女生在冰面行走，赛博朋克风格”的图片，天垓300 4秒就生成了第一张图片。

此外，其现场生成了“豆包穿着骑士装迎娶奶龙”的视频。天垓300的吞吐量为0.628，相比H200更高，且任务的完成速度、服务端的推理速度更快。

在规模化交付层面，单天逸透露，天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存，是目前业界密度最高的单机柜GPU超节点，据测算，其每百万有效Token成本较国际主流方案可降低约40%。

其新一代P2P互联引擎面向Scale-up和Scale-out，目标是将域内单次传输延迟由3—5微秒降至1微秒；支持统一内存语义编程；同时支持大EP，将专家权重分散到更多核心。

三、首家深度接入FlyDSL的国产GPGPU厂商，编译速度提升超90%

天数智芯副总裁、软件开发负责人石加圣围绕易于使用、易于优化、易于开发三个方面，展示了天数智算软件栈关于Agentic AI的系统性布局。

首先是易于使用，天数智芯的软件栈将环境安装、配置检查与模型部署方法组织为智能体可调用的工具与技能，由AI协助执行并检查结果，减少开发者反复查阅文档、手动配置和排查问题的负担。

在模型PD分离部署实测中，环境准备与服务部署整体用时由1小时缩短至10分钟，人工操作由数十步减少至1步。

其次是易于优化，软件栈结合自研性能分析工具与调优经验，让AI依据真实运行数据定位瓶颈、提出优化方案，并通过测试验证效果。根据某大模型调优任务实测，工作周期由7天缩短至2小时内；在相同硬件、模型和精度要求下，相关任务运行性能较优化前接近翻倍。

最后是易于开发，他提到，天数智芯是首家深度接入FlyDSL的国产GPGPU厂商，通过Agent与FlyDSL协同，让AI参与代码生成、编译、测试和性能优化。

开发者明确目标与约束，AI协助生成或修改候选实现，再根据正确性检查和性能测试结果持续调整，最终完成自主开发、验证与迭代，形成从目标提出到结果验收的工程闭环。

石加圣透露，在某主流模型适配与调优实测中，过去10人天完成的工作，现在1人在小时级内就能完成，编译速度提升90%以上，理想状态可用1%的编译时间实现99%的运行性能。

结语：云端+软件协同，国产算力要迈向自主进化阶段

天垓300在真实业务测试中达到对标国际主流产品的水平，标志着国产通用GPU开始具备在复杂AI任务和高算力市场中快速发展的实力。

从其布局来看，云端高效生产智能，软件加速进化，端侧拓宽现实应用、连接物理世界，三端协同让高效率、可预期、可持续的算力在循环中积累。模型在云端持续变强，下沉到端侧落地；端侧的真实场景反过来反哺云端优化算子、量化策略与模型结构，持续压低落地成本、提升业务稳定性，最终形成国产算力自主进化的正向飞轮。