全球领先！千卡超节点算力巨无霸，成功点亮

新智元报道

2026 年 10 月 15 日，阶跃星辰正式开源新一代旗舰模型 Step 5 Preview，在 AI 编程、软件工程、专业知识工作、金融等任务上达到前沿水平。

此次 Step 5 Preview 一经开源发布，昇腾就基于 vLLM 推理引擎实现了 0Day 支持，并围绕模型架构与硬件特性实现了高效推理优化。

华为与阶跃星辰持续深化合作，10 月 15 日首套 1024 卡 Atlas 950 SuperPoD 液冷超节点点亮，为 Step 系列大模型提供算力服务，性能持平海外先进算力。

Step 5 Preview：全能前沿，架构革新

Step 5 Preview 采用稀疏 MoE 架构，总参数量 600B，每个 Token 激活 27B 参数，支持 1M Token 上下文窗口和图像、视频的多模态输入。

同时，Step 5 Preview 在软件工程、Agent、专业工作和金融等多个方向上都取得了有竞争力的表现。

Step 5 Preview 与主流前沿模型在 Agentic Benchmark 上的性能对比

Step 5 Preview 采用了全新的 Sparse Attention 结构，支持 1M Token 上下文窗口，先通过 Indexer 选择 Token，在选中 Token 的范围内计算 Self Attention。

为了解决 Index 计算瓶颈的问题，通过以 Region（8 个 Token）为单位压缩 Indexer Key 兼顾效率与性能。

首套 1024 卡昇腾 950 液冷超节点点亮

10 月 15 日，首套 1024 卡 Atlas 950 SuperPoD 液冷超节点随着 Step 5 Preview 的开源同步上线点亮。

昇腾 Atlas 950 SuperPoD 液冷超节点基于灵衢高速互联架构与超节点技术体系打造，是业界规模最大的 1024 卡超节点产品，可提供 1 EFLOPS FP8、2 EFLOPS FP4 精度澎湃算力，高效适配万亿参数大模型的推理场景需求。

昇腾 950 超节点具备 256TB 全局统一内存编址能力、NPU 卡间达 TB 级互联带宽、时延低至 3μs，彻底突破传统集群内计算与存储资源的通信瓶颈；通过系统性架构创新与全域资源统一调度，实现了整套集群算力的高效释放与稳定运行。

首套 1024 卡昇腾 Atlas 950 SuperPoD 液冷超节点点亮

阶跃星辰将与昇腾持续探索大模型推理的性能极限，挖掘模型落地应用价值，共同践行「智能阶跃，十倍每一个人的可能」的发展愿景。

昇腾：软硬协同优化，
释放 950 超节点强大推理潜能

昇腾基于 vLLM Ascend 推理引擎，围绕 Step 5 Preview 模型架构与 950 超节点硬件特性，协同构建高效的推理优化方案。

从 Ascend C 与 Triton 融合算子，到多流并行、计算空泡优化，再到 MTP 投机解码、NPU Graph 图执行，持续打通模型、算子和推理框架之间的优化链路，为 Step 5 Preview 部署提供高效算力支撑。

算子优化：Ascend C 与 Triton 协同，兼顾极致性能与开发效率

针对 Step 5 Preview 的稀疏注意力、模型连接结构与混合专家网络，昇腾结合 CANN 算子能力与 Triton 编程将分散的计算和数据处理实现高效执行。

1、IndexerLogits 与 SparseAttn Ascend C 算子：昇腾 950 超节点新增 FP8 算力，支持 IndexerLogits 的原生 FP8 计算，通过将 Token 打分与 TopK、Sort 等 Token 筛选的过程融合为 Indexer Logits Ascend C 算子，使用成对 Region 搬移提升搬运带宽；借助 SparseAttn 算子使用 Vector 单元的 SIMD 能力替代 Scalar 运算。

2、Triton 融合 Kernel 加速：围绕 Norm、Indexer key 压缩，实现关键融合算子（QK Norm、Index Key 压缩等）优化，通过添加 AutoTune，自动寻优昇腾亲和的 Tiling 大小，使能 950 超节点中的 SIMT 能力，通过 QK Norm 融合和 Indexer Key 压缩实现性能加速。

3、MoE 专家路由优化：围绕 Hash TopK 专家选择，优化路由前处理与精度传递，减少跨层重复操作。

4、MXFP8 量化：昇腾 950 超节点硬件单元实现了 MXFP8 的反量化，通过重新量化权重为 MXFP8 格式，在精度几乎无损的情况下极致发挥 950 超节点的硬件算力。

从核心注意力到专家路由，从融合计算到数据搬运优化，多层次算子协同使 Step 5 Preview 的架构特点与昇腾硬件能力更紧密地结合。

通信优化：FullMesh + CLOS 融合架构与算法创新，大幅提升通信性能

1、FullMesh+CLOS 最大化带宽：950 超节点可以同时利用 FullMesh + CLOS 进行通信，最大化提升 Allreduce、Allgather、ReduceScatter 等通信原语的性能。

2、Dispatch Server 级去重，减少跨服务器重复传输：在昇腾 950 超节点的高吞吐方案中，同一 Token 可能被多个专家选中，如果这些专家位于同一远端服务器，则通过跨服务器先发送一份主副本，再在服务器内分发，减少重复流量。

面对多个发送方，按组分发任务，结合并行通道与批量提交，减少零散发送，让数据传输持续推进。

3、Combine 通过双缓冲，实现 Reduce 与通信回传重叠：专家计算完成后，先对同一输入对应的多份结果进行局部归并，再按数据块回传。

两个输出缓冲区交替使用，让上一批结果回传的同时，下一批继续进行 Reduce（归并），减少归并与回传之间的等待。

框架优化：序列并行、多流并行、Tiling 下沉协同，减少重复操作与调度开销

推理效率不仅取决于算子的执行速度，也取决推理框架如何最大程度减少重复操作，将没有数据依赖的计算并行，通过图模式和异步调度，减少计算单元的等待，让各阶段衔接得更紧密。

1、MoE 序列并行：围绕模型连接结构、引入序列并行降低冗余计算和通信。

2、Vector/Cube/通信多流并行：结合昇腾向量、矩阵计算单元以及通信单元可以并行执行的特点，通过多流调度组织计算与访存交叠，减少串行等待和计算空泡，提高硬件资源利用效率。

3、NPU Graph 图执行优化：将解码阶段的计算纳入图执行，结合持久化缓冲区和输出复用，减少重复调度、临时分配与数据拷贝，使高频解码过程更紧凑。

4、多 Token 预测优化与 Tiling 下沉：适配 Step 系列模型的多 Token 预测（MTP）机制，提升单步生成效率。

通过 Attention 算子的 Tiling 下沉，将主模型与草稿模型、每步推理之间的断流消除，从而减少 Device 空泡，提升运行效率，并借助 950 超节点的高带宽，实现极致的高吞吐。

5、Prefill Indexer Key 压缩阶段 Slot 预分配：通过将模型内动态搜索可用的 Slot（用于存储 Index Key 压缩后的位置）改为预分配，消除了层间的冗余操作。

通过算子执行、图运行与调度策略的协同设计，适配方案从多个层面压缩推理过程中的非计算开销，持续挖掘硬件与模型的性能潜力。

从算子融合到通信优化、框架优化，昇腾将持续推动 Step 5 Preview 的推理能力向实际应用转化，为长上下文、多模态与智能体场景提供高效算力支撑。

Step 5 Preview 昇腾量化版本推理部署指导

用户及开发者可访问以下链接获取 Step 5 Preview昇腾量化版本的推理部署指导，进行体验（实际性能与部署方案、参数配置及软硬件环境等因素相关，并将持续优化提升）：

vLLM Ascend：

https://docs.vllm.ai/projects/ascend/en/latest/tutorials/models/Step-5-Preview.html

注：文中性能比例来自对应算子或局部链路的专项对比测试，实际收益随硬件配置与业务负载变化。