10月15日消息,当地时间13日下午,英伟达宣布正在将完整的NVIDIA Run:ai平台开源,作为 NVIDIA DSX AI Factory Platform 的一部分。
![]()
开发人员、平台团队和合作伙伴可以基于生产级AI工作负载和GPU编排进行构建,以提高GPU利用率、增加工作负载吞吐量,并更快地将AI工厂解决方案推向市场。
据了解,开源版包含四个可独立采用的核心组件:KAI Scheduler(GPU 感知的 Kubernetes 调度器,已 Apache 2.0 开源、也是 CNCF Sandbox 项目)、GPU Fractioning Operator(基于 CUDA 原生的 GPU 分割,CUDA 13.4 MPS fractioning)、KAI Resource Management(组织级 GPU 配额与层级管理)、Workload Map(一致的工作负载契约)。
八家 NVIDIA DSX 生态合作伙伴 Crusoe、Mirantis、Nebius、OpenNebula Systems、Rafay、Saturn Cloud、Spectro Cloud、vCluster 已将开源 Run:ai 整合进各自方案。
在 8 张 NVIDIA H100 VM 上的基准显示,加载速度比默认 loader 快 3 到 6 倍,稳态带宽 80 Gbps(默认路径约 40 Gbps)。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.