輝達於 10 月 13 日宣佈,將完整的 Run:ai 平台以開源軟體形式對外發布,使其成為 NVIDIA DSX AI 工廠平台的開源基礎層。客戶、開發者與生態夥伴由此可以直接獲取生產級的 AI 工作負載與 GPU 編排能力,而不必依賴付費訂閱。

Run:ai 過去幾年幫助企業在 Kubernetes 上大規模執行 AI 任務,核心能力是動態分配 GPU 資源,並覆蓋從資料處理、訓練到推理的完整工作負載生命週期。此次開源後,輝達希望 DSX 生態夥伴與 AI 雲廠商都能借此提升工作負載吞吐、改善 GPU 利用率,並更高效地運營共享 AI 基礎設施。

開源釋出包含四個可獨立採用的模組。KAI Scheduler 負責 GPU 感知的 Kubernetes 排程;GPU Fractioning Operator 提供 CUDA 原生的 GPU 切分共享能力;KAI Resource Management 處理組織層面的配額與層級管理;Workload Map 則定義統一的工作負載管理契約。這些模組與其餘平台程式碼共同構成完整的 Run:ai 平台。平台團隊既可以整體採用,也可以基於它構建自有產品,或按需整合單個元件。

在獲取方式上,完整原始碼已託管於 NVIDIA DSX AI 工廠 GitHub 組織下的 Run:ai 倉庫,團隊可審查程式碼、參與開發或直接採用模組化元件。完整開源平台同時以社群產品形式上線 NVIDIA NGC,並提供用於安裝整合棧的 Helm chart。輝達說明,該社群產品遵循適用的開源許可,從 NGC 下載需接受相應的 NVIDIA 軟體許可協議與 AI 產品特定條款;社群產品不要求付費的 Run:ai 訂閱或 NVIDIA 支援權益,也不包含企業級支援。

生態夥伴方面,已有八家 DSX 夥伴將開源 Run:ai 整合進各自方案。Crusoe 將其與 Crusoe Managed Kubernetes 結合,把 GPU 工作負載編排與託管 Kubernetes、GPU 基礎設施打包;Mirantis 在 k0rdent AI 中擴充套件 Run:ai,提供從金屬到模型的 AI 工廠棧,自動化基礎設施供給並提升 GPU 利用率;Nebius 在 Nebius AI Cloud 中以一鍵應用方式提供 Run:ai,方便客戶在其託管 Kubernetes 服務上部署運營完整平台;OpenNebula Systems 通過 OneKS 將 Run:ai 與 OpenNebula AI Cloud Platform 整合,面向開放與主權 AI 雲;Rafay 把 Run:ai 整合為全託管服務,自動化從 GPU 基礎設施、叢集到控制平面與租戶的整棧,供 AI 雲廠商與企業通過自助目錄提供;Saturn Cloud 藉助 Run:ai 在其 Token Factory 平台上支援白標 AI 推理服務,結合 GPU 編排與專用及多租戶模型服務、按 token 計量和自動計費;Spectro Cloud 也在將 Run:ai 整合進其平台。

此外,相關開源專案 Model Streamer 與 Grove 對平台形成補充,分別用於加速模型載入與編排多元件推理工作負載。

從產業視角看,輝達把原本商業化的 GPU 編排層開源,實質是把軟體門檻進一步壓低,讓更多 AI 雲與 Kubernetes 服務商能在其 GPU 之上快速搭建差異化方案。對生態夥伴而言,這縮短了產品上市時間;對輝達而言,更廣泛的軟體採用有望強化 DSX AI 工廠作為整體方案的吸引力,並與其硬體銷售形成協同。開源模式也意味著編排層的競爭將從單一廠商產品轉向社群與生態的協作,後續各夥伴的整合深度與商業化路徑值得持續觀察。