完整平台开源,Run:ai让GPU调度不只停在排队

2026年10月14日 由 ATYUN编辑部 发表 621 0
共享GPU基础设施中相邻的服务器机柜和规整线束示意
共享GPU机房示意图,非实际产品或部署现场。

GPU买到了,训练任务却仍在排队;另一组实验占着显存,计算又没有跑满。企业AI基础设施的矛盾,常常不在芯片数量,而在资源怎样分给不同团队。10月13日,NVIDIA开放完整Run:ai平台源码,把工作负载管理、配额、调度和观测放进可检查的同一套系统。变化不是又多一个模型,而是平台团队能否把“共享算力”真正做成服务。

快速看点:完整平台与可独立采用的组件同时开放;GPU分配不仅要排队,还要落实到节点上的显存边界;社区发行不需要付费Run:ai订阅,但不附带企业支持,安装包与源码的许可不能混为一谈。

开源的是整个平台,不是替代Kubernetes

这次开放位于DSX AI Factory体系内,重点是Run:ai软件栈。它与机柜配置、设施准备检查等工具不是同一层:后者回答设备是否准备妥当,前者处理开发、训练和推理作业怎样使用已经存在的集群。把两类更新分开,才看得清实际新增能力。

仓库包含控制平面、集群服务、安装器、命令行、MCP服务及共享客户端。用户提交作业,控制平面管理组织、策略与配置,集群服务再将工作负载和状态连接起来。Run:ai运行在Kubernetes之上,不取代容器运行时,也不负责替企业建立完整的持续交付流程。

这种定位给现有平台留出了选择空间。已经使用Ray、Kubeflow或KServe的团队,可以把作业生成和算力分配分开;需求只是单个团队使用独占GPU时,也未必需要马上引入整套管理层。软件可获得,和软件值得在当前规模部署,是两个判断。

四个模块,把调度和执行边界拆开

完整平台提供四个可单独采用的组件:KAI Scheduler负责调度;GPU Fractioning Operator负责GPU份额在节点侧的落实;KAI Resource Management管理部门、项目、配额和节点池;Workload Map提供一致的工作负载管理契约。它们连成一条链,但企业不必为补一个能力缺口重建所有平台。

调度器决定任务拿哪张卡、拿多少资源,不能因此假定容器真的被限制住。GPU份额组件在容器创建时注入显存请求和上限,并借助驱动能力执行边界,同时导出逐Pod的显存与利用率指标。这把“批准的份额”与“实际消耗”联系起来,方便调查谁在占用共享资源。

这套机制有明确前提。当前组件要求Kubernetes 1.28或以上,以及支持NRI的容器运行时;GPU节点还需要r615或更新驱动,对应CUDA 13.4相关能力。GPU Operator的默认驱动并不一定满足要求,工具链和设备插件也有版本门槛,不能只看到安装成功就认定显存限制生效。

尤其值得注意的是,组件允许关闭部分版本检查,但关闭检查不会让不兼容的软件栈突然具备隔离能力。平台团队应把实际显存上限、超额后的失败行为和监控数据纳入验收,不应把一个绿色Ready状态当成全部安全证明。

社区发行免费,不等于交付没有成本

主仓库软件采用Apache 2.0许可,同时保留第三方组件各自的条款。完整栈也以NGC社区产品和Helm chart形式提供,不要求付费Run:ai订阅或NVIDIA支持权益,但下载仍须接受对应软件和产品条款,企业支持不包含在内。代码许可、打包分发和商业服务应分别核对。

对企业实施团队,实际价值是把“谁能提交任务、谁能借用空闲容量、谁能抢占任务”变成可审查的配置。可是开源公告没有替每家企业证明吞吐收益,也没有给出通用节省比例。训练与交互推理混跑时,平均利用率上升,还可能伴随尾部延迟或故障影响扩大。

一个可复用的试点,可以先选低风险节点池,保留原调度路径,对比队列等待、任务完成时间、推理P95延迟、显存超额次数和人工介入量。再模拟节点故障、驱动升级与控制平面不可用,确认恢复路径和权限边界。这里的检查清单是实施建议,不是已经测得的客户成绩。

小编判断:先证明能管住,再证明能省钱

Run:ai完整开源让GPU平台的内部逻辑更容易被检查和集成,值得重视的不是“免费”两个字,而是资源分配、执行与观测能否形成闭环。它降低了试用和二次开发的入口门槛,却不会消除适配、维护和现场排障的工作。

企业若要推进,优先交付一份可以复现的验收结果:配额确实生效,超额不会悄悄侵占邻居,指标能定位到作业,故障后能恢复。随后再谈扩大共享比例和降低成本。只有当这些边界站得住,开放源码才会从技术选项变成可靠的生产能力。

文章来源:AI Agent
欢迎关注ATYUN官方公众号
商务合作及内容投稿请联系邮箱:bd@atyun.com
评论 登录
热门职位
Maluuba
20000~40000/月
Cisco
25000~30000/月 深圳市
PilotAILabs
30000~60000/年 深圳市
写评论取消
回复取消