← 文章 / 云原生与基础设施
NVIDIA 博客 10天前 · 2026-11-12 12:12:56 · 11 阅读

NVIDIA 捐赠 OpenShell 并推出新 AI 基础设施,加码开源

Kubernetes 是一个开源系统,管理着成千上万座 AI 工厂中应用的运行方式,如今已成为 AI 的基础设施,而它面临的压力还在不断加大。

为了应对这些挑战,NVIDIA 正在 Kubernetes 和云原生社区的旗舰大会 KubeCon + CloudNativeCon 上加深对开源的投入。

NVIDIA 正在向云原生计算基金会(CNCF)捐赠 NVIDIA OpenShell——一个用于保障自主智能体安全与治理的开源运行时。CNCF 是 Linux 基金会旗下的非营利组织,也是 KubeCon 的主办方。作为 CNCF Sandbox 项目,OpenShell 将由那些把它集成到自家产品中的组织共同治理,并借助全球安全专家的力量不断完善。

NVIDIA 还为 Agent Substrate 做出了贡献。这是一个由 Google 主导的开源框架,用于在 Kubernetes 上大规模运行长时间运行的智能体工作负载,并已被 CNCF Sandbox 接收。

此外,NVIDIA 还发布了 NVIDIA DSX AI Factory Platform 的几个新组件:NVIDIA Kubernetes Engine、NVIDIA Kubernetes Recipes 和 NVIDIA Snapshot。这些工具帮助团队在 Kubernetes 上部署、管理和扩展用于 AI 工厂的 GPU 基础设施。

这些进展共同推动 Kubernetes 成为大规模 AI 工作负载的领先基础,助力开发者构建更安全、更高效的未来 AI 基础设施。

以开放方式保障 AI 智能体安全

NVIDIA 将 OpenShell 捐给 CNCF,意味着自主智能体的安全基础设施交由社区来构建、审查和改进——这将加快开发速度,也让安全防护更加坚固。

Linux 基金会 CEO Jim Zemlin 表示:“云原生社区面临着一项新的基础设施挑战:为智能体(agents)提供安全可靠的运行环境。NVIDIA 将 OpenShell 捐赠给 CNCF,为开发者提供了一个共建共享的基础平台,也为他们参与塑造智能体安全体系演进带来了机会。这项工作引入社区后,将推动更广泛的协作,而这些基础设施对下一代云原生应用至关重要。”

OpenShell 让组织能够掌控 AI 智能体的行为。它对智能体活动施加确定性控制(deterministic controls),使团队能够在智能体使用工具、访问推理服务及执行工作负载时强制执行既定策略。其可扩展架构允许团队接入自有的计算资源、推理提供商、凭证存储及监控工具。这使组织能够在不同的部署环境中实施治理,同时让 OpenShell 与现有企业系统无缝集成。

已有数百家组织投入使用 OpenShell,该项目在上线不到一年时间内便收到了数以万计的贡献。

在 Kubernetes 上大规模运行智能体

治理智能体只是挑战的一部分。组织还需要在大规模场景下部署它们。

NVIDIA 正在支持 Agent Substrate 项目,这是源自 Google 并位于 CNCF 沙箱(Sandbox)阶段的项目,NVIDIA 正在确保其与用于模型推理的 NVIDIA Dynamo 以及用于共享集群资源分配的 KAI Scheduler 良好协作。这项努力将智能体执行、推理服务及资源调度整合在了 Kubernetes 上。

Agent Substrate 在任务之间保留智能体的运行环境,并在智能体空闲时释放计算资源。通过在共享的智能体池之间暂停和恢复这些环境,它让团队无需为每个会话保留专用计算资源,即可轻松扩展智能体工作负载。

NVIDIA 和 Google 还在合作推动 OpenShell 与 Agent Substrate 的集成,使企业能够在云环境和本地系统中安全地治理智能体。

为 AI 工厂打造开放基础

AI 工厂既要为客户提供托管的 Kubernetes 服务,又要保留对基础设施、软件和客户体验的掌控。三个新的开源项目扩展了 DSX AI Factory 平台,让 Kubernetes 更易运行、推理更快扩展。

NVIDIA DSX AI Factory 平台软件栈,涵盖 GPU 基础设施、Kubernetes 管理、工作负载编排和模型服务。
NVIDIA DSX AI Factory 平台软件栈,涵盖 GPU 基础设施、Kubernetes 管理、工作负载编排和模型服务。

NVIDIA Kubernetes Engine(NVKE)和 NVIDIA Kubernetes Recipes(NVKR)现已开启公开预览,为在 GPU 基础设施上交付托管 Kubernetes 服务提供开源构建模块。它们可以自动化集群生命周期管理,并提供签名且版本锁定的镜像。

NVKE 和 NVKR 发布时获得了生态系统的支持,覆盖各类 AI 基础设施平台和云服务。Mirantis、Netris、OpenNebula Systems、Rafay、Spectro Cloud 和 vCluster,连同 Firmus 和 SK Telecom,已与 NVIDIA 达成集成计划,将把 NVKE 和 NVKR 的能力纳入各自的产品。

NVIDIA Snapshot 解决的是如何快速上线额外推理容量的难题。加载模型和预热工作负载往往会拖慢扩展和恢复速度。这个开源模块化组件可以在几秒内恢复已做检查点的副本,无需重新加载模型或预热,为 Kubernetes 上的推理和智能体工作负载提供更快的启动、恢复和弹性能力。

设计合作伙伴 Crusoe 和 Saturn Cloud 已在各自业务中评估了 Snapshot 在 NVIDIA HGX B300 系统 上的表现。Crusoe 是 Snapshot 的上游贡献者,其在 Crusoe Cloud 上对 GLM-5.3 进行实测,将负载就绪时间从约 8 分钟大幅缩短至 31 秒。Saturn Cloud 作为一个 Token 工厂平台,针对从 0 扩展到 N 的推理场景对 Snapshot 进行了基准测试,成功将 vLLM 启动时间从 2 至 8.5 分钟缩短至 6 至 34 秒。

欲了解更多详情,请访问 NVIDIA 参加 KubeCon。

原始来源: NVIDIA 博客

评论 (0)