NVIDIA 发布 Minerva:为 AI 工厂打造端到端可观测性平台
NVIDIA Minerva 今日正式发布,这是一个 AIOps 平台,旨在帮助团队更早发现问题、保障 AI 工厂持续高效运转。它汇聚来自基础设施和 AI 工作负载的遥测数据,再借助专门构建的 AI 模型,把这些数据转化为及时、可落地的洞察。
AI 工厂是全球最复杂的运营体系之一,海量 GPU 通过高速网络协同,训练模型并支撑 AI 应用。在这种规模下,一个组件性能下降就可能拖慢整个作业,而预警信号往往很容易被忽视——比如某块 GPU 比同组运行温度偏高,或某块 NVMe 硬盘在高负载下性能下滑。
该平台聚焦于 AI 工厂的产出率(yield),即通过 GPU 使用时长、有效吞吐(goodput)、集群在线率和 token 产量来衡量基础设施产生的有效工作量。
查看 NVIDIA 欧洲全部发布内容为 AI 工厂提供动态全景视图
传统监控工具往往把数据中心割裂成一个个孤立视图:网络、计算、站点可靠性和机器学习团队各自只能看到运营的一角。Minerva 则打通了 NVIDIA GPU、网络、存储、调度器和工作负载之间的信号。
基于这些信号,Minerva 构建了一个动态知识图谱,从逻辑上映射基础设施——GPU、SuperNIC、交换机和线缆——以及其上运行的作业。凭借这些上下文,运维人员可以追踪一个变慢的训练作业,定位到影响它的具体组件,即便在拥有数十万块 GPU 的工厂中也能做到。
平台每小时分析数十亿个数据点,综合运用有监督和无监督机器学习:学习正常行为模式、检测前所未见的异常、预测即将发生的故障,并依据工厂拓扑关联相关事件。它不是把每个症状都推给运维人员,而是能把事件风暴归类为一个聚焦的事故,并给出可能的根因。
Minerva 内置原生 AI 助手,也可对接外部 agentic AI 工具,从而提供一个基于实时遥测数据的自然语言交互界面。运维人员可以通过对话排查集群健康状况,并获得修复建议。团队既可以保留人工环节手动执行修复,也可以通过基础设施 API 和外部系统把 Minerva 接入自动化流程。
最大化 AI 工厂产出的成果
将工作负载与基础设施问题关联起来分析,再结合其 agentic AI 能力,Minerva 大大简化了 AI 工厂的运维。运维团队不必再面对海量告警,Minerva 会把相关的问题聚合为一条可操作的事项,让 AIOps 团队从被动响应转向主动维护,从而最大化 AI 工厂的 GPU 在线时间。
围绕 AI 工厂关注的关键指标,Minerva 带来了实实在在的价值:
- 更长的无中断运行时间:Minerva 能在故障发生前发现问题,让任务运行得更久、更稳。
- 更快的修复速度:一旦发生故障,Minerva 能精准定位问题,大幅缩短解决时间。
- 更清晰的洞察:现代 AI 基础设施每天产生海量数据,Minerva 从中过滤出真正重要的告警。
IREN 是使用 Minerva 优化 AI 工厂的 NVIDIA 合作伙伴之一。
“随着 AI 工厂规模不断扩大,为客户提供了最优服务的关键在于最大化 GPU 的生产力,”IREN 首席技术官 Denis Skrinnikoff 表示。“NVIDIA Minerva 让我们的运维团队在网络、GPU 以及其上运行的任务之间获得统一视图,从而能更专注于主动维护,而不是被动排障。这种可见性也为我们下一步建设的基础设施巩固了运营模式。”
除 IREN 外,Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI 和 Tesla 也计划部署 Minerva。
除了 Dell Technologies,Lenovo 和 Supermicro 也将把 Minerva 纳入各自的 AI 工厂运营方案中。
了解更多关于 NVIDIA Minerva 的信息。
软件产品信息请参见 相关声明。
阅读所有 NVIDIA 欧洲相关公告