Modal 采用 Nvidia Vera CPU,内部测试显示吞吐量超英特尔和AMD两倍
Nvidia 靠销售 AI 加速器赚了数十亿美元,但随着 agentic AI 的兴起,CPU 将扮演比过去更重要的角色,这也为公司带来了新的机遇。Reuters 报道称,Nvidia 的 Vera CPU 赢得了 AI 云服务商 Modal 的重大设计订单。Modal 表示,初步评估显示,Vera 的吞吐量是其现有 AMD 和 Intel 处理器的两倍,尽管该公司并不打算停止使用现有供应商的 CPU。
Go deeper with TH Premium: CPUModal 提供云端基础设施,使 AI 开发者能够部署可长期自主执行复杂操作的 AI Agent。此类工作负载需要大量的 CPU 资源用于软件执行、数据处理以及其他无法高效由 GPU 处理的任务。Modal 目前在这些操作上完全依赖 AMD 和 Intel 处理器,但其测试表明,Nvidia 的新款 Vera CPU 可能显著提升其特定工作负载的性能。当然,由于 Vera 基于 Arm 指令集架构,Modal 若要采用 Vera,就需要对其软件进行大量修改。尽管如此,Modal 认为潜在的性能提升值得付出额外的工程努力。
据报 2 倍的吞吐量优势特别值得关注,因为 agentic AI 工作负载可能涉及大量独立任务,彼此竞争 CPU 核心、缓存容量和内存带宽。然而,Modal 并未披露其使用的详细基准测试配置、具体的 AMD 和 Intel 处理器型号,或每瓦性能数据。因此,尚不清楚 Vera 的优势究竟源于基于 Arm v9.2 的 Olympus CPU 核心(每周期可解码和执行多达 10 条指令)、具备 1.2 TB/s 带宽的内存子系统,还是其他架构特性。另请注意,测试是将 Vera 与当前可用的 AMD 和 Intel 处理器相比,而非与未来几年将与 Vera 竞争的最新一代产品相比。
Modal 首席执行官 Erik Bernhardsson 表示,由于公司不可能一夜之间把所有软件迁移到 Arm ISA,因此仍会继续使用 AMD 和 Intel 的 x86 CPU。Modal 并不打算在所有场景中使用同一种 ISA,而是计划运营异构服务器集群,为每种工作负载选择最合适的处理器。当然,等 AMD 和 Intel 的新一代处理器上市后,公司也会进行评估,以便未来做出更好的选择。
对 Nvidia 来说,这份合作标志着 Vera 迈向独立服务器处理器、争夺服务器市场份额的重要一步。Nvidia 预计 Vera 在当前财年的销售额将超过 200 亿美元,并估计这类 CPU 的潜在市场总规模约为 2000 亿美元。按目前的进度,Nvidia 在 2026 财年有望售出至少 400 万颗 Vera CPU。
就在此次合作公布前不久,Modal 刚完成由 Accel 领投的 7.5 亿美元融资,估值达 157.5 亿美元。Modal 预计公司年营收将在明年达到 10 亿美元。据《路透社》报道,过去 12 个月里,Modal 的服务用量增长了 3 倍,营收则同比暴涨超过 15 倍。