Nvidia 回应“Vera 预见 agentic 时代”质疑:这种说法太荒谬了
针对 Nvidia 的 Vera CPU,一种由 AMD 主导的批评认为:既然 Vera 在四年前就开始开发,Nvidia(以及在一定程度上拥有 AGI CPU 的 Arm)当时不可能预见到 agentic AI 的兴起,因此不可能专门打造出一款 Nvidia 宣传中常说的“agentic CPU”。Nvidia 数据中心 CPU 业务负责人 Ian Finder 在 SC26 大会期间接受采访时驳斥了这一说法,称“Nvidia 在 Vera 开发之初就预知了 agentic 浪潮”的想法非常荒谬。
“我们对这款芯片的设计理念有自己的坚持,对吧?如果我说我们有一颗能预见 agentic 时代的水晶球,那也太荒谬了,对吧?”Finder 说,“但我们公司确实拥有的、而且已被过往成绩证明的,是设计直觉。”
Finder 表示,Vera 并非专门为 agentic 负载设计——除非能预见未来几年,否则这根本做不到——它的核心特点在于与 Nvidia 加速器的协同设计,这种思路从第一代 Grace 数据中心 CPU 开始就一直在推进。基于数据中心和 AI 负载普遍依赖加速器这一前提(现实也确实如此),Finder 说,CPU 的协同设计可以从一个“概念上很简单的问题入手:我们需要什么样的 CPU,才能让加速器吃得饱、跑得顺?”
虽然问题概念上很简单,但 Finder 在描述 Vera(以及一定程度上 Grace)的诸多特性时,反复强调了一个词——“有主见”(opinionated)。放到 Vera 的整体设计来看,这体现在两个地方:Finder 说,Grace 通过 Nvidia 的 Scalable Coherency Fabric 引入了有主见的内存系统,而 Vera 不仅延续了这套内存系统,还加上了有主见的微架构——Nvidia 的 Olympus 核心设计。
《Finder》描绘的画面是,英伟达在这个领域是从零起步,这与英特尔、AMD 等老牌厂商形成了鲜明对比——后者拥有庞大的客户群,而这些客户有着非常具体的需求,使得他们背负着沉重的“历史包袱”。正如我们在 Vera 芯片的 Olympus 架构最初解读 中指出的那样,英伟达的目标似乎并非从 AMD 和英特尔手中抢夺现有的市场份额,而是去抢占一个正在 AI Agent 驱动下急速扩张的 CPU 新市场。
这种“白纸新画”的思路,加上软硬件协同设计,自然引发了一些关于该 CPU 性能侧重的假设。“如果我们的芯片既要追求极致的单线程性能,又要处理高并发任务,那么我们就必须通过提升 IPC(每时钟周期指令数),而非单纯拉高频率来实现。我们需要确保在重载场景下的内存延迟足够低,并拥有充足的数据带宽——当你在一张白纸上设计产品时,自然不必再受限于‘单核心价格’的商业考量。”
尽管 Finder 明确表示,Vera 的设计初衷并非直接针对当下流行的 Agent 工作负载,但早期确实已现雏形。“如果说在四年前启动 Vera 项目、动笔设计之初,我们就完全预见到了 Agent 的爆发,那就不太准确。但当时我们确实已经看到了工具调用(tool calling)等功能的苗头。我们很清楚 Head Node(核心计算节点)需要什么,也早就看清了这类问题的大致轮廓。”
正如你在我们的 Vera CPU 测试中看到的,这款芯片并非在所有工作负载上都表现优异。而从我们近期 AMD EPYC Venice 的测试数据来看,AMD 阵营已在多项 基准测试中夺回了几个榜首位置。Finder 认为,随着这些系统不断演进、更好地利用现有算力,Vera 出色的内存带宽优势将在 agentic 时代发挥更大的作用。充分发挥 CPU 的价值
这里需要回顾一下背景。今年早些时候 agentic 浪潮兴起时,有人将这种需求描述为从 GPU 转向 CPU 的趋势,这是不对的。随着这类 agentic 工作负载的发展,越来越明显的是:在以 GPU 为中心的环境里,这些循环无法充分利用 GPU——主机节点上的 GPU 往往被过度占用。当然,解决方案不是抛弃 GPU,也不是不再采购 GPU,而是要同时采购足够多的 CPU,才能充分发挥这些算力的价值。 AI 行业的一部分公司(包括 Nvidia 在内)正专注于解决 GPU 充分利用的问题。以当今的需求量,GPU 不应该(也不会)长时间闲置。如今真正的挑战在于:能否在几毫秒内快速启动这些 agent 沙箱,让 CPU 也不至于闲置。Finder 举了一个使用编码 Agent 的例子。如果你以前用过编码 Agent,对这套流程应该不陌生。用户发出提示词后,模型会发起多次微小的工具调用,以读取和定位文件,其间将结果返回给模型。这些调用体积极小、开销几乎可以忽略,绝大部分时间都花在 GPU 上的模型推理中。随后,模型可能会开始编译和测试项目,这一阶段则主要受限于 CPU。Finder 表示,在此期间 GPU 并不会闲置,而是被用于其他用途。他暗示“同样的情况也会发生在 CPU 上”。
“我们不可能只是说,‘好吧,CPU 先歇着,我们就干等着’,这种情况不会发生,”Finder 说。“实际会发生的是,我们会将多个环境打包在一起,并订阅该 socket。”
Finder 称这是一个“非常有趣的计算机科学问题”。Daytona 和 E2B 等 AI 初创公司正在研究如何在毫秒级别内启动和关闭 Agent 沙箱。随着服务的 Agent 数量增加,内存系统自然会承受更大压力,而这恰恰是 Vera 的优势所在。“我们打造的一款产品在没有这些优化时表现就已经非常出色,但它作为一个设计基准,真的会让行业在未来追赶上这一水平时充分受益于这些优化,”Finder 说。
无论你对 Vera 芯片的评价如何,也无论营销材料(无论是来自 Nvidia 还是其他地方)如何呈现它,Vera 都是一枚引人入胜的芯片。尽管内部最初以 Grace 为起点,但 Vera 乘着 Agent 时代的浪潮,在 CPU 领域成为了更具影响力的选手,Nvidia 也已宣布将推出一款采用新 Rigel 微架构的 Rosa CPU 作为后续产品。Vera 确实是一款“观点鲜明”的 CPU,其这一判断是否正确,还有待时间检验。