Nvidia 的 AI 优势正从 GPU 延伸至系统层面

在此之前的几周里，关于 Nvidia 的主流叙事是这样的：在 AI 繁荣的前几年，Nvidia 是唯一能提供最先进 GPU 的厂商，随着行业规模扩大，这些 GPU 变得极其有利可图。近几年来，亚马逊和谷歌等超大规模云服务商开始自研芯片，Nvidia 不再是唯一的玩家，这让许多投资者开始质疑其优势的可持续性。 这是一个很有说服力的故事，大体属实。2023 年初至 2025 年中期，Nvidia 的市值增长了 10 倍，但过去一年股价走势趋于平稳，主要受 GPU 竞争加剧的担忧驱动。 自周三发布财报以来，新的叙事逐渐成型，投资者开始意识到 Nvidia 的优势远不止于 GPU。随着 AI 计算规模扩展到吉瓦级，调度编排变得愈发复杂。毫不意外，Nvidia 构建了处理这一任务所需的大部分最先进硬件，这使其在 GPU 之外的系统层面占据了巨大优势，尽管其在 GPU 本身也面临着日益激烈的竞争。 尽管“算力即大宗商品”的呼声很高，但在峰值效率下运营超大规模数据中心依然极其困难——而且随着部署规模越来越大、速度越来越快，这一挑战也在不断加剧。

逐机架来看

仅从 Nvidia 实际销售的产品细节中，就能看出端倪。公司目前正在推出 Vera Rubin 架构，该架构将 Rubin GPU 与其他组件搭配，包括 Vera CPU、Groq 3 LPX 推理加速器，以及用于存储和网络的服务器机架。 过去一周，我与 Nvidia 人士交流了这些系统的实际功能，结果令人惊讶。与 Rubin GPU 本身一样，这些系统也是高度专业化的，但它们不是为了处理 token，而是确保 GPU 以外的所有组件尽可能高效地工作。如果把 GPU 比作引擎，这些就是汽车的其余部分。 特别是 Vera CPU，其核心在于解决数据编排问题。“Vera 至关重要，因为单台服务器或任何计算平台能容纳的内存容量是有限的，”Nvidia 存储技术副总裁 Jason Hardy 告诉我。 随着数据中心算力提升，内存容量也随之扩大，这也是为什么像 Micron 这样的公司能在第二轮基础设施热潮中获利的原因。然而，在正确的时间将数据传输给 GPU 并非易事——随着各公司致力于降低每瓦特生成的 Token 数，他们开始意识到这种流量控制的重要性。 Hardy 表示：“在这些操作中，我们看到了高达 3 倍的性能提升，Vera CPU 实现了加速。现在我们可以充分利用闪存性能，因为它不会成为瓶颈。” Nvidia 以外也能看到类似的问题。当 OpenAI 开发 Jalapeño 芯片时，主要目标是通过尽量减少数据移动来完全避开这些挑战。 “我们设计 Jalapeño 的初衷就是为了最小化数据移动和通信延迟，”该公司在本月早些时候的一篇博客文章中写道。“其巨大的域（domain）允许整个工作负载保持在单个连接系统中，减少了数据移动，并确保从开始到结束的完整请求都能保持快速高效。” 这是一种不同的方法，通过在一个集成芯片内执行工作负载来完全避免数据移动。但整体逻辑是相同的，即通过更智能的流量控制而非更多的处理器周期来提高效率。这反过来又为公司竞争开辟了一个全新的基础设施层级。 这种对数据编排的新关注点并不自动意味着 Nvidia 获胜。公司仍需像竞争 GPU 那样，与芯片制造商和超大规模云服务商竞争。但竞争已经转移到了一个新的层面，在这个层面，构建竞争对手的 GPU 不如让整个系统高效运作重要。 至少在早期阶段，Nvidia 看起来占据了主导地位。