谷歌开源 TorchTPU，联手亚马逊挑战英伟达 AI 芯片垄断

周二，Google 宣布，期待已久的 TorchTPU——PyTorch 的 Google 版本——现已开源。借此，Google 加入 Amazon 的行列，试图打破 Nvidia 在 AI 行业的垄断地位。目前，大多数 AI 应用默认都是为 Nvidia 的芯片（即 GPU）编写的。

PyTorch 是 AI 应用开发者和创业公司广泛使用的开源工具包，用于构建、训练和运行 AI 模型。据估计，85% 的 AI 应用都在使用它。PyTorch 由 Meta（当时还叫 Facebook）于 2016 年开发，那时世人对 LLM 将改变世界还一无所知。当时 Nvidia 的 GPU 已经是 AI 研究的标准硬件，因此 PyTorch 的许多功能都是专门为 GPU 设计的。2022 年，Meta 将 PyTorch 移交给了 Linux 基金会——一家管理着众多重要开源项目的非营利组织。

Google 的版本 TorchTPU 可以让 AI 应用运行在 Google 自研的 AI 芯片 Tensor Processing Units（TPU）上，也方便开发者把现有的 PyTorch 应用迁移到 TPU，进而迁移到 Google Cloud。开发者只需修改一下配置，无需重写应用。

Amazon 在周一也发布了类似消息，推出了自家的 PyTorch 版本 TorchNeuron。它可以让 AI 应用无需重写就迁移到 Amazon 自研的 AI 芯片 Trainium 上，并运行在 AWS 上。Amazon 还表示，为了松动 Nvidia 对 PyTorch 的掌控，它将更进一步：向 PyTorch 主项目提交代码，把各种功能从 Nvidia 芯片中解耦，让 PyTorch 默认就能支持任何硬件。

不过，Google 可能在几个方面比 Amazon 更胜一筹。它表示与 Meta、Hugging Face、Inferact（vLLM 的开发商）、RadixArk（SGLang 的开发商）等直接合作，确保 TorchTPU 的功能和代码库能与这些流行的 AI 开发工具良好兼容，就像原版 PyTorch 一样。

搜索巨头还推出了一款名为 TPU agent suite 的专用工具，帮助开发者将应用迁移到谷歌的芯片和云平台，并在迁移过程中修复错误。它甚至更新了广受欢迎的 LiteRT 工具（用于在智能手机、笔记本电脑和嵌入式设备上运行 AI），使其与 PyTorch AI 应用有更好的兼容性。

当然，这些举措并不意味着 AI 应用开发者会因为现在可以轻松迁移到替代芯片和云平台，就自动地大规模放弃 Nvidia 的硬件。但亚马逊和谷歌显然正在努力终结 Nvidia 的优势地位。