NVIDIA 与微软深化合作:加速计算从 Azure 延伸至 Windows PC
NVIDIA 与 Microsoft 正在将双方的全栈合作拓展到更广范围,帮助企业构建、定制和部署智能应用——从 Azure 上的新一代基础设施,到工业系统和 Windows PC。
在 Microsoft Ignite 大会上,两家公司宣布:由 NVIDIA Vera Rubin NVL72 系统驱动的 Azure 虚拟机将进一步扩大开放;客户可通过 Microsoft Foundry 使用 NVIDIA 开源模型和定制功能;同时还推出了在边缘——即企业产生和使用数据的地方——运行 AI 的新方案。
Microsoft 也在借助 NVIDIA 技术加速自家的模型和服务,包括用于后训练的 NVIDIA Dynamo 推理软件,以及为 Bing 搜索模型提供加速的 NVIDIA RTX PRO 6000 Blackwell GPU。
NVIDIA Vera Rubin NVL72 登陆 Azure
NVIDIA Vera Rubin NVL72 系统现已运行于 Azure 数据中心,为高要求推理、agentic 应用以及大规模模型训练和推理提供基础设施支撑。
双方还在合作将机密计算扩展到 bare-metal 和机架级 AI 基础设施。这项工作能够在数据处理过程中保护敏感模型和数据,满足处理专有或受监管信息的企业需求。
NVIDIA Confidential Computing 与远程证明功能帮助客户在释放敏感模型、数据或密钥之前验证计算环境。随着 AI 工作负载涉及越来越多的互联加速器,双方正致力于将这些保护机制延伸至整个 AI 工厂基础设施。
为了帮助数据中心在现有电力条件下获得更高性能,NVIDIA 与 Microsoft 还在利用 NVIDIA MaxLPS 开展能效优化合作。
Azure 的 Vera Rubin 预览版建立在 NVIDIA 与微软协同设计和性能优化的基础上,最新的基于 NVIDIA Blackwell 的 MLPerf 测试结果也印证了这一点。在 MLPerf Training v6.1 中,Azure 借助 GB200 NVL72 系统在 DeepSeek-V3 模型上扩展至 10,240 块 NVIDIA GPU,创下本轮测试的最大规模。在 MLPerf Inference v6.1 中,据 Signal65 数据,Azure 的 NVIDIA GB300 NVL72 系统在 DeepSeek-R1 交互式吞吐量上领先其他云厂商提交结果超过 10%。
帮助企业定制和部署开放模型
企业级 AI 智能体需要对复杂任务进行推理、查找相关的公司信息并理解业务文档。NVIDIA 与微软正在扩展 Microsoft Foundry 提供的模型和服务,帮助开发者将这些能力集成到业务应用中。
微软的无服务器 Programmed Training 服务让开发者掌控后训练工作流,同时由 Foundry 负责管理底层基础设施。企业可以专注于自身业务数据,评估模型响应并改进模型行为。
Foundry Managed Compute 新增了对部署自定义模型权重的支持,借助微软的托管服务打通了模型定制与部署之间的环节。
EY 利用 Microsoft Foundry 中的 Programmed Training 对 NVIDIA Nemotron 开放模型进行了定制,用于企业采购记录分类,在其评估数据集上准确率提升了 55%,成本相比专有前沿模型降低了 15 倍。这项工作展示了企业如何针对专门的业务任务定制开放模型。
Foundry Managed Compute 上扩充的 NVIDIA Nemotron 3.5 系列可满足企业应用的不同需求。Nemotron 3.5 Super 面向跨编程、研究和业务工作流的长时间运行智能体,而 Lightning 则适用于需要快速响应和工具调用的应用场景。
配套模型方面:Nemotron Embed 和 Rerank 帮助智能体检索相关信息,Nemotron Parse 从文档中提取结构化信息,Nemotron Content Safety 检测有害内容。专为高吞吐、低延迟推理设计的 Nemotron 3.5 Bolt 和语音识别模型 Transcribe 也即将推出。
让 AI 更贴近企业数据
NVIDIA 与微软正在把部署选项拓展到云端之外,帮助企业在更靠近数据的位置运行模型和智能体,同时保持对基础设施和运营的掌控。
Foundry Local 扩大对 Nemotron 3.5 的支持,将推理、编程和工具调用智能体等能力带入 Azure Local 环境。检索模型可帮助应用在文本、文档图像、图表和表格中查找证据。
Azure Local 还将支持来自硬件合作伙伴的 NVIDIA RTX PRO 6000 Blackwell GPU,为企业的本地 AI 部署提供更多选择。
Azure Local 正拓展至 NVIDIA Jetson Thor 和 Jetson Orin 边缘 AI 平台,支持机器视觉、机器人和自主运营等工业应用。NVIDIA 的物理 AI 模型(包括 Cosmos)也将引入 Foundry Local。
在搭载 NVIDIA RTX Spark 的 Windows PC 上,NVIDIA 与微软将在 Ignite 大会上展示本地大语言模型体验,演示开发者如何直接在设备上运行 AI 应用。
针对使用云电脑的企业,双方将为 GPU 加速的 Windows 365 Cloud PC 带来 Direct Stream 功能,支持高负载图形应用,即便在网络状况不佳的情况下,也能以低延迟同时输出两路 4K 60 帧画面。限量预览现已开放注册,公开预览计划于 2027 年初推出。
通过 Microsoft Discovery 连接科学 AI
在科学研究领域,NVIDIA BioNemo Agent Toolkit 和 NVIDIA ALCHEMI Toolkit 正在加入 Microsoft Discovery 目录,将面向生命科学、药物研发以及材料与化学科学的模型引入 Microsoft 的智能体研究平台。
BioNemo Agent Toolkit 让科学家能够用自然语言在 Microsoft Discovery 中运行计算生物学工作流,由智能体协调完成工作所需的各类工具和模型调用。
首个集成采用 RFD4-Proteina 模型,该模型由 NVIDIA 与华盛顿大学蛋白质设计研究所合作开发,可生成候选蛋白质结构和氨基酸序列,供后续评估和实验室验证。
加速 Microsoft 的模型与服务
在让更多客户用上 NVIDIA 技术的同时,Microsoft 自身的 AI 开发和服务也在使用 NVIDIA 软件和加速计算。
Microsoft AI 使用 NVIDIA Dynamo 在后训练阶段支持强化学习 rollout 推理。这一计算密集型过程会生成用于改进模型的经验数据。
Dynamo 可以在庞大的 GPU 集群中协调推理任务、优化性能,并帮助管理请求、模型更新和故障恢复。这一部署建立在 Microsoft AI 与 NVIDIA 联合工程协作的基础上。
欢迎前往 NVIDIA at Ignite 观看覆盖企业应用、机器人、加速数据处理和本地计算等领域的现场演示,展品包括 NVIDIA GB300 NVL72 机架和 RTX Spark 设备。还可观看 NVIDIA 的会议、动手实验和展台演示。