TorchAir
开发框架/库 27 免费TorchAir 是华为昇腾推出的开源工具,支持用户基于 PyTorch 框架和 torch_npu 插件在昇腾 NPU 上使用图模式进行推理。它自动将动态图编译为静态图,充分利用 NPU 硬件加速能力,显著提升推理性能并降低显存占用。
产品简介
TorchAir 是华为昇腾推出的开源工具,支持用户基于 PyTorch 框架和 torch_npu 插件在昇腾 NPU 上使用图模式进行推理。它自动将动态图编译为静态图,充分利用 NPU 硬件加速能力,显著提升推理性能并降低显存占用。