苹果推出 Core AI 框架，为自研芯片优化端侧生成式 AI

在 2026 年 WWDC 大会上，苹果发布了

苹果表示，新的 Core AI 框架提供了一个统一的架构，可在 iPhone、iPad、Mac 以及 Apple Vision Pro 上部署

Core AI 是 Apple Intelligence 的底层技术，随着苹果下一代操作系统与工具链发布，开发者将可使用该框架打造苹果所称的 “自定义智能功能”。Core AI 只能在 Apple Silicon 上运行，确保用户数据隐私、零服务器依赖，也不会产生按词元计费的云端开销。

Core AI 的关键能力包括：统一硬件访问，工作负载可使用单个 API 在 CPU、GPU 和神经网络引擎上无缝运行；内存安全的 Swift API 可实现零拷贝数据路径和对推理内存的精细控制；提前（AOT）编译技术，将运算预处理工作转移至设备外部完成，实现近乎瞬时的模型加载速度。
如前所述，你可以使用 torch.export.ExportedProgram，然后使用 TorchConverter().add_exported_program(ep).to_coreai() 将其转换为 CoreAI 的 AIProgram。

或者，你可以使用库提供的

转换 PyTorch 模型时，一个关键步骤是

模型压缩有助于减少模型的内存占用（包括磁盘大小和运行时占用）、降低推理延迟、降低功耗，或同时实现以上全部优化。

运行 AIModel 有一个关键特性：模型会自动

随着 Core AI 的推出，苹果为其操作系统上的 ML/AI 提供了三种不同的运行方式：Core ML、Core AI 和 MLX Swift。根据 Hacker News 上的开发者讨论来看，

查看英文原文：