← 文章 / 开源项目
HuggingFace博客 2026/10/21 · 2026-10-21 01:55:04 · 24 阅读

AnyLanguageModel 1.0 发布:Apple 平台本地模型统一开发框架的一年演进

去年十一月,我们在本博客上介绍了AnyLanguageModel: 它是 Apple Foundation Models 框架的即插即用替代方案, 允许你自由选择应用所使用的模型和服务提供商。 我们收到了来自应用开发者的反馈,他们想了解本地模型,但不确定如何入门, 同时也希望避免支持多个推理提供商带来的复杂性。 AnyLanguageModel 正是基于这些反馈发展而来的。

本地推理和托管推理各有优势, 两者在新智能应用的构建中都扮演着重要角色。 统一的 API 让你能更轻松地针对每个任务选择最合适的模型。

一年过去,经历了数十个版本迭代后, AnyLanguageModel 1.0 正式发布, 同期发布的还有 swift-huggingface 1.0 和 swift-xet 1.0。

以下是主要变更和后续计划:

即插即用的兼容 API

AnyLanguageModel 的核心理念保持不变: 使用 Foundation Models API,并搭配最适合你应用的模型。 要开始使用,只需更改你的 import 语句:

- import FoundationModels
+ import AnyLanguageModel

同样的会话代码即可用于系统模型, 也可用于通过 llama.cpp、MLX 和 Core ML 运行的开源权重模型, 以及下文列出的托管提供商。

过去一年来,我们增加了多项重要功能:

  • 工具调用 支持所有提供商。
  • 引导生成 同样支持所有提供商, 包括嵌套的 @Generable 类型及其数组。
  • 图像支持 允许你在提示中附加图像, 采用 Foundation Models 27 的语法, 包括在 iOS、macOS 和 visionOS 27 上使用系统模型时。

在 OS 27 上,AnyLanguageModel 还兼容 任何符合 Foundation Models LanguageModel 协议的模型, 包括 Core AI 模型。

除了 AnyLanguageModel,我们还构建了 swift-huggingface 和 swift-xet, 以便在 Swift 应用中加速从 Hub 下载模型。

托管模型支持

今年对托管模型的支持也扩大了。 AnyLanguageModel 现在支持:

  • OpenAI 的 Chat Completions 和 Responses API
  • Open Responses, 适用于任何拥有兼容端点的提供商
  • Anthropic 的 Messages API,支持自适应思维和努力程度选项
  • Google 的 Gemini API
  • Ollama
  • 在 OS 27 上运行私有云计算
  • Hugging Face 推理提供商, 以及其他通过自定义 base URL 连接的 OpenAI 兼容端点(如 OpenRouter)

使用推理提供商, 你可以使用与本地模型相同的会话代码, 来处理那些因为太大而无法在设备上运行的开放权重模型:

let model = OpenAILanguageModel(
    baseURL: URL(string: "https://router.huggingface.co/v1/")!,
    apiKey: ProcessInfo.processInfo.environment["HF_TOKEN"]!,
    model: "openai/gpt-oss-120b",
    apiVariant: .chatCompletions
)

托管提供商享有与本地模型相同的功能: 引导生成、带流式传输的工具调用, 以及响应中的 token 使用情况。

推理过程现在也是转录记录的一部分。 当你切换提供商时, 如果新提供商无法重放这些内容,推理块会自动从请求中省略。

API 密钥现在来自闭包而非字符串, 因此你的应用可以从自己的服务器获取短期令牌。 README 解释了何时允许用户自带密钥,何时通过代理路由请求。

AnyLanguageModel 也支持在 Linux 上运行, 因此相同的代码可用于服务器端。

开放权重模型表现更佳

虽然我们让本地模型更易用, 但模型本身的能力也在提升, 使得小模型成为不错的起点。 以下是目前 Hub 上下载量最大的部分模型:

前两个模型能在 iPhone 上运行,Qwen3.8 27B 则需要 32 GB 以上内存的 Mac。加载 MLX 模型只需一行代码:

let model = MLXLanguageModel(modelId: "mlx-community/Qwen3.8-27B-4bit")

如果你手头有四台顶配 Mac Studio,Z.ai 的 GLM-5.3 在 BF16 精度下约需 1.5 TB 存储。对我们其他人来说,可以通过 Inference Providers 使用它。

升级到 1.0

dependencies: [
    .package(
        url: "https://github.com/huggingface/AnyLanguageModel",
        from: "1.0.0",
        traits: ["MLX"]
    )
]

如果你要升级现有应用,请参考 AnyLanguageModel、swift-huggingface 和 swift-xet 的发布说明中的迁移指南,帮助你更新代码。

社区的反馈和贡献塑造了我们的多个重要特性。感谢所有贡献者,是你们让 AnyLanguageModel 对应用开发者更有用。

接下来

语言模型已被证明是为产品注入智能的强大工具,但它只是开发者可用的众多模型类型之一。我们很高兴把同样的理念扩展到更多能力上:熟悉的 Swift API,加上可在设备上运行的多样的模型选择。即将到来:会思考的模型和会聆听的模型。

链接

原始来源: HuggingFace博客

评论 (0)