Granite Switch 4.1：单端点实现对话、决策与语音转换

Granite Switch 项目于去年春天推出，旨在以模块化的方式进行模型开发。如今，Granite Switch 4.1 模型配备了 Decision adapter 和 OpenASR 排行榜上速度最快的 ASR 模型，可以在同一个托管 endpoint 上高效切换：既能生成自然语言回复，也能执行通用与专业决策任务，还能完成语音转文本。

具体来说，Granite-Switch-4.1-8B 和 -30B 模型包含以下配置：

1. 全新的 Decision aLoRA，用于通用决策任务（如 v1/systemone），
2. 专用的 Guardian aLoRA，在安全相关决策任务上的平均表现优于 Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions 和 Clef-Flash，
3. 内嵌的 Granite-Speech-5.0-Turbo-CTC，它是 OpenASR Leaderboard 上速度最快的 ASR 模型，可用于转录任务。

这三项技术（连同底层基座模型）被组合成一个模型，在 GPU 上占用的 VRAM 与基座模型单独运行时基本相当。也就是说，用更少的 GPU 就能获得更多能力。

翻译

Granite-Switch-4.1-8B 和 -30B 以“开箱即用”的形式发布。我们预置了一组实用的 adapter，编译出这些 Granite Switch 模型。但你不必非用我们的版本——任何人都可以从 Granite Libraries 中挑选和组合 adapter，灵活搭配出自己的 Granite Switch 模型，以满足各自的具体需求。

展望未来，社区在组合和扩展 Granite Switch 模型方面潜力巨大，既可以采用定制 adapter，也可以接入第三方 adapter。我们计划发布一个 Adapter SDK，用于在 Mellea 中训练 adapter，并配套其他教程及 Granite Switch 支持方案。这些 adapter 可以是专门用于增强决策流程的分类器，也可以是面向特定语言任务的组件。你甚至可以利用自定义 adapter，教一个 3B 参数版本的 Granite 去玩经典游戏 Doom。

与 Jev 类似，我们自研的 3B 参数 Granite Switch 模型能够瞬间做出判断来操控 Doom，但它的决策频率高达 60 - 100 次/秒，而 Jev 的公开数据仅为 10 次/秒。¹ 与 Jev 不同的是，这款 Granite Switch 模型在游戏过程中还能进行旁白解说，并回答玩家的提问。

未来几周内，我们会陆续放出更多关于 Granite Switch 的详细信息和数据。在此之前，欢迎大家先体验我们最新的 Switch 模型，并参考以下资源快速上手。

上手资源

• Granite Switch 4.1 模型卡片
• 语音转决策 Demo
• Granite Switch GitHub 仓库
• Granite Switch 与 Granite Libraries 首发博客
• 在 Colab 上运行 aLoRA 与 LoRA 对比实验。

---

脚注

¹ https://typesafe.ai/blog/introducing-system-one-models-and-jev