第10章 OS3 自定义模型指南:如何使用 BYOK(自带密钥)
OS3 提供两种模型选项:一种是 Rabbit 托管模型,由 Rabbit 选择并运行模型,费用由你支付给 Rabbit(详见 OS3 计划与定价);另一种是自定义模型,本文将主要介绍这部分内容。
使用自定义模型时,OS3 会调用你从受支持模型服务商处提供的 API key 运行。你选择服务商和模型,并直接向你使用量付费的服务商支付费用。这就是“BYOK”(Bring Your Own Key,自带密钥)的含义。
在 设置 → API 密钥 中,可以添加密钥、更改 OS3 使用的密钥,以及切换 Rabbit 托管模型和自定义模型。
支持的服务商
Provider How models are chosen Anthropic (Claude) OS3 knows this provider's models and offers a list OpenAI OS3 knows this provider's models and offers a list Google Gemini Models are read from your account after the key is saved OpenRouter Models are read from your account after the key is saved Vercel AI Gateway Models are read from your account after the key is saved Ollama Cloud Models are read from your account after the key is saved Z.ai, Z.ai Coding Plan Models are read from your account after the key is saved Moonshot (Kimi) Models are read from your account after the key is saved MiniMax Models are read from your account after the key is saved xAI (Grok) Models are read from your account after the key is saved OpenCode Go Models are read from your subscription after the key is saved Local model A model served from one of your own connected computers Custom provider Any OpenAI-compatible endpoint you give OS3 the address of
随着模型和服务商的变化,该列表可能会更新。以 OS3 当前实际包含的内容为准。
添加密钥
在你选择的服务商处创建 API key。如果你创建的是受限密钥,它必须能够列出模型并调用你计划使用的模型。
在 OS3 中,打开 设置 → API 密钥。如果已经保存了密钥,请选择 添加服务商。
选择服务商并粘贴密钥。OS3 会显示你选择的服务商创建密钥的入口。
选择 注册密钥。
OS3 会在保存前向服务商验证密钥。被服务商拒绝的密钥(例如账户余额不足的密钥)会被拒,并显示原因。
你的密钥是只写的:保存后,OS3 只会显示脱敏版本。
选择模型
OS3 将任务分为两个等级:小型(small)和标准(standard),以便轻量任务可以使用更便宜或更快的模型。在 模型 下,每个等级有三个选项:
密钥 —— 该等级使用你保存的哪个密钥, 模型 —— 该服务商的哪个模型被运行,以及 推理深度 —— 模型进行推理的程度(针对提供此选项的模型)。保持默认值,OS3 会根据任务自动选择。
更改会在你操作时自动保存。
对于 Anthropic 和 OpenAI,OS3 会提供其已知模型的列表。对于其他服务商,OS3 在你保存密钥后会从你的账户读取列表,你必须在 OS3 运行任何任务前选择一个模型。在此之前,请求会被拒绝,并提示你选择模型。
使用多个服务商
你可以同时保存多个服务商的密钥。每个等级可以使用不同的密钥,例如让标准等级在一个服务商上运行,让小型等级在另一个服务商上运行。新添加的密钥会开始服务尚未有关联密钥的等级;已有密钥的等级会保持不变,直到你更改它们。
使用本地模型
本地模型 选项会在你已通过 Rabbit Agent 连接的计算机上运行模型,而不是在服务商的服务器上——例如使用 Ollama、LM Studio、vLLM 或 llama.cpp。需要满足:
一台在线且已连接的计算机, 模型提供的本地地址(OS3 提供常见选项),以及 模型的 ID。
只有当你的模型服务器要求时才需要 API key。如果检测到的上下文窗口不适合你的模型,可以在 高级 设置中手动配置。OS3 会在保存前测试连接。
图像
OS3 还可以使用模型来理解、生成或编辑图像。在 API 密钥 页面的 图像 部分进行设置:
选择 添加图像模型。 在 类型 下选择用途:理解图像、生成图像或编辑图像。 在 密钥 下,复用已保存的密钥,或选择 新密钥,挑选服务商并粘贴密钥。 选择或输入模型,然后验证并保存。OS3 会在保存前确认其可用。
删除图像模型时,也会删除为其保存的密钥。
更改或删除密钥
已保存的密钥无法编辑:服务商和密钥本身保持注册时的状态。若要轮换新密钥,添加新密钥,将你的等级指向它,然后删除旧密钥。
删除密钥时,使用该密钥的任何等级都会切换到其他已保存的密钥。如果这是你唯一的密钥,在 OS3 运行任何任务前,需添加其他密钥或切换回 Rabbit 托管模型。
常见问题
使用 OS3 需要多少费用?
使用自定义模型时,Rabbit 不收取模型使用费。你按服务商自身的定价向其付费。关于免费选项,请参阅 我是否必须为 API key 付费。关于 Rabbit 托管模型,请参阅 OS3 计划与定价。
我能否同时使用多个服务商?
可以。为每个服务商保存一个密钥,然后为每个等级选择使用的密钥。
DLAM 自带的密钥界面去哪了?
独立版 DLAM 正在退役。DLAM 现在是 OS3 内置的功能,使用你在此处注册的相同密钥。请参阅 如何在 OS3 中使用 DLAM。