进阶 next-ai-drawio.jiang.jp 2026-11-15 12:26:06 · 12 阅读
第21章 AI 服务商
自己部署 Next AI Draw.io 时,用环境变量选择 AI 服务商和模型。本页列出每家服务商的环境变量,并说明如何为所有用户提供多个模型,以及如何在代码里新增一个服务商。
快速开始
将 env.example 复制为 .env.local。
设置所选服务商的 API Key。模板里有一行 AI_PROVIDER=bedrock:使用其他服务商时,把它改成该服务商的名字,或者删掉这一行,让服务端按 Key 自动检测。
把 AI_MODEL 设为您想用的模型。
运行 npm run dev。
配置各家服务商
OpenAI
OPENAI_API_KEY=your_api_key
AI_MODEL=gpt-4o
也可以为 OpenAI 兼容服务设置自定义端点:
OPENAI_BASE_URL=https://your-custom-endpoint/v1
LM Studio 等本地 OpenAI 兼容服务也用同样的方式。把基础 URL 设为 http://localhost:1234/v1(LM Studio 的默认端口),API Key 填任意非空值即可,例如 lm-studio。在上面的环境变量里,或在“设置”的“模型”标签页里配置都可以。
Anthropic
ANTHROPIC_API_KEY=your_api_key
AI_MODEL=claude-sonnet-4-5-20250929
也可以用 Bearer 令牌登录,例如通过会下发 OAuth 风格令牌的网关时:
ANTHROPIC_AUTH_TOKEN=your_auth_token
AI_MODEL=claude-sonnet-4-5-20250929
ANTHROPIC_API_KEY 会作为 x-api-key 头发送,ANTHROPIC_AUTH_TOKEN 会作为 Authorization: Bearer 发送。两者不能同时使用,只设置其中一个。
也可以设置自定义端点:
ANTHROPIC_BASE_URL=https://your-custom-endpoint
Google Gemini
GOOGLE_GENERATIVE_AI_API_KEY=your_api_key
AI_MODEL=gemini-2.0-flash
也可以设置自定义端点:
GOOGLE_BASE_URL=https://your-custom-endpoint
DeepSeek
DEEPSEEK_API_KEY=your_api_key
AI_MODEL=deepseek-chat
也可以设置自定义端点:
DEEPSEEK_BASE_URL=https://your-custom-endpoint
Qwen(阿里云通义千问)
QWEN_API_KEY=your_api_key
AI_MODEL=qwen-turbo
也可以设置自定义端点:
QWEN_BASE_URL=https://your-custom-endpoint
豆包(字节跳动火山引擎)
DOUBAO_API_KEY=your_api_key
AI_MODEL=doubao-seed-1-8-251228 # 或其他豆包模型
GLM(智谱 AI)
GLM_API_KEY=your_api_key
AI_MODEL=glm-4
也可以设置自定义端点:
GLM_BASE_URL=https://your-custom-endpoint
Kimi(月之暗面 Moonshot AI)
KIMI_API_KEY=your_api_key
AI_MODEL=kimi-latest
也可以设置自定义端点:
KIMI_BASE_URL=https://your-custom-endpoint
MiniMax
MiniMax 支持两种 API 格式:
格式端点说明Anthropic 兼容/anthropic推荐。支持 interleaved thinking,也就是模型可以在两次工具调用之间思考OpenAI 兼容/v1标准的 OpenAI 聊天补全格式
MINIMAX_API_KEY=your_api_key
AI_MODEL=MiniMax-M3
可选配置:
# 中国大陆版,Anthropic 兼容(默认)
MINIMAX_BASE_URL=https://api.minimaxi.com/anthropic
# 中国大陆版,OpenAI 兼容
MINIMAX_BASE_URL=https://api.minimaxi.com/v1
# 国际版,Anthropic 兼容
MINIMAX_BASE_URL=https://api.minimax.io/anthropic
# 国际版,OpenAI 兼容
MINIMAX_BASE_URL=https://api.minimax.io/v1
MiMo(小米)
MIMO_API_KEY=your_api_key
AI_MODEL=mimo-v2.5-pro
也可以设置自定义端点。Token Plan 订阅用户请设置专属的基础 URL:
MIMO_BASE_URL=https://token-plan-cn.xiaomimimo.com/v1
OpenRouter
OPENROUTER_API_KEY=your_api_key
AI_MODEL=anthropic/claude-sonnet-4
也可以设置自定义端点:
OPENROUTER_BASE_URL=https://your-custom-endpoint
AIHubMix
AIHubMix 用一个 API Key 提供 Claude、GPT、Gemini、DeepSeek 等模型。
AIHUBMIX_API_KEY=your_api_key
AI_MODEL=claude-sonnet-4-5-20250929
也可以设置自定义端点:
AIHUBMIX_BASE_URL=https://aihubmix.com/v1
SiliconFlow(OpenAI 兼容)
SILICONFLOW_API_KEY=your_api_key
AI_MODEL=deepseek-ai/DeepSeek-V3 # 示例;使用任何 SiliconFlow 模型 ID
不设置基础 URL 时,应用使用 https://api.siliconflow.cn/v1,这是 cloud.siliconflow.cn 上创建的 Key 对应的端点。如果您的 Key 来自国际站 cloud.siliconflow.com,请设置 .com 的端点:
SILICONFLOW_BASE_URL=https://api.siliconflow.com/v1
ModelScope
MODELSCOPE_API_KEY=your_api_key
AI_MODEL=Qwen/Qwen3-235B-A22B-Instruct-2507
也可以设置自定义端点:
MODELSCOPE_BASE_URL=https://your-custom-endpoint
Novita AI
NOVITA_API_KEY=your_api_key
AI_MODEL=deepseek/deepseek-v4-pro
也可以设置自定义端点。不设置时使用 https://api.novita.ai/openai:
NOVITA_BASE_URL=https://your-custom-endpoint
Atlas Cloud
ATLASCLOUD_API_KEY=your_api_key
AI_MODEL=your_model_id
应用没有内置 Atlas Cloud 的模型列表。在“设置”的“模型”标签页里,应用会用您的 Key 从 Atlas Cloud 读取模型列表。
也可以设置自定义端点。不设置时使用 https://api.atlascloud.ai/v1:
ATLASCLOUD_BASE_URL=https://your-custom-endpoint
Qiniu(七牛云)
QINIU_API_KEY=your_api_key
AI_MODEL=your_model_id
也可以设置自定义端点:
QINIU_BASE_URL=https://your-custom-endpoint
Vercel AI Gateway
Vercel AI Gateway 让您用一个 API Key 使用多家 AI 服务商。登录更简单,切换服务商时也不用管理多个 API Key。
使用 Vercel 托管的网关:
AI_GATEWAY_API_KEY=your_gateway_api_key
AI_MODEL=openai/gpt-4o
使用自定义网关 URL,用于本地开发或自托管的网关:
AI_GATEWAY_API_KEY=your_custom_api_key
AI_GATEWAY_BASE_URL=https://your-custom-gateway.com/v1/ai
AI_MODEL=openai/gpt-4o
模型 ID 的格式是 provider/model:
AI_MODEL模型openai/gpt-4oOpenAI GPT-4oanthropic/claude-sonnet-4-5Anthropic Claude Sonnet 4.5google/gemini-2.0-flashGoogle Gemini 2.0 Flash
如果没有设置 AI_GATEWAY_BASE_URL,会使用默认的 Vercel Gateway URL(https://ai-gateway.vercel.sh/v1/ai)。自定义基础 URL 适用于:
用自己的网关实例做本地开发
自托管的 AI Gateway 部署
企业代理配置
使用自定义基础 URL 时,必须同时设置 AI_GATEWAY_API_KEY。
从 Vercel AI Gateway 仪表板 获取您的 API Key。
Amazon Bedrock
Bedrock 用 AWS 凭证登录。因为没有 API Key 可供检测,服务端无法自动选中这家服务商,请设置 AI_PROVIDER:
AI_PROVIDER=bedrock
AWS_REGION=us-west-2
AWS_ACCESS_KEY_ID=your_access_key_id
AWS_SECRET_ACCESS_KEY=your_secret_access_key
AI_MODEL=global.anthropic.claude-sonnet-5-5
较新的 Claude 模型只能通过推理配置文件(inference profile)的 ID 调用。这种 ID 以地区前缀开头,例如 global. 或 us.。直接用 anthropic.claude-sonnet-5-5 这样不带前缀的 ID 会报错 “on-demand throughput isn't supported”。
在 AWS 上(Lambda,或带有 IAM 角色的 EC2),凭证会自动从 IAM 角色获取。
Google Vertex AI
Google Vertex AI 是 Google Cloud 面向企业的服务,提供企业级功能和数据驻留(数据保存在您选择的地区)。它的 Express 模式用普通的 API Key 登录,所以也能在 Vercel、Cloudflare 这类边缘运行环境里使用。
GOOGLE_VERTEX_API_KEY=your_api_key
AI_MODEL=gemini-2.0-flash
也可以设置自定义端点:
GOOGLE_VERTEX_BASE_URL=https://your-custom-endpoint
Azure OpenAI
Azure 需要资源名称或端点 URL,设置其中一个即可。两个都设置时,使用 AZURE_BASE_URL。
使用资源名称:
AZURE_API_KEY=your_api_key
AZURE_RESOURCE_NAME=your-resource-name # 您的 Azure 资源名称
AI_MODEL=your-deployment-name
也可以用端点 URL 代替资源名称:
AZURE_API_KEY=your_api_key
AZURE_BASE_URL=https://your-resource.openai.azure.com/openai # 代替 AZURE_RESOURCE_NAME
AI_MODEL=your-deployment-name
也可以设置推理选项:
AZURE_REASONING_EFFORT=low # 可选:low, medium, high
AZURE_REASONING_SUMMARY=detailed # 可选:auto, concise, detailed
EdgeOne Pages(腾讯云)
把应用部署在腾讯云 EdgeOne Pages 上时,可以使用站点自带的 Edge AI 函数 /api/edgeai。它不需要 API Key,也不需要基础 URL。因为没有 Key 可供检测,服务端无法自动选中这家服务商,请设置 AI_PROVIDER:
AI_PROVIDER=edgeone
AI_MODEL=@tx/deepseek-ai/deepseek-v32
这个函数支持 @tx/deepseek-ai/deepseek-v32、@tx/deepseek-ai/deepseek-r1-0528 和 @tx/deepseek-ai/deepseek-v3-0324。如果您设置了 ACCESS_CODE_LIST,函数也会检查访问码。
Ollama(本地)
AI_PROVIDER=ollama
AI_MODEL=llama3.2
也可以设置自定义 URL:
OLLAMA_BASE_URL=http://localhost:11434/api
SGLang
SGLANG_API_KEY=your_api_key
AI_MODEL=your_model_id
也可以设置自定义端点:
SGLANG_BASE_URL=https://your-custom-endpoint/v1
任何其他 OpenAI 兼容接口(custom)
上面没有列出的服务,例如 vLLM、LM Studio、LiteLLM 或 API 网关,请在“设置”里选择 OpenAI-compatible,填入它的基础 URL 和 Key。服务端不校验 Key 时,填任意非空内容即可。
应用会把多条 system 消息合并成一条,开源模型的对话模板通常要求这样; 里的推理内容会从回复里分离出来。
CUSTOM_API_KEY=your_api_key
CUSTOM_BASE_URL=http://127.0.0.1:8000/v1
AI_MODEL=your_model_id
服务端怎样选择服务商
如果您只设置了一家服务商的 API Key,服务端会自动检测并使用这家服务商,无需设置 AI_PROVIDER。
如果您设置了多家服务商的 API Key,就必须设置 AI_PROVIDER:
AI_PROVIDER=google # 或:openai, anthropic, google, vertexai, azure, bedrock, ollama, openrouter, aihubmix, deepseek, siliconflow, sglang, gateway, edgeone, doubao, modelscope, glm, qwen, qiniu, kimi, minimax, novita, mimo, atlascloud, custom
为所有用户提供多个模型
管理员可以在服务端配置多个模型。所有用户都可以使用这些模型,不需要自己的 API Key。没有这份配置时,应用使用 AI_PROVIDER 和 AI_MODEL 这两个环境变量。
有三种配置方式。
把配置写进环境变量
推荐在云部署时使用这种方式。把 AI_MODELS_CONFIG 设为一个 JSON 字符串:
AI_MODELS_CONFIG='{"providers":[{"name":"OpenAI","provider":"openai","models":["gpt-4o"],"default":true}]}'
使用配置文件
在项目根目录创建 ai-models.json 文件。如果想放在其他位置,用 AI_MODELS_CONFIG_PATH 指定它的路径。
在 AI_MODEL 里列出多个模型
这是单个服务商的快速配置。如果只需要同一家服务商的多个模型,可以在 AI_MODEL 里用逗号分隔列出它们。第一个模型是默认模型。
AI_PROVIDER=doubao
AI_MODEL=doubao-seed-1-8-251228,doubao-seed-1-6-flash-250828,doubao-seed-1-6-251015
这是等价的 ai-models.json 的简写。如果需要多家服务商,或者要自定义 apiKeyEnv 和 baseUrlEnv,请使用环境变量或配置文件。
示例
{
"providers": [
{
"name": "OpenAI Production",
"provider": "openai",
"models": ["gpt-4o", "gpt-4o-mini"],
"default": true
},
{
"name": "Custom DeepSeek",
"provider": "deepseek",
"models": ["deepseek-chat"],
"apiKeyEnv": "MY_DEEPSEEK_KEY",
"baseUrlEnv": "MY_DEEPSEEK_URL"
}
]
}
字段
字段必填作用name是显示名称。同一家服务商可以有多份配置provider是服务商类型(openai、anthropic、google、bedrock 等)models是模型 ID 列表default否设为 true 时,默认选中这家服务商的第一个模型apiKeyEnv否自定义的 API Key 环境变量名。不填时使用服务商的标准变量,例如 OPENAI_API_KEY。也可以写成环境变量名数组:每次请求从有值的变量中随机选一个,把负载分摊到多个 Key 上baseUrlEnv否自定义的基础 URL 环境变量名
Key 和名称
API Key 和凭证都通过环境变量提供。默认使用标准变量名,例如 OPENAI_API_KEY。用 apiKeyEnv 可以改用您自己的变量名。
有了 name,同一家服务商可以有多份配置。例如 “OpenAI Production” 和 “OpenAI Staging” 都使用 provider: "openai",但 apiKeyEnv 不同。
选择模型
画图时,模型要写出很长的 draw.io XML,并且必须符合严格的格式,所以这项任务需要能力很强的模型。
推荐模型:Claude Sonnet 4.5 或 Opus 4.5。
Ollama 可以作为服务商使用。但对这项任务来说,通常只有在本地运行 DeepSeek R1 或 Qwen3-235B 这样的强大模型时才实用。
您想要推荐使用最佳体验能读图片的模型(GPT-4o、Claude、Gemini),用于把图片转成图表低成本DeepSeek,价格有竞争力隐私Ollama,完全在本地离线运行。需要性能强大的硬件灵活OpenRouter,通过一个 API 使用众多模型
设置温度(Temperature)
温度可以不设置。需要时用环境变量设置:
TEMPERATURE=0 # 输出更具确定性(推荐用于图表)
重要提示: 对于不支持温度设置的模型,请不要设置 TEMPERATURE,例如:
GPT-5.1 和其他推理模型
某些专用模型
不设置时,模型使用它的默认行为。
新增一个服务商
一个服务商的全部信息都在 lib/providers.ts 的一条记录里:
用哪个 AI SDK 运行(sdk)
用什么凭据登录(credential)
环境变量 _API_KEY 和 _BASE_URL 的前缀(envPrefix)
官方地址
在服务商选择器里的分组
可选的提示文案
设置界面、连接测试、聊天路由和管理面板都读取这条记录。新增一个 OpenAI 兼容服务商的步骤如下:
在 lib/providers.ts 里加一条记录,例如:
acme: {
label: "Acme AI",
sdk: "openai-compatible",
credential: "apiKey",
group: "aggregators",
envPrefix: "ACME",
defaultBaseUrl: "https://api.acme.example/v1",
apiKeyUrl: "https://acme.example/keys",
modelList: "openai",
},
如果服务商需要在基础 URL 输入框下方显示提示,或在选择器里显示说明,就在记录里加 baseUrlHint 或 note 对象,四种界面语言(en、zh、ja、zh-Hant)都要写。不能在线列出模型的服务商,用一个简短的 models 列表代替 modelList。
在 env.example 里加上 ACME_API_KEY 和 ACME_BASE_URL。有一个单元测试会检查每条记录的变量都出现在这个文件里。
在 docs/en、docs/cn、docs/tw 和 docs/ja 的本页里各加一节说明。
把它加进 tests/unit/provider-matrix.test.ts 开头的两个清单(MATRIX_PROVIDERS 和 MATRIX_MODEL_IDS)。然后用 npx vitest run tests/unit/provider-matrix.test.ts -u 重新生成行为快照。新增的行都属于这家服务商,已有的行不能变。
也把它加进 tests/unit/providers.test.ts。这个文件写明了选择器的分组,以及会改变服务端行为的服务商集合(自动检测、只接受一条 system 消息)。
更新三份 README 里的服务商数量,以及本页的 AI_PROVIDER 可选值清单。