进阶 docs.pangolin.net 2026-11-21 15:06:37 · 2 阅读

第4章 Pangolin AI Gateway 正式发布:无需分发 API 密钥的身份感知 AI 网关

# 第4章 NewAI Gateway 现已可用 具备身份感知功能,可连接任意 AI 提供商。无需分发 API 密钥。

## AI 网关概述 通过 Pangolin 统一路由编码代理和 AI 客户端请求,实现提供商与访问控制的中枢管理。

AI Gateway 资源是一种标准的 Pangolin 资源,用于将请求代理到一个或多个上游 AI 提供商(OpenAI、Anthropic、Google Gemini、Bedrock、Vertex AI 或自定义端点)。将客户端指向该资源的 URL,而非直接指向提供商,Pangolin 将在其前端处理身份验证、访问控制和日志记录。若正在将 Pangolin 与传统 LLM 网关进行比较,请参阅《Pangolin vs. Bifrost vs. LiteLLM》。

架构组成

* 提供商:按组织配置一次,包括 OpenAI、Anthropic 等的上游 URL、API 密钥及能力。 * 资源(类型:AI Gateway):关联一个或多个上述提供商,并获取标准的 Pangolin 域名。 * 虚拟 API 密钥:客户端向公共 AI Gateway 资源发送的凭证。私有资源通过 Pangolin 网络访问,因此网关无需检查密钥。 * 模型目录:已知的模型列表及令牌定价,用于模型路由和预算控制。 * 预算:限制提供商、模型、资源、角色或密钥的预估美元支出或令牌用量。 * 会话日志:存储每次调用的提示词和响应记录。 * 用量分析:展示跨提供商、资源、角色、用户和密钥的成本、令牌数和请求量图表。

资源仅能识别其关联提供商支持的 API 格式。例如,Anthropic 提供商使资源支持 Anthropic Messages API;OpenAI 提供商支持 Chat Completions/Responses;Gemini 提供商支持 Gemini 的 generateContent API。请关联与您计划连接的客户端相匹配的提供商。有关各类型的设置详情,请参阅《AI 提供商》;有关能力、认证和模型列表的详情,请参阅《提供商配置》。

### 1. 添加提供商 创建一个组织级提供商,以便网关拥有可调用的上游。在侧边栏点击“AI Gateway”→“提供商”→“创建”,或按照《AI 提供商》指南操作。选择类型,粘贴 API 密钥并保存。可根据需要添加任意数量的提供商。

### 2. 创建资源 进入“资源”→“创建”,将类型设置为“AI Gateway”,选择一个域名,并关联第 1 步中的提供商。后续也可在现有资源的“AI Gateway 设置”选项卡中添加提供商。公共和私有 AI Gateway 资源的访问方式分别在各自的资源类型页面介绍。

可以创建多个 AI Gateway 资源,以便不同用户和角色使用各自的提供商。通常做法是使用不同的主机名,它们也可以共享同一个 FQDN。详见《多个网关资源》。

### 3. 向网关进行身份验证 客户端的认证方式取决于资源是公共的还是私有的。

私有资源 仅可通过连接了 Pangolin 客户端的设备访问。身份来自该连接,因此无需颁发虚拟 API 密钥。桌面客户端已证明了调用者的身份。详情请见私有 AI Gateway 资源页面。

公共资源 可从任何位置访问。网关会在每次调用时检查虚拟 API 密钥。详情请见公共 AI Gateway 资源页面。

### 4. 将编码代理、智能体或 AI 客户端连接到网关 每个资源都提供针对常见客户端的即拷即用配置,且 `pangolin configure ` 命令可自动写入配置。各客户端的完整说明如下:

| 客户端 | 所需的提供商能力 | 指南 | | :--- | :--- | :--- | | Claude Code | Anthropic Messages | 设置指南 | | Codex | OpenAI Chat/Responses | 设置指南 | | OpenCode | Anthropic Messages 和/或 OpenAI Chat | 设置指南 | | Gemini CLI | Gemini generateContent | 设置指南 |

还有其他将工具指向 Pangolin AI Gateway 资源的指南: * Open WebUI * Claude Desktop * OpenClaw

### 支持的提供商 每种类型都有独立的配置指南。提供商的能力(支持哪些 API 格式)在《提供商配置》中详细说明。

| 提供商 | 默认能力 | 指南 | | :--- | :--- | :--- | | OpenAI | Chat Completions, Responses | 配置 | | Anthropic | Messages | 配置 | | Google Gemini | generateContent | 配置 | | Vertex AI | Google generateContent/rawPredict | 配置 | | Amazon Bedrock | Converse | 配置 | | Microsoft Foundry | Chat Completions, Responses, Messages | 配置 | | OpenRouter | Chat Completions | 配置 | | Vercel AI Gateway | Chat Completions, Responses | 配置 | | 自定义 | 根据所选内容而定 | 配置 |

对于未列在类型列表中的任何上游,请使用“自定义”。为其指定支持的能力——OpenAI、Anthropic、Gemini、Vertex、Bedrock 或混合使用。例如,Moonshot AI (Kimi) 端点:选择 Anthropic Messages 并指向其兼容 Anthropic 的 URL 即可。

### Pangolin vs. Bifrost vs. LiteLLM Pangolin 具备身份感知功能的 AI 网关与传统 LLM 网关的对比。

本页内容是否有帮助?

评论 (0)