进阶 docs.litellm.ai 2026-11-13 04:16:59 · 11 阅读

第4章 SSL 与 HTTP 代理安全设置详解

SSL、HTTP 代理安全设置 如果你的环境使用的是较旧的 TTS 包及其较旧的加密方式,请参考本指南。默认情况下,LiteLLM 使用 certifi CA bundle 进行 SSL 验证,这兼容大多数现代服务器。但如果需要禁用 SSL 验证或使用自定义 CA bundle,可以按以下步骤操作。注意,环境变量的优先级高于 SDK 中的设置。 如无特别说明,LiteLLM 使用 HTTPX 发起网络请求。 1. 自定义 CA Bundle​ 可以通过 SSL_CERTFILE 环境变量设置自定义 CA bundle 文件路径,也可以向 ssl_verify 设置传入字符串。 SDK / PROXY / 环境变量: ```python import litellm litellm.ssl_verify = "client.pem" ``` ```yaml litellm_settings: ssl_verify: "client.pem" ``` ```bash export SSL_CERT_FILE="client.pem" ``` 2. 禁用 SSL 验证​ SDK / PROXY / 环境变量: ```python import litellm litellm.ssl_verify = False ``` ```yaml litellm_settings: ssl_verify: false ``` ```bash export SSL_VERIFY="False" ``` 3. 降低安全等级​ ssl_security_level 可以为 SSL 连接设置较低的安全等级。 SDK / PROXY / 环境变量: ```python import litellm litellm.ssl_security_level = "DEFAULT@SECLEVEL=1" ``` ```yaml litellm_settings: ssl_security_level: "DEFAULT@SECLEVEL=1" ``` ```bash export SSL_SECURITY_LEVEL="DEFAULT@SECLEVEL=1" ``` 4. 证书认证​ 通过 SSL_CERTIFICATE 环境变量或 ssl_certificate 属性,可以设置客户端证书,用于向服务器验证客户端身份。 SDK / PROXY / 环境变量: ```python import litellm litellm.ssl_certificate = "/path/to/certificate.pem" ``` ```yaml litellm_settings: ssl_certificate: "/path/to/certificate.pem" ``` ```bash export SSL_CERTIFICATE="/path/to/certificate.pem" ``` 5. 配置 ECDH 曲线以优化 SSL/TLS 性能​ ssl_ecdh_curve 设置允许你配置 SSL/TLS 密钥交换所使用的椭圆曲线 Diffie-Hellman(ECDH)曲线。这在需要禁用后量子密码学(PQC)以提升性能的场景中特别有用,比如环境本身不需要 PQC 的情况。 使用场景:部分 OpenSSL 3.x 系统默认启用 PQC,会导致 TLS 握手变慢。将 ECDH 曲线设置为 X25519 可禁用 PQC,显著改善连接性能。 SDK / PROXY / 环境变量: ```python import litellm litellm.ssl_ecdh_curve = "X25519" # 禁用 PQC 以提升性能 ``` ```yaml litellm_settings: ssl_ecdh_curve: "X25519" ``` ```bash export SSL_ECDH_CURVE="X25519" ``` 常用有效曲线: X25519 - 现代快速曲线(推荐用于禁用 PQC 的场景) prime256v1 - NIST P-256 曲线 secp384r1 - NIST P-384 曲线 secp521r1 - NIST P-521 曲线 注意:如果提供了无效的曲线名称,或当前 Python/OpenSSL 版本不支持此功能,LiteLLM 将记录警告并继续使用默认曲线。 6. 使用 HTTP_PROXY 环境变量 LiteLLM 会为默认 aiohttp 传输层和 httpx 传输层(DISABLE_AIOHTTP_TRANSPORT=True)上的每个 LLM 请求,从环境中解析 HTTP_PROXY、HTTPS_PROXY 和 NO_PROXY,无论是否启用 force_ipv4。无需额外标志;在代理或 SDK 启动前设置这些变量即可: SDKPROXYexport HTTPS_PROXY='http://username:password@proxy_uri:port'
export NO_PROXY='localhost,127.0.0.1'
export HTTPS_PROXY='http://username:password@proxy_uri:port'
export NO_PROXY='localhost,127.0.0.1'
设置 DISABLE_AIOHTTP_TRUST_ENV=True(或 litellm.disable_aiohttp_trust_env = True)可使 aiohttp 传输层忽略这些变量。AIOHTTP_TRUST_ENV(或 litellm.aiohttp_trust_env)与代理选择无关:它向 aiohttp 会话传递 trust_env=True,使 aiohttp 自身也读取 ~/.netrc 以及 SSL_CERT_FILE / SSL_CERT_DIR。 7. 按服务配置 SSL 验证 LiteLLM 允许为特定服务或提供商调用覆盖 SSL 验证设置。当不同服务(例如内部 guardrail 与公共 LLM 提供商)需要不同的 CA 证书时,此功能非常有用。 Bedrock (SDK) 你可以在 completion 调用中直接传入 ssl_verify。 import litellm

response = litellm.completion(
model="bedrock/us.anthropic.claude-sonnet-5",
messages=[{"role": "user", "content": "hi"}],
ssl_verify="path/to/bedrock_cert.pem" # 或设为 False 以禁用
)
AIM Guardrail (Proxy) 你可以在 config.yaml 中为每个 guardrail 配置 ssl_verify。 guardrails:
- guardrail_name: aim-protected-app
litellm_params:
guardrail: aim
ssl_verify: "/path/to/aim_cert.pem" # 为 AIM 使用特定证书
Cato Networks Guardrail (Proxy) 你可以在 config.yaml 中为每个 guardrail 配置 ssl_verify。 guardrails:
- guardrail_name: cato-protected-app
litellm_params:
guardrail: cato_networks
ssl_verify: "/path/to/cato_cert.pem" # 为 AIM 使用特定证书
优先级逻辑 LiteLLM 按以下优先级解析 ssl_verify: 显式参数:通过 completion() 或 guardrail 配置传入。 环境变量:SSL_VERIFY 环境变量。 全局设置:litellm.ssl_verify 设置。 系统默认:SSL_CERT_FILE 环境变量。

评论 (0)