进阶 docs.bailian.console.aliyun.com 2026-10-16 14:20:25 · 21 阅读

第7章 动态限流

百炼对部分模型采用动态限流 ,TPM 限流值随百炼月消费额度按月调整 ,实际可用 TPM 不低于限流值。 ​动态限流机制 百炼对部分模型采用动态限流机制,核心要点如下: 限流值:按用户在百炼的月消费额度分档确定,作为吞吐的保证基线,每月调整。 软限流:当调用量达到限流值时,若平台仍有剩余资源,则不会触发限流,因此实际可用 TPM 不低于限流值;调用时观察到的实际限流值可能高于该限流值,属预期行为。 限流粒度:按账号 + 模型,主账号下所有业务空间、API Key 的调用量合并计入该账号对该模型的 TPM 配额,共享同一限额。 业务空间:可为模型单独设置限流值,未单独设置的业务空间共享账号级配额。 RPM:动态限流机制下模型具备较高的 RPM 限额,用户无需单独设置,正常使用不会触发 RPM 限流。 更多说明:RPM/TPM 基础概念与各维度详见限流,业务空间限流设置见权限管理。 ​模型与限流档位 TPM 限流值按百炼平台月消费金额分档,支持的模型在不同地域的分档如下(数值以控制台实际展示为准): 华北2(北京)新加坡百炼平台月消费:等级1(当前)≤¥10万等级2 ¥10万~¥100万等级3 >¥100万支持的模型TPM 限流档位qwen3.8-max500万1000万2000万qwen3.8-max-0902150万150万150万qwen3.8-flash500万1000万2000万qwen3.8-omni-flash200万500万1000万qwen3.8-2.4t-a95b500万500万500万deepseek-v4.1-flash120万120万120万deepseek-v4-pro-0813120万1000万2000万kimi-k3120万500万1000万glm-5.3500万500万500万glm-5.3-prime200万200万200万qwen3.8-27b500万500万500万百炼平台月消费:等级1(当前)≤¥10万等级2 ¥10万~¥100万等级3 >¥100万支持的模型TPM 限流档位kimi-k3120万500万1000万qwen3.8-max200万500万1000万deepseek-v4-pro-0813120万500万1000万qwen3.8-flash500万1000万2000万qwen3.8-27b500万500万500万qwen3.8-2.4t-a95b500万500万500万glm-5.3500万500万500万qwen3.8-max-0902150万150万150万deepseek-v4.1-flash120万120万120万glm-5.3-prime200万200万200万 以华北2(北京)为例:某账号上一自然月百炼消费金额为 50 万元,落入等级2(¥10万~¥100万)档位,对应 qwen3.8-max 的 TPM 限流值为 1000万。 ​额度展示 登录百炼控制台,在左侧导航栏,选择模型限额进入模型限额页。 模型限额页为只读展示页,展示支持动态限流的模型、当前 TPM 限流值与百炼消费档位。页面顶部展示当前生效周期(如 2026-08-15 ~ 2026-09-15)、上月消费(按上月自然月统计,如 8 月 1 日—8 月 31 日)与本月消费金额,可通过查看消费详情查看消费明细,点击查看规则可查看限流档位规则说明。下方表格列出各模型的 TPM 限流档位。 若 TPM 限流值无法满足业务需求,可联系商务经理申请提额。 ​限流动态调整策略 限流档位按以下规则动态调整: 分档依据:百炼平台消费金额。 测算周期:按自然月账单周期测算。 通知:每月 10 日向调整用户发送通知。 生效时点:每月 15 日新档位生效,有效期至次月 15 日。 调整方向:低档→高档(升级)或持平不变。

评论 (0)