限流与配额
每个 API 密钥都可拥有独立的限流规则与终身用量配额。限流在 API 密钥页面按密钥配置。
限流时间窗口#
一个密钥可为以下每个时间窗口设置最大请求数:
| 窗口 | 说明 |
|---|---|
| 每秒 | 一秒内的最大请求数。 |
| 每分钟 | 一个日历分钟内的最大请求数。 |
| 每小时 | 一个日历小时内的最大请求数。 |
| 每天 | 一个日历日内的最大请求数。 |
未设置的窗口视为不限。各窗口独立生效——只要超出其中任意一个,即返回 429 rate_limit_exceeded。
总配额#
除时间窗口外,密钥还可设置 总配额——对请求数的终身上限。当密钥的已用次数达到
总配额后,后续请求返回 429 rate_limit_exceeded。未设置总配额的密钥则无终身上限。
账户余额#
限流与账户余额相互独立。即便在限额之内,若余额耗尽,请求仍会以
402 insufficient_quota 失败。参见计费。
处理 429 响应#
收到 429 时:
- 退避一小段时间后重试(推荐指数退避)。
- 将流量分散到不同时间,避免触发每秒/每分钟窗口。
- 如需更高吞吐,可提高密钥的相应限额,或使用多个密钥。
{
"error": {
"message": "Rate limit exceeded.",
"type": "rate_limit_exceeded",
"code": "rate_limit_exceeded",
"param": null
}
}