限流与配额

每个 API 密钥都可拥有独立的限流规则与终身用量配额。限流在 API 密钥页面按密钥配置。

限流时间窗口#

一个密钥可为以下每个时间窗口设置最大请求数:

窗口说明
每秒一秒内的最大请求数。
每分钟一个日历分钟内的最大请求数。
每小时一个日历小时内的最大请求数。
每天一个日历日内的最大请求数。

未设置的窗口视为不限。各窗口独立生效——只要超出其中任意一个,即返回 429 rate_limit_exceeded

总配额#

除时间窗口外,密钥还可设置 总配额——对请求数的终身上限。当密钥的已用次数达到 总配额后,后续请求返回 429 rate_limit_exceeded。未设置总配额的密钥则无终身上限。

账户余额#

限流与账户余额相互独立。即便在限额之内,若余额耗尽,请求仍会以 402 insufficient_quota 失败。参见计费

处理 429 响应#

收到 429 时:

  1. 退避一小段时间后重试(推荐指数退避)。
  2. 将流量分散到不同时间,避免触发每秒/每分钟窗口。
  3. 如需更高吞吐,可提高密钥的相应限额,或使用多个密钥。
{
  "error": {
    "message": "Rate limit exceeded.",
    "type": "rate_limit_exceeded",
    "code": "rate_limit_exceeded",
    "param": null
  }
}