Documentation Index
Fetch the complete documentation index at: /llms.txt
Use this file to discover all available pages before exploring further.
RPM / TPM 限流、并发上限与 429 处理
| 维度 | 含义 |
|---|---|
| RPM(Requests Per Minute) | 每分钟最大请求数 |
| TPM(Tokens Per Minute) | 每分钟最大 Token 数(prompt + completion) |
| 并发 | 同一时间允许的最大未完成请求数 |
| 日额度(可选) | 单日最大消耗金额(企业账号可选启用) |
| 分组 | RPM | TPM | 并发 |
|---|---|---|---|
default | 200 | 200,000 | 16 |
vip | 1,000 | 1,000,000 | 64 |
svip | 5,000 | 5,000,000 | 256 |
enterprise | 协商 | 协商 | 协商 |
| Header | 含义 |
|---|---|
X-RateLimit-Limit-Requests | 当前 RPM 上限 |
X-RateLimit-Remaining-Requests | 本分钟剩余请求数 |
X-RateLimit-Reset-Requests | 距离重置秒数 |
X-RateLimit-Limit-Tokens | 当前 TPM 上限 |
X-RateLimit-Remaining-Tokens | 本分钟剩余 Token |
X-RateLimit-Reset-Tokens | 距离重置秒数 |
429 rate_limit_exceeded:
{
"error": {
"type": "rate_limit_error",
"code": "rate_limit_exceeded",
"message": "Rate limit reached. Please retry after 12 seconds."
}
}
Retry-After: 12 给出建议重试时间。