文档目录
RelayAI / API 文档
速率限制
速率限制按 API Key 配置。超出限制时返回 HTTP 429。
| 限制项 | 值 | 说明 |
|---|---|---|
| API Key RPM | 自定义 | 可在创建 API Key 时设置 rpmLimit |
| 普通请求重试 | 1s、2s | 上游临时错误会先重试，再按当前 API Key 的路由策略尝试备用 route |
| 流式超时 | 600s | 流式响应最长等待时间 |
速率限制按 API Key 配置。超出限制时返回 HTTP 429。
| 限制项 | 值 | 说明 |
|---|---|---|
| API Key RPM | 自定义 | 可在创建 API Key 时设置 rpmLimit |
| 普通请求重试 | 1s、2s | 上游临时错误会先重试，再按当前 API Key 的路由策略尝试备用 route |
| 流式超时 | 600s | 流式响应最长等待时间 |