429(Too Many Requests)。正常使用几乎不会碰到——限流主要拦失控的循环、爬虫和攻击流量。
限流分几种
- 网关 / 账号级限流:按来源做请求频率限制,触发返回
429。这是为了防止单点把整个服务打满。 - 上游厂商限流:上游(OpenAI / Anthropic 等)也有自己的速率限制。命中时它们的
429(或 Anthropic 的529过载)会被 FortAPI 原样透传,type形如rate_limit_error/overloaded_error,并在可能时按渠道自动重试。
限流是频率上限(单位时间内的请求次数),和你的额度/余额是两回事。余额不足返回的是
403,见 错误码。怎么避免 / 处理
- 指数退避重试:碰到
429后等待再试,间隔逐步加倍(如 1s、2s、4s…),并加一点随机抖动,避免大家同一时刻一起重试。 - 不要空转高频轮询:批量任务控制并发,循环里加间隔。
- 复用连接 / 合并请求:能批处理的合并成一次请求。
- 多 key 不是绕过手段:限流按真实来源识别,开多把 key 并不会成倍放大配额,反而可能触发风控。
