模型调用失败很常见:网络抖动、上游限流、超时、返回格式异常。没有策略的重试会让故障雪崩,甚至重复扣费。

一、先分类错误

类型 示例 是否重试
客户端参数错误 400、404、413、415 不重试,修请求
鉴权错误 401 不重试,检查 Key
额度不足 402 不重试,购买套餐
限流 429 退避后重试
上游临时故障 502、503、超时 有限重试
业务内容拒绝 内容审核不通过 不重试,提示用户