跳转到主要内容
速率限制因模型和等级而异。/api_keys/rate_limits 端点会返回您的密钥上每个模型的当前限制:

查看您的限制

交互式 playground

速率限制日志

查看哪些请求达到了限制

按模型类型划分的限制

文本、嵌入和图像模型

文本、嵌入和图像模型(包括放大和局部重绘)各自有独立的限制。在 /api_keys/rate_limits 的响应中,data.rateLimits 为每个模型提供一个条目,每个条目的 rateLimits 会为每种限制 type 列出一个 amount:RPM(每分钟请求数)、TPM(每分钟 token 数)或 RPD(每天请求数)。要查看单个模型:
限制可能会变化,因此请从 API 读取,而不要硬编码。推理响应还会在 x-ratelimit-* 响应头中返回所应用的限制和您的剩余容量。

语音和转录模型

每个语音和转录模型允许每分钟 60 个请求,使用合作伙伴密钥时为 120 个。

视频和音乐模型

视频、音乐和语音转换的排队和检索请求受每个账户的请求限制约束。请使用退避策略处理 429 响应,并以适度的间隔轮询检索端点,而不是在紧密循环中轮询。任务按每次生成从您的积分余额中计费,因此请先使用 POST /video/quote、POST /audio/quote 或 POST /audio/voice-changer/quote 对任务进行估价。

处理错误

失败的请求(500、503、429)应使用指数退避进行重试。 对于推理端点上的 429 错误,x-ratelimit-reset-requests 响应头以 Unix 时间戳(毫秒)的形式给出请求窗口完全清空的最晚时间。等到该时间之后重试总是安全的;提前重试也可能成功。

错误预算

另有两个限制用于保护 API,防止客户端反复重试撞墙。两者均按每个 API 密钥、每个模型计数,并且都会返回 429。失败请求按固定的 30 秒窗口计数: 第二个预算统计的是向模型请求其不支持的功能的请求。例如,向不具备视觉或工具调用能力的模型请求这些功能。超出任一预算都会在速率限制日志中显示为 FAILED_REQUESTS 或 UNSUPPORTED_FEATURE_REQUESTS。 响应体中的 error 字段会指明触发的阈值。对于失败请求预算,其内容为:

响应头

推理响应(chat completions、responses、图像、音频和嵌入)包含以下响应头。模型、API 密钥、账单或 x402 路由不会发送这些响应头,x-venice-balance-* 响应头同样如此。 失败请求预算有其专用的响应头,会在使用 API 密钥发出的每个请求的响应中发送,包括 401 响应: /crypto/rpc/{network} 端点使用自己的限制以及自己的 X-RateLimit-Limit、X-RateLimit-Remaining 和 X-RateLimit-Reset 响应头,这些响应头仅在 429 响应中设置。与上面以毫秒为单位的响应头不同,X-RateLimit-Reset 是以秒为单位的 Unix 时间戳。详情请参阅 Crypto RPC。

合作伙伴等级

合作伙伴密钥对每个模型都有独立的限制。使用合作伙伴密钥调用 GET /api_keys/rate_limits 即可查看。 如果您持续达到速率限制,并且您的使用模式显示出长期的持续需求,请联系我们讨论合作伙伴访问权限:[email protected]。 合作伙伴等级的限制可根据您的具体需求进行调整。