/api_keys/rate_limits renvoie les limites actuelles de chaque modèle pour votre clé :
Voir vos limites
Playground interactif
Journaux de limite de débit
Voir quelles requêtes ont atteint les limites
Limites par type de modèle
Modèles de texte, d’embedding et d’image
Les modèles de texte, d’embedding et d’image (y compris upscale et inpaint) ont chacun leurs propres limites. Dans la réponse de/api_keys/rate_limits, data.rateLimits contient une entrée par modèle, et le champ rateLimits de chaque entrée indique un amount pour chaque type de limite : RPM (requêtes par minute), TPM (tokens par minute) ou RPD (requêtes par jour). Pour vérifier un seul modèle :
x-ratelimit-*.
Modèles de synthèse vocale et de transcription
Chaque modèle de synthèse vocale et de transcription autorise 60 requêtes par minute, ou 120 avec une clé Partenaire.Modèles de vidéo et de musique
Les requêtes de mise en file d’attente et de récupération pour la vidéo, la musique et le changeur de voix sont soumises à des limites de requêtes par compte. Gérez les réponses429 avec un backoff et interrogez les endpoints de récupération à un intervalle raisonnable plutôt que dans une boucle serrée. Les travaux sont facturés par génération sur votre solde de crédits : estimez donc d’abord le prix d’une tâche avec POST /video/quote, POST /audio/quote ou POST /audio/voice-changer/quote.
Gestion des erreurs
Les requêtes échouées (500, 503, 429) doivent être relancées avec un backoff exponentiel. Pour les erreurs 429 sur les endpoints d’inférence, l’en-têtex-ratelimit-reset-requests indique, sous forme d’horodatage Unix en millisecondes, le moment au plus tard auquel la fenêtre de requêtes sera entièrement libérée. Attendre jusqu’à ce moment est toujours sûr ; réessayer plus tôt peut également réussir.
Budgets d’erreurs
Deux limites supplémentaires protègent l’API contre les clients qui relancent leurs requêtes en boucle contre un mur. Toutes deux sont comptées par modèle et par clé API, et toutes deux renvoient429. Les requêtes échouées sont comptées sur des fenêtres fixes de 30 secondes :
Le second budget compte les requêtes qui demandent à un modèle une fonctionnalité qu’il ne prend pas en charge, par exemple demander la vision ou l’appel d’outils à un modèle dépourvu de cette capacité. Le dépassement de l’un ou l’autre budget apparaît dans les journaux de limite de débit sous la forme
FAILED_REQUESTS ou UNSUPPORTED_FEATURE_REQUESTS.
Le champ error du corps de la réponse indique le seuil qui a été déclenché. Pour le budget de requêtes échouées, il se lit ainsi :
En-têtes de réponse
Les réponses d’inférence (chat completions, responses, image, audio et embeddings) incluent ces en-têtes. Ils ne sont pas envoyés sur les routes des modèles, des clés API, de la facturation ou x402, et il en va de même pour les en-têtesx-venice-balance-*.
Le budget de requêtes échouées dispose de ses propres en-têtes, envoyés sur chaque réponse à une requête effectuée avec une clé API, y compris les réponses
401 :
L’endpoint
/crypto/rpc/{network} utilise ses propres limites et ses propres en-têtes X-RateLimit-Limit, X-RateLimit-Remaining et X-RateLimit-Reset, qui ne sont définis que sur les réponses 429. Contrairement aux en-têtes en millisecondes ci-dessus, X-RateLimit-Reset est un horodatage Unix en secondes. Consultez Crypto RPC pour plus de détails.
Niveau Partenaire
Les clés Partenaire disposent de leurs propres limites pour chaque modèle. AppelezGET /api_keys/rate_limits avec une clé Partenaire pour les consulter.
Si vous atteignez constamment vos limites de débit et que vos modèles d’utilisation montrent une demande soutenue dans le temps, contactez-nous pour discuter de l’accès partenaire : [email protected].
Les limites du niveau partenaire peuvent être ajustées en fonction de vos besoins spécifiques.