Rate Limits | Venice API Docs

I rate limit variano in base al modello e al tier. L’endpoint /api_keys/rate_limits restituisce i limiti attuali di ogni modello per la tua chiave:

Visualizza i tuoi limiti

Playground interattivo

Log dei rate limit

Scopri quali richieste hanno raggiunto i limiti

curl https://api.venice.ai/api/v1/api_keys/rate_limits \
  -H "Authorization: Bearer $VENICE_API_KEY"

Limiti per tipo di modello

Modelli di testo, embedding e immagini

I modelli di testo, embedding e immagini (inclusi upscale e inpaint) hanno ciascuno i propri limiti. Nella risposta di /api_keys/rate_limits, data.rateLimits contiene una voce per modello, e il campo rateLimits di ogni voce elenca un amount per ogni type di limite: RPM (richieste al minuto), TPM (token al minuto) o RPD (richieste al giorno). Per controllare un singolo modello:

curl -s https://api.venice.ai/api/v1/api_keys/rate_limits \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  | jq '.data.rateLimits[] | select(.apiModelId == "venice-uncensored-1-2")'

I limiti possono cambiare, quindi leggili dall’API invece di inserirli nel codice. Le risposte di inferenza riportano anche il limite applicato e la capacità residua negli header di risposta x-ratelimit-*.

Modelli di sintesi vocale e trascrizione

Ogni modello di sintesi vocale e trascrizione consente 60 richieste al minuto, o 120 con una chiave Partner.

Modelli video e musicali

Le richieste di accodamento e recupero per video, musica e voice-changer sono soggette a limiti di richieste per account. Gestisci le risposte 429 con backoff e interroga gli endpoint di recupero a intervalli moderati invece che in un ciclo serrato. I job vengono fatturati per generazione sul tuo saldo di crediti, quindi stima prima il prezzo di un job con POST /video/quote, POST /audio/quote o POST /audio/voice-changer/quote.

Gestione degli errori

Le richieste fallite (500, 503, 429) dovrebbero essere ritentate con backoff esponenziale. Per gli errori 429 sugli endpoint di inferenza, l’header x-ratelimit-reset-requests indica il momento più tardivo, come timestamp Unix in millisecondi, entro cui la finestra delle richieste si è completamente liberata. Attendere fino a quel momento è sempre sicuro; anche riprovare prima può avere successo.

const reset = Number(response.headers.get('x-ratelimit-reset-requests'));
const waitMs = Math.max(0, reset - Date.now());
await new Promise((resolve) => setTimeout(resolve, waitMs));

Budget di errore

Due ulteriori limiti proteggono l’API dai client che continuano a ritentare contro un muro. Entrambi vengono conteggiati per modello e per chiave API, ed entrambi restituiscono 429. Le richieste fallite vengono conteggiate in finestre fisse di 30 secondi:

Budget	Soglia	Si applica a
Richieste fallite	50 ogni 30 s	Tutti gli endpoint
Richieste di funzionalità non supportate	200 ogni 30 s	`/chat/completions`, `/responses`

Il secondo budget conteggia le richieste che chiedono a un modello una funzionalità che non supporta, ad esempio richiedere visione o tool calling a un modello privo di tale capacità. Il superamento di uno dei due budget appare nei log dei rate limit come FAILED_REQUESTS o UNSUPPORTED_FEATURE_REQUESTS. Il campo error del corpo della risposta indica la soglia superata. Per il budget delle richieste fallite riporta:

Too many failed attempts (> 50) resulting in a non-success status code. Please wait 30 seconds and try again. See https://docs.venice.ai/api-reference/rate-limiting for more information.

Response headers

Le risposte di inferenza (chat completions, responses, immagini, audio ed embeddings) includono questi header. Non vengono inviati sulle route dei modelli, delle chiavi API, della fatturazione o x402, e lo stesso vale per gli header x-venice-balance-*.

Header	Descrizione
`x-ratelimit-limit-requests`	Numero massimo di richieste consentite nella finestra corrente
`x-ratelimit-remaining-requests`	Richieste rimanenti nella finestra corrente
`x-ratelimit-reset-requests`	Timestamp Unix in millisecondi entro cui la finestra corrente si è completamente liberata (orario della richiesta più l’intera durata della finestra, indipendentemente dall’utilizzo)
`x-ratelimit-limit-tokens`	Numero massimo di token consentiti al minuto
`x-ratelimit-remaining-tokens`	Token rimanenti nel minuto corrente
`x-ratelimit-reset-tokens`	Timestamp Unix in millisecondi in cui il limite di token si resetta

Il budget delle richieste fallite ha i propri header, inviati su ogni risposta a una richiesta effettuata con una chiave API, incluse le risposte 401:

Header	Descrizione
`x-ratelimit-remaining`	Richieste fallite rimanenti nella finestra corrente di 30 secondi
`x-ratelimit-resets`	Timestamp Unix in millisecondi in cui la finestra corrente di 30 secondi si resetta

L’endpoint /crypto/rpc/{network} usa limiti propri e i propri header X-RateLimit-Limit, X-RateLimit-Remaining e X-RateLimit-Reset, che vengono impostati solo sulle risposte 429. A differenza degli header in millisecondi descritti sopra, X-RateLimit-Reset è un timestamp Unix in secondi. Vedi Crypto RPC per i dettagli.

Tier Partner

Le chiavi Partner hanno limiti propri per ogni modello. Chiama GET /api_keys/rate_limits con una chiave Partner per visualizzarli. Se raggiungi costantemente i tuoi rate limit e i tuoi pattern di utilizzo mostrano una domanda sostenuta nel tempo, contattaci per discutere l’accesso partner: [email protected]. I limiti del tier partner possono essere regolati in base alle tue esigenze specifiche.

Venice APIs

Rate limit

Visualizza i tuoi limiti

Log dei rate limit

Limiti per tipo di modello

Modelli di testo, embedding e immagini

Modelli di sintesi vocale e trascrizione

Modelli video e musicali

Gestione degli errori

Budget di errore

Response headers

Tier Partner

Visualizza i tuoi limiti

Log dei rate limit

​Limiti per tipo di modello

​Modelli di testo, embedding e immagini

​Modelli di sintesi vocale e trascrizione

​Modelli video e musicali

​Gestione degli errori

​Budget di errore

​Response headers

​Tier Partner

Limiti per tipo di modello

Modelli di testo, embedding e immagini

Modelli di sintesi vocale e trascrizione

Modelli video e musicali

Gestione degli errori

Budget di errore

Response headers

Tier Partner