Rate Limits | Venice API Docs

Rate-Limits variieren je nach Modell und Stufe. Der Endpoint /api_keys/rate_limits gibt die aktuellen Limits für jedes Modell Ihres Keys zurück:

Ihre Limits ansehen

Interaktiver Playground

Rate-Limit-Logs

Sehen Sie, welche Anfragen Limits erreicht haben

curl https://api.venice.ai/api/v1/api_keys/rate_limits \
  -H "Authorization: Bearer $VENICE_API_KEY"

Limits nach Modelltyp

Text-, Embedding- und Bildmodelle

Text-, Embedding- und Bildmodelle (einschließlich Upscale und Inpaint) haben jeweils eigene Limits. In der Antwort von /api_keys/rate_limits enthält data.rateLimits einen Eintrag pro Modell, und das rateLimits jedes Eintrags listet einen amount für jeden Limit-type auf: RPM (Anfragen pro Minute), TPM (Tokens pro Minute) oder RPD (Anfragen pro Tag). So prüfen Sie ein einzelnes Modell:

curl -s https://api.venice.ai/api/v1/api_keys/rate_limits \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  | jq '.data.rateLimits[] | select(.apiModelId == "venice-uncensored-1-2")'

Limits können sich ändern. Lesen Sie sie daher aus der API aus, statt sie fest zu codieren. Inferenz-Antworten enthalten außerdem das angewendete Limit und Ihre verbleibende Kapazität in den x-ratelimit-*-Response-Headern.

Sprach- und Transkriptionsmodelle

Jedes Sprach- und Transkriptionsmodell erlaubt 60 Anfragen pro Minute, mit einem Partner-Key 120.

Video- und Musik-Modelle

Queue- und Retrieve-Anfragen für Video, Musik und Voice-Changer unterliegen Anfragelimits pro Konto. Behandeln Sie 429-Antworten mit Backoff und fragen Sie Retrieve-Endpoints in einem moderaten Intervall ab statt in einer engen Schleife. Jobs werden pro Generierung über Ihr Guthaben abgerechnet, kalkulieren Sie einen Auftrag daher zuerst mit POST /video/quote, POST /audio/quote oder POST /audio/voice-changer/quote.

Fehlerbehandlung

Fehlgeschlagene Anfragen (500, 503, 429) sollten mit exponentiellem Backoff wiederholt werden. Bei 429-Fehlern auf Inferenz-Endpoints gibt der Header x-ratelimit-reset-requests als Unix-Zeitstempel in Millisekunden den spätesten Zeitpunkt an, bis zu dem das Request-Fenster vollständig geleert ist. Bis dahin zu warten ist immer sicher; ein früherer erneuter Versuch kann ebenfalls erfolgreich sein.

const reset = Number(response.headers.get('x-ratelimit-reset-requests'));
const waitMs = Math.max(0, reset - Date.now());
await new Promise((resolve) => setTimeout(resolve, waitMs));

Fehlerbudgets

Zwei weitere Limits schützen die API vor Clients, die wiederholt gegen eine Wand laufen. Beide werden pro Modell und API-Key gezählt, und beide geben 429 zurück. Fehlgeschlagene Anfragen werden in festen 30-Sekunden-Fenstern gezählt:

Budget	Schwellenwert	Gilt für
Fehlgeschlagene Anfragen	50 pro 30 s	Alle Endpoints
Anfragen nach nicht unterstützten Features	200 pro 30 s	`/chat/completions`, `/responses`

Das zweite Budget zählt Anfragen, die von einem Modell ein Feature verlangen, das es nicht unterstützt. Ein Beispiel ist die Anforderung von Vision oder Tool Calling bei einem Modell ohne diese Fähigkeit. Die Überschreitung eines der beiden Budgets erscheint in den Rate-Limit-Logs als FAILED_REQUESTS oder UNSUPPORTED_FEATURE_REQUESTS. Das Feld error im Response-Body benennt den ausgelösten Schwellenwert. Für das Budget für fehlgeschlagene Anfragen lautet es:

Too many failed attempts (> 50) resulting in a non-success status code. Please wait 30 seconds and try again. See https://docs.venice.ai/api-reference/rate-limiting for more information.

Response-Header

Inferenz-Antworten (Chat Completions, Responses, Bild, Audio und Embeddings) enthalten diese Header. Sie werden nicht auf Models-, API-Key-, Billing- oder x402-Routen gesendet; dasselbe gilt für die x-venice-balance-*-Header.

Header	Beschreibung
`x-ratelimit-limit-requests`	Max. Anfragen, die im aktuellen Fenster erlaubt sind
`x-ratelimit-remaining-requests`	Verbleibende Anfragen im aktuellen Fenster
`x-ratelimit-reset-requests`	Unix-Zeitstempel in Millisekunden, bis zu dem das aktuelle Fenster vollständig geleert ist (Anfragezeitpunkt plus volle Fensterlänge, unabhängig von der Nutzung)
`x-ratelimit-limit-tokens`	Max. erlaubte Tokens pro Minute
`x-ratelimit-remaining-tokens`	Verbleibende Tokens in der aktuellen Minute
`x-ratelimit-reset-tokens`	Unix-Zeitstempel in Millisekunden, wann das Token-Limit zurückgesetzt wird

Das Budget für fehlgeschlagene Anfragen hat eigene Header, die bei jeder Antwort auf eine Anfrage mit einem API-Key gesendet werden, einschließlich 401-Antworten:

Header	Beschreibung
`x-ratelimit-remaining`	Verbleibende fehlgeschlagene Anfragen im aktuellen 30-Sekunden-Fenster
`x-ratelimit-resets`	Unix-Zeitstempel in Millisekunden, wann das aktuelle 30-Sekunden-Fenster zurückgesetzt wird

Der Endpoint /crypto/rpc/{network} verwendet eigene Limits und eigene Header (X-RateLimit-Limit, X-RateLimit-Remaining und X-RateLimit-Reset), die nur bei 429-Antworten gesetzt werden. Anders als bei den oben genannten Millisekunden-Headern ist X-RateLimit-Reset ein Unix-Zeitstempel in Sekunden. Details finden Sie unter Crypto RPC.

Partner-Stufe

Partner-Keys haben für jedes Modell eigene Limits. Rufen Sie GET /api_keys/rate_limits mit einem Partner-Key auf, um sie zu sehen. Wenn Sie konstant Ihre Rate-Limits erreichen und Ihre Nutzungsmuster eine anhaltende Nachfrage über die Zeit zeigen, kontaktieren Sie uns, um über Partner-Zugang zu sprechen: [email protected]. Partner-Tier-Limits können an Ihre spezifischen Anforderungen angepasst werden.

Ihre Limits ansehen

Rate-Limit-Logs

​Limits nach Modelltyp

​Text-, Embedding- und Bildmodelle

​Sprach- und Transkriptionsmodelle

​Video- und Musik-Modelle

​Fehlerbehandlung

​Fehlerbudgets

​Response-Header

​Partner-Stufe