Rate Limits | Venice API Docs

Os limites de taxa variam por modelo e tier. O endpoint /api_keys/rate_limits retorna os limites atuais de cada modelo para a sua chave:

Veja seus limites

Playground interativo

Logs de limite de taxa

Veja quais requisições atingiram limites

curl https://api.venice.ai/api/v1/api_keys/rate_limits \
  -H "Authorization: Bearer $VENICE_API_KEY"

Limites por tipo de modelo

Modelos de texto, embedding e imagem

Os modelos de texto, embedding e imagem (incluindo upscale e inpaint) têm, cada um, seus próprios limites. Na resposta de /api_keys/rate_limits, data.rateLimits tem uma entrada por modelo, e o campo rateLimits de cada entrada lista um amount para cada type de limite: RPM (requisições por minuto), TPM (tokens por minuto) ou RPD (requisições por dia). Para verificar um único modelo:

curl -s https://api.venice.ai/api/v1/api_keys/rate_limits \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  | jq '.data.rateLimits[] | select(.apiModelId == "venice-uncensored-1-2")'

Os limites podem mudar, então leia-os pela API em vez de fixá-los no código. As respostas de inferência também trazem o limite aplicado e a sua capacidade restante nos cabeçalhos de resposta x-ratelimit-*.

Modelos de fala e transcrição

Todo modelo de fala e transcrição permite 60 requisições por minuto, ou 120 com uma chave Partner.

Modelos de vídeo e música

As requisições de enfileiramento e recuperação de vídeo, música e trocador de voz estão sujeitas a limites de requisições por conta. Trate respostas 429 com backoff e consulte os endpoints de recuperação em um intervalo moderado, em vez de em um loop contínuo. Os jobs são cobrados por geração contra seu saldo de créditos, então calcule o preço de um job primeiro com POST /video/quote, POST /audio/quote ou POST /audio/voice-changer/quote.

Tratamento de erros

Requisições com falha (500, 503, 429) devem ser repetidas com backoff exponencial. Para erros 429 em endpoints de inferência, o cabeçalho x-ratelimit-reset-requests informa o momento mais tardio, como um timestamp Unix em milissegundos, até o qual a janela de requisições estará totalmente liberada. Esperar até esse momento é sempre seguro; tentar novamente antes também pode funcionar.

const reset = Number(response.headers.get('x-ratelimit-reset-requests'));
const waitMs = Math.max(0, reset - Date.now());
await new Promise((resolve) => setTimeout(resolve, waitMs));

Orçamentos de erro

Dois limites adicionais protegem a API contra clientes que fazem retry contra uma parede. Ambos são contados por modelo e por chave de API, e ambos retornam 429. As requisições com falha são contadas em janelas fixas de 30 segundos:

Orçamento	Limite	Aplica-se a
Requisições com falha	50 por 30s	Todos os endpoints
Requisições de recursos não suportados	200 por 30s	`/chat/completions`, `/responses`

O segundo orçamento conta requisições que pedem a um modelo um recurso que ele não suporta. Por exemplo, solicitar visão ou chamada de ferramentas de um modelo sem essa capacidade. Exceder qualquer um dos orçamentos aparece nos logs de limite de taxa como FAILED_REQUESTS ou UNSUPPORTED_FEATURE_REQUESTS. O campo error do corpo da resposta indica o limite que foi acionado. Para o orçamento de requisições com falha, ele diz:

Too many failed attempts (> 50) resulting in a non-success status code. Please wait 30 seconds and try again. See https://docs.venice.ai/api-reference/rate-limiting for more information.

Cabeçalhos de resposta

Respostas de inferência (chat completions, responses, imagem, áudio e embeddings) incluem estes cabeçalhos. Eles não são enviados nas rotas de modelos, chaves de API, cobrança ou x402, e o mesmo vale para os cabeçalhos x-venice-balance-*.

Cabeçalho	Descrição
`x-ratelimit-limit-requests`	Máximo de requisições permitidas na janela atual
`x-ratelimit-remaining-requests`	Requisições restantes na janela atual
`x-ratelimit-reset-requests`	Timestamp Unix em milissegundos até o qual a janela atual estará totalmente liberada (horário da requisição mais a duração total da janela, independentemente do uso)
`x-ratelimit-limit-tokens`	Máximo de tokens permitidos por minuto
`x-ratelimit-remaining-tokens`	Tokens restantes no minuto atual
`x-ratelimit-reset-tokens`	Timestamp Unix em milissegundos de quando o limite de tokens é redefinido

O orçamento de requisições com falha tem seus próprios cabeçalhos, enviados em toda resposta a uma requisição feita com uma chave de API, incluindo respostas 401:

Cabeçalho	Descrição
`x-ratelimit-remaining`	Requisições com falha restantes na janela atual de 30 segundos
`x-ratelimit-resets`	Timestamp Unix em milissegundos de quando a janela atual de 30 segundos é redefinida

O endpoint /crypto/rpc/{network} usa seus próprios limites e seus próprios cabeçalhos X-RateLimit-Limit, X-RateLimit-Remaining e X-RateLimit-Reset, que são definidos apenas em respostas 429. Diferentemente dos cabeçalhos em milissegundos acima, X-RateLimit-Reset é um timestamp Unix em segundos. Consulte Crypto RPC para detalhes.

Tier Partner

As chaves Partner têm seus próprios limites para cada modelo. Chame GET /api_keys/rate_limits com uma chave Partner para vê-los. Se você está atingindo seus limites de taxa consistentemente e seus padrões de uso mostram demanda sustentada ao longo do tempo, entre em contato para discutir acesso de parceiro: [email protected]. Os limites do tier Partner podem ser ajustados com base em suas necessidades específicas.

Venice APIs

Limites de taxa

Veja seus limites

Logs de limite de taxa

Limites por tipo de modelo

Modelos de texto, embedding e imagem

Modelos de fala e transcrição

Modelos de vídeo e música

Tratamento de erros

Orçamentos de erro

Cabeçalhos de resposta

Tier Partner

Veja seus limites

Logs de limite de taxa

​Limites por tipo de modelo

​Modelos de texto, embedding e imagem

​Modelos de fala e transcrição

​Modelos de vídeo e música

​Tratamento de erros

​Orçamentos de erro

​Cabeçalhos de resposta

​Tier Partner

Limites por tipo de modelo

Modelos de texto, embedding e imagem

Modelos de fala e transcrição

Modelos de vídeo e música

Tratamento de erros

Orçamentos de erro

Cabeçalhos de resposta

Tier Partner