Rate Limits | Venice API Docs

속도 제한은 모델과 등급에 따라 다릅니다. /api_keys/rate_limits 엔드포인트는 키에 적용된 각 모델의 현재 제한을 반환합니다:

제한 보기

인터랙티브 플레이그라운드

속도 제한 로그

제한에 도달한 요청 확인

curl https://api.venice.ai/api/v1/api_keys/rate_limits \
  -H "Authorization: Bearer $VENICE_API_KEY"

모델 유형별 제한

텍스트, 임베딩 및 이미지 모델

텍스트, 임베딩 및 이미지 모델(업스케일 및 인페인트 포함)은 각각 고유한 제한이 있습니다. /api_keys/rate_limits 응답에서 data.rateLimits에는 모델마다 하나의 항목이 있으며, 각 항목의 rateLimits는 제한 type별 amount를 나열합니다. type은 RPM(분당 요청 수), TPM(분당 토큰 수), RPD(일당 요청 수) 중 하나입니다. 단일 모델을 확인하려면 다음을 실행하세요:

curl -s https://api.venice.ai/api/v1/api_keys/rate_limits \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  | jq '.data.rateLimits[] | select(.apiModelId == "venice-uncensored-1-2")'

제한은 변경될 수 있으므로 하드코딩하지 말고 API에서 읽어 오세요. 추론 응답에도 적용된 제한과 남은 용량이 x-ratelimit-* 응답 헤더에 포함됩니다.

음성 및 전사 모델

모든 음성 및 전사 모델은 분당 60개의 요청을 허용하며, 파트너 키에서는 120개를 허용합니다.

비디오 및 음악 모델

비디오, 음악, 보이스 체인저의 대기열 등록 및 조회 요청에는 계정별 요청 제한이 적용됩니다. 429 응답은 백오프로 처리하고, 조회 엔드포인트는 짧은 루프로 반복하지 말고 적당한 간격으로 폴링하세요. 작업은 크레딧 잔액에서 생성 건당 청구되므로, 먼저 POST /video/quote, POST /audio/quote 또는 POST /audio/voice-changer/quote로 작업 비용을 산정하세요.

오류 처리

실패한 요청(500, 503, 429)은 지수 백오프로 재시도해야 합니다. 추론 엔드포인트에서 429 오류가 발생한 경우, x-ratelimit-reset-requests 헤더는 요청 윈도우가 완전히 비워지는 가장 늦은 시점을 밀리초 단위 Unix 타임스탬프로 알려줍니다. 그때까지 기다리면 항상 안전하며, 그보다 일찍 재시도해도 성공할 수 있습니다.

const reset = Number(response.headers.get('x-ratelimit-reset-requests'));
const waitMs = Math.max(0, reset - Date.now());
await new Promise((resolve) => setTimeout(resolve, waitMs));

오류 버짓

벽에 부딪히면서도 계속 재시도하는 클라이언트로부터 API를 보호하기 위해 두 가지 추가 제한이 있습니다. 둘 다 API 키별, 모델별로 집계되며, 둘 다 429를 반환합니다. 실패한 요청은 고정된 30초 윈도우 단위로 집계됩니다:

버짓	임계값	적용 대상
실패한 요청	30초당 50	모든 엔드포인트
지원되지 않는 기능 요청	30초당 200	`/chat/completions`, `/responses`

두 번째 버짓은 모델이 지원하지 않는 기능을 요청하는 경우를 집계합니다. 예를 들어 해당 기능이 없는 모델에 비전이나 도구 호출을 요청하는 경우입니다. 두 버짓 중 하나라도 초과하면 속도 제한 로그에 FAILED_REQUESTS 또는 UNSUPPORTED_FEATURE_REQUESTS로 표시됩니다. 응답 본문의 error 필드에 초과된 임계값이 명시됩니다. 실패한 요청 버짓의 경우 다음과 같습니다:

Too many failed attempts (> 50) resulting in a non-success status code. Please wait 30 seconds and try again. See https://docs.venice.ai/api-reference/rate-limiting for more information.

응답 헤더

추론 응답(chat completions, responses, 이미지, 오디오, 임베딩)에는 다음 헤더가 포함됩니다. 이 헤더는 모델, API 키, 결제 또는 x402 경로에서는 전송되지 않으며, x-venice-balance-* 헤더도 마찬가지입니다.

Header	Description
`x-ratelimit-limit-requests`	현재 윈도우에서 허용된 최대 요청
`x-ratelimit-remaining-requests`	현재 윈도우에서 남은 요청
`x-ratelimit-reset-requests`	현재 윈도우가 완전히 비워지는 시점의 Unix 타임스탬프(밀리초) (사용량과 관계없이 요청 시각에 전체 윈도우 길이를 더한 값)
`x-ratelimit-limit-tokens`	분당 허용된 최대 토큰
`x-ratelimit-remaining-tokens`	현재 분에 남은 토큰
`x-ratelimit-reset-tokens`	토큰 제한이 재설정되는 Unix 타임스탬프(밀리초)

실패한 요청 버짓에는 별도의 헤더가 있으며, 401 응답을 포함하여 API 키로 보낸 요청에 대한 모든 응답에 전송됩니다:

Header	Description
`x-ratelimit-remaining`	현재 30초 윈도우에서 남은 실패한 요청 수
`x-ratelimit-resets`	현재 30초 윈도우가 재설정되는 Unix 타임스탬프(밀리초)

/crypto/rpc/{network} 엔드포인트는 자체 제한과 자체 X-RateLimit-Limit, X-RateLimit-Remaining, X-RateLimit-Reset 헤더를 사용하며, 이 헤더들은 429 응답에서만 설정됩니다. 위의 밀리초 단위 헤더와 달리 X-RateLimit-Reset은 초 단위 Unix 타임스탬프입니다. 자세한 내용은 Crypto RPC를 참조하세요.

파트너 등급

파트너 키에는 모델별로 별도의 제한이 있습니다. 파트너 키로 GET /api_keys/rate_limits를 호출하여 확인하세요. 지속적으로 속도 제한에 도달하고 사용 패턴이 시간 경과에 따른 지속적인 수요를 보이는 경우, 파트너 액세스를 논의하기 위해 연락하세요: [email protected]. 파트너 등급 제한은 특정 요구 사항에 따라 조정할 수 있습니다.

제한 보기

속도 제한 로그

​모델 유형별 제한

​텍스트, 임베딩 및 이미지 모델

​음성 및 전사 모델

​비디오 및 음악 모델

​오류 처리

​오류 버짓

​응답 헤더

​파트너 등급