메인 콘텐츠로 건너뛰기
Venice의 핵심 원칙 중 하나는 사용자 개인정보 보호입니다. 플랫폼의 아키텍처는 이 철학적 원칙에서 비롯되며, 모든 구성 요소가 이 목표를 염두에 두고 설계되었습니다.
합리적인 사용자 개인정보 보호를 달성하는 유일한 방법은 애초에 이 정보를 수집하지 않는 것입니다. 이는 엔지니어링 관점에서 더 어렵지만, 우리는 이것이 올바른 접근 방식이라고 믿습니다.
Venice API는 Venice 플랫폼과 동일한 백엔드 개인정보 보호 아키텍처를 복제합니다: 요청은 암호화된 연결을 통해 Venice 프록시를 통과하며, Venice는 일반 추론을 위해 프롬프트 및 응답 콘텐츠를 저장하거나 기록하지 않으며, 선택된 각 모델은 런타임 계층에서 Anonymous, Private, TEE 또는 E2EE의 네 가지 개인정보 보호 모드 중 하나를 추가합니다. Venice AI Privacy Architecture

개인정보 보호 아키텍처

Venice 프록시는 모든 개인정보 보호 모드의 공유 기반입니다. 요청은 HTTPS/TLS를 통해 Venice를 통과하며 Venice가 프롬프트나 응답 콘텐츠를 저장하지 않고 중계됩니다. 선택된 모델의 개인정보 보호 모드는 제공자 또는 모델 런타임 계층에서 다음에 발생할 일을 결정합니다. Venice는 모델 개인정보 보호를 네 가지 모드로 제공합니다. 동일한 프록시 기반 위에 구축되며 제공자에게서 신원을 숨기는 것에서부터 프롬프트를 검증된 enclave로 종단 간 암호화하는 것까지 점진적으로 더 강력한 보호를 추가합니다.
개인정보 보호 강화
Anonymous

제공자로부터 신원 숨김

Venice는 사용자의 Venice 신원을 모델 제공자에게 보내지 않고 요청을 프록시합니다. 프롬프트 콘텐츠는 여전히 해당 제공자에게 표시됩니다.

Private

제로 데이터 보존, 계약으로 강제됨

프롬프트와 응답 콘텐츠는 추론에만 처리되며 요청이 완료된 후 보존되지 않습니다.

TEE

하드웨어 격리 추론

지원되는 모델은 원격 증명 지원이 있는 Trusted Execution Environment 내에서 실행됩니다.

E2EE

검증된 TEE로 종단 간 암호화

클라이언트가 보내기 전에 프롬프트를 암호화합니다. Venice는 암호문을 중계하고, 검증된 TEE만 이를 해독합니다.

/models 엔드포인트는 각 모델의 개인정보 보호 수준을 알려줍니다. anonymized로 표시된 모델은 Anonymous 모델이고, private으로 표시된 모델은 Private 모델입니다. TEE 및 E2EE는 supportsTeeAttestationsupportsE2EE와 같이 모델의 기능에 별도로 표시됩니다.
구현 세부 정보는 TEE & E2EE 모델 가이드를 참조하세요.

TEE 및 E2EE

TEE 및 E2EE 모델은 Venice의 기본 콘텐츠 비보존 접근 방식 위에 암호화 및 하드웨어 지원 제어를 추가합니다.

TEE를 사용해야 할 때

모델이 증명된 하드웨어 enclave 내에서 실행되기를 원하지만, 클라이언트가 일반 API 요청을 통해 일반 텍스트 프롬프트를 전송할 수 있을 때.

E2EE를 사용해야 할 때

프롬프트가 클라이언트를 떠나기 전에 암호화되어 검증된 TEE 내에서만 해독되기를 원할 때.
E2EE 흐름은 E2EE 지원 모델과 함께 /chat/completions를 사용합니다. 클라이언트는 증명을 가져오고, nonce 및 enclave 증거를 확인하고, usersystem 메시지를 암호화하고, X-Venice-TEE-* 헤더를 보내고, 응답을 스트리밍하고, 응답 콘텐츠를 확인/해독해야 합니다. E2EE는 또한 웹 검색, 메모리, 요약, 일부 도구 흐름 및 기타 서버 측 처리와 같이 enclave 외부에서 일반 텍스트가 필요한 기능을 비활성화합니다.

모델 선택

요청을 보내기 전에 각 모델이 지원하는 개인정보 보호 보호를 확인하려면 /models를 사용하세요. 각 모델에는 두 개의 관련 필드가 있습니다:
  • model_spec.privacy는 모델의 기본 개인정보 보호 모드를 알려줍니다:
    • anonymized: Venice가 제공자로부터 신원을 숨기지만 제공자는 여전히 프롬프트를 볼 수 있습니다.
    • private: Venice가 제로 데이터 보존 인프라를 통해 요청을 라우팅합니다.
  • model_spec.capabilities는 모델이 더 강력한 보호를 지원하는지 여부를 알려줍니다:
    • supportsTeeAttestation: 모델이 검증 가능한 Trusted Execution Environment 내에서 실행될 수 있습니다.
    • supportsE2EE: 모델은 TEE 내에서만 해독되는 클라이언트 암호화 프롬프트를 수용할 수 있습니다.
E2EE는 클라이언트 주도 흐름입니다. 애플리케이션은 요청을 암호화하고, 증명을 확인하고, 응답을 확인/해독해야 합니다. TEE & E2EE 모델 가이드를 참조하세요.
curl https://api.venice.ai/api/v1/models \
  -H "Authorization: Bearer $API_KEY_VENICE" | \
  jq '.data[] | {
    id,
    privacy: .model_spec.privacy,
    tee: .model_spec.capabilities.supportsTeeAttestation,
    e2ee: .model_spec.capabilities.supportsE2EE
  }'
간단한 경험 법칙: 제로 데이터 보존에는 private을 선택하고, 하드웨어 지원 격리에는 tee: true를 선택하며, 클라이언트를 떠나기 전에 프롬프트를 암호화해야 할 때는 e2ee: true를 선택하세요.

운영 메타데이터

Venice는 인증, 청구, 남용 방지, 안정성, 분석 및 지원에 필요한 메타데이터를 처리할 수 있습니다. 제품을 사용하는 방식에 따라 계정 또는 지갑 식별자, API 키 식별자, 요청 타임스탬프, 선택된 모델, 토큰 수, 청구 금액, 속도 제한 상태, 요청 ID, IP 주소, 브라우저 또는 장치 정보 및 제품 이벤트 로그가 포함될 수 있습니다. 이 메타데이터는 API를 운영하는 데 사용되며 프롬프트 및 응답 콘텐츠와는 별개입니다. 청구 및 사용 기록은 모델, 엔드포인트, 토큰 수, 타임스탬프 및 계정 식별자와 같은 세부 정보를 추적합니다; 프롬프트 또는 완료를 저장할 필요는 없습니다.