Embeddings

Gli embedding convertono il testo in vettori che catturano il significato semantico. Usali per ricerca, generazione aumentata da recupero (RAG), clustering, raccomandazioni, deduplicazione e calcolo della similarità. L’endpoint embeddings di Venice è compatibile con OpenAI. Invia una singola stringa o un array di stringhe a /embeddings, quindi memorizza i vettori restituiti nel tuo database o indice vettoriale.

Venice accetta solo testo. Invia una stringa o un array di stringhe. Gli array di token ID vengono rifiutati con HTTP 400. OpenAIEmbeddings di LangChain deve impostare check_embedding_ctx_length=False, altrimenti tokenizza localmente con tiktoken e invia array di interi.

Utilizzo di Base

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["VENICE_API_KEY"],
    base_url="https://api.venice.ai/api/v1",
)

response = client.embeddings.create(
    model="text-embedding-bge-m3",
    input="Privacy-first AI infrastructure for semantic search",
)

vector = response.data[0].embedding
print(len(vector), vector[:5])

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.VENICE_API_KEY,
  baseURL: "https://api.venice.ai/api/v1",
});

const response = await client.embeddings.create({
  model: "text-embedding-bge-m3",
  input: "Privacy-first AI infrastructure for semantic search",
});

const vector = response.data[0].embedding;
console.log(vector.length, vector.slice(0, 5));

curl https://api.venice.ai/api/v1/embeddings \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "text-embedding-bge-m3",
    "input": "Privacy-first AI infrastructure for semantic search",
    "encoding_format": "float"
  }'

Input in Batch

Passa un array di stringhe per generare embedding di più testi in una singola richiesta. Ogni elemento deve essere testo, non un array di token ID. Si applicano due limiti, entrambi verificati prima che la richiesta raggiunga un modello:

Limite	Valore	Errore quando superato
Elementi per richiesta	2.048	`400` — “Array must contain at most 2048 element(s)“
Token per elemento	8.192	`400` — il conteggio dei token è verificato per singolo elemento dell’array, non sull’intero batch

Dimensiona i tuoi batch di ingest rispetto al limite di 2.048 e suddividi i documenti lunghi sotto gli 8.192 token per elemento. Anche il body della richiesta è strict, quindi un campo non riconosciuto restituisce un 400 invece di essere ignorato.

{
  "model": "text-embedding-bge-m3",
  "input": [
    "Venice supports private chat completions.",
    "Embeddings help retrieve relevant documents.",
    "Vector search powers RAG applications."
  ]
}

La risposta preserva l’ordine dell’input. Memorizza ogni vettore insieme all’ID del testo di origine, ai metadati e all’ID del modello di embedding.

Flusso di Lavoro Tipico

Suddividi i documenti di origine in chunk.
Genera gli embedding per ogni chunk.
Memorizza vettori e metadati in un database vettoriale.
Genera l’embedding della query dell’utente.
Recupera i chunk più vicini.
Invia il contesto recuperato a un modello di chat.

Per un’implementazione completa, consulta Creare un Bot RAG Privato.

Scelta del Modello

Usa la pagina Modelli di Embedding per confrontare i modelli di embedding disponibili, le dimensioni e i prezzi.

Usa lo stesso modello di embedding per l’indicizzazione e per le query. Mescolare modelli diversi può rendere i punteggi di similarità inaffidabili perché gli spazi vettoriali non sono interscambiabili.

Risorse Correlate

⌘I

Documentazione

Per iniziare

Testo e chat

Immagini

Video

Audio

Ricerca e RAG

Agenti e integrazioni

Strumenti di sviluppo

Strumenti per agenti

SDK e framework

Utilizzo di Base

Input in Batch

Flusso di Lavoro Tipico

Scelta del Modello

Risorse Correlate

​Utilizzo di Base

​Input in Batch

​Flusso di Lavoro Tipico

​Scelta del Modello

​Risorse Correlate

Utilizzo di Base

Input in Batch

Flusso di Lavoro Tipico

Scelta del Modello

Risorse Correlate