Gli embedding convertono il testo in vettori che catturano il significato semantico. Usali per ricerca, generazione aumentata da recupero (RAG), clustering, raccomandazioni, deduplicazione e calcolo della similarità.
L’endpoint embeddings di Venice è compatibile con OpenAI. Invia una singola stringa o un array di stringhe a /embeddings, quindi memorizza i vettori restituiti nel tuo database o indice vettoriale.
Utilizzo di Base
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["VENICE_API_KEY"],
base_url="https://api.venice.ai/api/v1",
)
response = client.embeddings.create(
model="text-embedding-bge-m3",
input="Privacy-first AI infrastructure for semantic search",
)
vector = response.data[0].embedding
print(len(vector), vector[:5])
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.VENICE_API_KEY,
baseURL: "https://api.venice.ai/api/v1",
});
const response = await client.embeddings.create({
model: "text-embedding-bge-m3",
input: "Privacy-first AI infrastructure for semantic search",
});
const vector = response.data[0].embedding;
console.log(vector.length, vector.slice(0, 5));
curl https://api.venice.ai/api/v1/embeddings \
-H "Authorization: Bearer $VENICE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "text-embedding-bge-m3",
"input": "Privacy-first AI infrastructure for semantic search",
"encoding_format": "float"
}'
Passa un array di stringhe per generare embedding di più testi in una singola richiesta:
{
"model": "text-embedding-bge-m3",
"input": [
"Venice supports private chat completions.",
"Embeddings help retrieve relevant documents.",
"Vector search powers RAG applications."
]
}
La risposta preserva l’ordine dell’input. Memorizza ogni vettore insieme all’ID del testo di origine, ai metadati e all’ID del modello di embedding.
Flusso di Lavoro Tipico
- Suddividi i documenti di origine in chunk.
- Genera gli embedding per ogni chunk.
- Memorizza vettori e metadati in un database vettoriale.
- Genera l’embedding della query dell’utente.
- Recupera i chunk più vicini.
- Invia il contesto recuperato a un modello di chat.
Per un’implementazione completa, consulta Creare un Bot RAG Privato.
Scelta del Modello
Usa la pagina Modelli di Embedding per confrontare i modelli di embedding disponibili, le dimensioni e i prezzi.
Usa lo stesso modello di embedding per l’indicizzazione e per le query. Mescolare modelli diversi può rendere i punteggi di similarità inaffidabili perché gli spazi vettoriali non sono interscambiabili.
Risorse Correlate