Los embeddings convierten texto en vectores que capturan significado semántico. Úsalos para búsqueda, generación aumentada por recuperación (RAG), clustering, recomendaciones, deduplicación y puntuación de similitud.
El endpoint de embeddings de Venice es compatible con OpenAI. Envía una cadena o un arreglo de cadenas a /embeddings y almacena los vectores devueltos en tu base de datos o índice vectorial.
Uso básico
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["VENICE_API_KEY"],
base_url="https://api.venice.ai/api/v1",
)
response = client.embeddings.create(
model="text-embedding-bge-m3",
input="Privacy-first AI infrastructure for semantic search",
)
vector = response.data[0].embedding
print(len(vector), vector[:5])
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.VENICE_API_KEY,
baseURL: "https://api.venice.ai/api/v1",
});
const response = await client.embeddings.create({
model: "text-embedding-bge-m3",
input: "Privacy-first AI infrastructure for semantic search",
});
const vector = response.data[0].embedding;
console.log(vector.length, vector.slice(0, 5));
curl https://api.venice.ai/api/v1/embeddings \
-H "Authorization: Bearer $VENICE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "text-embedding-bge-m3",
"input": "Privacy-first AI infrastructure for semantic search",
"encoding_format": "float"
}'
Entradas por lotes
Pasa un arreglo de cadenas para generar embeddings de varios textos en una sola solicitud:
{
"model": "text-embedding-bge-m3",
"input": [
"Venice supports private chat completions.",
"Embeddings help retrieve relevant documents.",
"Vector search powers RAG applications."
]
}
La respuesta conserva el orden de entrada. Almacena cada vector junto con el ID del texto de origen, los metadatos y el ID del modelo de embeddings.
Flujo de trabajo común
- Divide los documentos de origen en fragmentos.
- Genera embeddings para cada fragmento.
- Almacena los vectores y metadatos en una base de datos vectorial.
- Genera el embedding de la consulta del usuario.
- Recupera los fragmentos cercanos.
- Envía el contexto recuperado a un modelo de chat.
Para una implementación completa, consulta Crear un bot RAG privado.
Selección de modelo
Utiliza la página de Modelos de Embeddings para comparar los modelos de embeddings actuales, sus dimensiones y precios.
Usa el mismo modelo de embeddings para indexar y consultar. Mezclar modelos puede hacer que las puntuaciones de similitud no sean fiables porque los espacios vectoriales no son intercambiables.
Recursos relacionados