Skip to main content
Los embeddings convierten texto en vectores que capturan significado semántico. Úsalos para búsqueda, generación aumentada por recuperación (RAG), clustering, recomendaciones, deduplicación y puntuación de similitud. El endpoint de embeddings de Venice es compatible con OpenAI. Envía una cadena o un arreglo de cadenas a /embeddings y almacena los vectores devueltos en tu base de datos o índice vectorial.
Venice acepta únicamente texto. Envía una cadena o un arreglo de cadenas. Los arreglos de IDs de tokens se rechazan con HTTP 400. LangChain OpenAIEmbeddings debe establecer check_embedding_ctx_length=False; de lo contrario, tokeniza localmente con tiktoken y envía arreglos de enteros.

​
Uso básico

​
Entradas por lotes

Pasa un arreglo de cadenas para generar embeddings de varios textos en una sola solicitud. Cada elemento debe ser texto, no un arreglo de IDs de tokens:
La respuesta conserva el orden de entrada. Almacena cada vector junto con el ID del texto de origen, los metadatos y el ID del modelo de embeddings.

​
Flujo de trabajo común

  1. Divide los documentos de origen en fragmentos.
  2. Genera embeddings para cada fragmento.
  3. Almacena los vectores y metadatos en una base de datos vectorial.
  4. Genera el embedding de la consulta del usuario.
  5. Recupera los fragmentos cercanos.
  6. Envía el contexto recuperado a un modelo de chat.
Para una implementación completa, consulta Crear un bot RAG privado.

​
Selección de modelo

Utiliza la página de Modelos de Embeddings para comparar los modelos de embeddings actuales, sus dimensiones y precios.
Usa el mismo modelo de embeddings para indexar y consultar. Mezclar modelos puede hacer que las puntuaciones de similitud no sean fiables porque los espacios vectoriales no son intercambiables.

​
Recursos relacionados