Pular para o conteúdo principal
Embeddings convertem texto em vetores que capturam significado semântico. Use-os para busca, geração aumentada por recuperação (RAG), clusterização, recomendações, deduplicação e pontuação de similaridade. O endpoint de embeddings da Venice é compatível com OpenAI. Envie uma string ou um array de strings para /embeddings e armazene os vetores retornados no seu banco de dados ou índice vetorial.

Uso Básico

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["VENICE_API_KEY"],
    base_url="https://api.venice.ai/api/v1",
)

response = client.embeddings.create(
    model="text-embedding-bge-m3",
    input="Privacy-first AI infrastructure for semantic search",
)

vector = response.data[0].embedding
print(len(vector), vector[:5])
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.VENICE_API_KEY,
  baseURL: "https://api.venice.ai/api/v1",
});

const response = await client.embeddings.create({
  model: "text-embedding-bge-m3",
  input: "Privacy-first AI infrastructure for semantic search",
});

const vector = response.data[0].embedding;
console.log(vector.length, vector.slice(0, 5));
curl https://api.venice.ai/api/v1/embeddings \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "text-embedding-bge-m3",
    "input": "Privacy-first AI infrastructure for semantic search",
    "encoding_format": "float"
  }'

Entradas em Lote

Passe um array de strings para gerar embeddings de vários textos em uma única requisição:
{
  "model": "text-embedding-bge-m3",
  "input": [
    "Venice supports private chat completions.",
    "Embeddings help retrieve relevant documents.",
    "Vector search powers RAG applications."
  ]
}
A resposta preserva a ordem de entrada. Armazene cada vetor com o ID do texto de origem, os metadados e o ID do modelo de embedding.

Fluxo de Trabalho Comum

  1. Divida os documentos de origem em pedaços (chunks).
  2. Gere embeddings para cada pedaço.
  3. Armazene os vetores e metadados em um banco de dados vetorial.
  4. Gere o embedding da consulta do usuário.
  5. Recupere os pedaços mais próximos.
  6. Envie o contexto recuperado para um modelo de chat.
Para uma implementação completa, veja Construindo um Bot RAG Privado.

Seleção de Modelo

Use a página Modelos de Embedding para comparar os modelos de embedding atuais, dimensões e preços.
Use o mesmo modelo de embedding para indexação e consulta. Misturar modelos pode tornar as pontuações de similaridade não confiáveis, pois os espaços vetoriais não são intercambiáveis.

Recursos Relacionados