Embeddings convertem texto em vetores que capturam significado semântico. Use-os para busca, geração aumentada por recuperação (RAG), clusterização, recomendações, deduplicação e pontuação de similaridade.
O endpoint de embeddings da Venice é compatível com OpenAI. Envie uma string ou um array de strings para /embeddings e armazene os vetores retornados no seu banco de dados ou índice vetorial.
Uso Básico
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["VENICE_API_KEY"],
base_url="https://api.venice.ai/api/v1",
)
response = client.embeddings.create(
model="text-embedding-bge-m3",
input="Privacy-first AI infrastructure for semantic search",
)
vector = response.data[0].embedding
print(len(vector), vector[:5])
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.VENICE_API_KEY,
baseURL: "https://api.venice.ai/api/v1",
});
const response = await client.embeddings.create({
model: "text-embedding-bge-m3",
input: "Privacy-first AI infrastructure for semantic search",
});
const vector = response.data[0].embedding;
console.log(vector.length, vector.slice(0, 5));
curl https://api.venice.ai/api/v1/embeddings \
-H "Authorization: Bearer $VENICE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "text-embedding-bge-m3",
"input": "Privacy-first AI infrastructure for semantic search",
"encoding_format": "float"
}'
Entradas em Lote
Passe um array de strings para gerar embeddings de vários textos em uma única requisição:
{
"model": "text-embedding-bge-m3",
"input": [
"Venice supports private chat completions.",
"Embeddings help retrieve relevant documents.",
"Vector search powers RAG applications."
]
}
A resposta preserva a ordem de entrada. Armazene cada vetor com o ID do texto de origem, os metadados e o ID do modelo de embedding.
Fluxo de Trabalho Comum
- Divida os documentos de origem em pedaços (chunks).
- Gere embeddings para cada pedaço.
- Armazene os vetores e metadados em um banco de dados vetorial.
- Gere o embedding da consulta do usuário.
- Recupere os pedaços mais próximos.
- Envie o contexto recuperado para um modelo de chat.
Para uma implementação completa, veja Construindo um Bot RAG Privado.
Seleção de Modelo
Use a página Modelos de Embedding para comparar os modelos de embedding atuais, dimensões e preços.
Use o mesmo modelo de embedding para indexação e consulta. Misturar modelos pode tornar as pontuações de similaridade não confiáveis, pois os espaços vetoriais não são intercambiáveis.
Recursos Relacionados