Embeddings

Embeddings convertem texto em vetores que capturam significado semântico. Use-os para busca, geração aumentada por recuperação (RAG), clusterização, recomendações, deduplicação e pontuação de similaridade. O endpoint de embeddings da Venice é compatível com OpenAI. Envie uma string ou um array de strings para /embeddings e armazene os vetores retornados no seu banco de dados ou índice vetorial.

A Venice aceita apenas texto. Envie uma string ou um array de strings. Arrays de IDs de tokens são rejeitados com HTTP 400. OpenAIEmbeddings do LangChain deve definir check_embedding_ctx_length=False, caso contrário ele tokeniza localmente com tiktoken e envia arrays de inteiros.

Uso Básico

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["VENICE_API_KEY"],
    base_url="https://api.venice.ai/api/v1",
)

response = client.embeddings.create(
    model="text-embedding-bge-m3",
    input="Privacy-first AI infrastructure for semantic search",
)

vector = response.data[0].embedding
print(len(vector), vector[:5])

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.VENICE_API_KEY,
  baseURL: "https://api.venice.ai/api/v1",
});

const response = await client.embeddings.create({
  model: "text-embedding-bge-m3",
  input: "Privacy-first AI infrastructure for semantic search",
});

const vector = response.data[0].embedding;
console.log(vector.length, vector.slice(0, 5));

curl https://api.venice.ai/api/v1/embeddings \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "text-embedding-bge-m3",
    "input": "Privacy-first AI infrastructure for semantic search",
    "encoding_format": "float"
  }'

Entradas em Lote

Passe um array de strings para gerar embeddings de vários textos em uma única requisição. Cada item deve ser texto, não um array de IDs de tokens:

{
  "model": "text-embedding-bge-m3",
  "input": [
    "Venice supports private chat completions.",
    "Embeddings help retrieve relevant documents.",
    "Vector search powers RAG applications."
  ]
}

A resposta preserva a ordem de entrada. Armazene cada vetor com o ID do texto de origem, os metadados e o ID do modelo de embedding.

Fluxo de Trabalho Comum

Divida os documentos de origem em pedaços (chunks).
Gere embeddings para cada pedaço.
Armazene os vetores e metadados em um banco de dados vetorial.
Gere o embedding da consulta do usuário.
Recupere os pedaços mais próximos.
Envie o contexto recuperado para um modelo de chat.

Para uma implementação completa, veja Construindo um Bot RAG Privado.

Seleção de Modelo

Use a página Modelos de Embedding para comparar os modelos de embedding atuais, dimensões e preços.

Use o mesmo modelo de embedding para indexação e consulta. Misturar modelos pode tornar as pontuações de similaridade não confiáveis, pois os espaços vetoriais não são intercambiáveis.

Recursos Relacionados

⌘I

Documentação

Primeiros passos

Texto e chat

Imagem

Vídeo

Áudio

Pesquisa e RAG

Agentes e integrações

Ferramentas de código

Ferramentas para agentes

SDKs e frameworks

Uso Básico

Entradas em Lote

Fluxo de Trabalho Comum

Seleção de Modelo

Recursos Relacionados

​Uso Básico

​Entradas em Lote

​Fluxo de Trabalho Comum

​Seleção de Modelo

​Recursos Relacionados

Uso Básico

Entradas em Lote

Fluxo de Trabalho Comum

Seleção de Modelo

Recursos Relacionados