Embeddings

Les embeddings convertissent le texte en vecteurs qui capturent le sens sémantique. Utilisez-les pour la recherche, la génération augmentée par récupération (RAG), le clustering, les recommandations, la déduplication et le calcul de similarité. Le point de terminaison d’embeddings de Venice est compatible avec OpenAI. Envoyez une chaîne de caractères ou un tableau de chaînes à /embeddings, puis stockez les vecteurs retournés dans votre base de données ou votre index vectoriel.

Venice n’accepte que du texte. Envoyez une chaîne de caractères ou un tableau de chaînes. Les tableaux d’ID de tokens sont rejetés avec HTTP 400. OpenAIEmbeddings de LangChain doit définir check_embedding_ctx_length=False, sinon il tokenise localement avec tiktoken et envoie des tableaux d’entiers.

Utilisation de base

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["VENICE_API_KEY"],
    base_url="https://api.venice.ai/api/v1",
)

response = client.embeddings.create(
    model="text-embedding-bge-m3",
    input="Privacy-first AI infrastructure for semantic search",
)

vector = response.data[0].embedding
print(len(vector), vector[:5])

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.VENICE_API_KEY,
  baseURL: "https://api.venice.ai/api/v1",
});

const response = await client.embeddings.create({
  model: "text-embedding-bge-m3",
  input: "Privacy-first AI infrastructure for semantic search",
});

const vector = response.data[0].embedding;
console.log(vector.length, vector.slice(0, 5));

curl https://api.venice.ai/api/v1/embeddings \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "text-embedding-bge-m3",
    "input": "Privacy-first AI infrastructure for semantic search",
    "encoding_format": "float"
  }'

Entrées par lots

Passez un tableau de chaînes pour embarquer plusieurs textes en une seule requête. Chaque élément doit être du texte, pas un tableau d’ID de tokens. Deux limites s’appliquent, et toutes deux sont vérifiées avant que la requête n’atteigne un modèle :

Limite	Valeur	Erreur en cas de dépassement
Éléments par requête	2 048	`400` — “Array must contain at most 2048 element(s)“
Tokens par élément	8 192	`400` — le nombre de tokens est vérifié par entrée du tableau, pas sur l’ensemble du lot

Dimensionnez vos lots d’ingestion en fonction du plafond de 2 048 et découpez les documents longs en dessous de 8 192 tokens par entrée. Le corps de la requête est également strict : un champ non reconnu renvoie un 400 au lieu d’être ignoré.

{
  "model": "text-embedding-bge-m3",
  "input": [
    "Venice supports private chat completions.",
    "Embeddings help retrieve relevant documents.",
    "Vector search powers RAG applications."
  ]
}

La réponse conserve l’ordre des entrées. Stockez chaque vecteur avec l’identifiant du texte source, les métadonnées et l’identifiant du modèle d’embedding.

Flux de travail courant

Découpez les documents sources en fragments.
Générez les embeddings pour chaque fragment.
Stockez les vecteurs et les métadonnées dans une base de données vectorielle.
Générez l’embedding de la requête utilisateur.
Récupérez les fragments proches.
Envoyez le contexte récupéré à un modèle de chat.

Pour une implémentation complète, consultez Créer un bot RAG privé.

Choix du modèle

Consultez la page Modèles d’embeddings pour comparer les modèles d’embeddings actuels, leurs dimensions et leurs tarifs.

Utilisez le même modèle d’embedding pour l’indexation et l’interrogation. Mélanger les modèles peut rendre les scores de similarité peu fiables car les espaces vectoriels ne sont pas interchangeables.

Ressources connexes

⌘I

Documentation

Démarrage

Texte et chat

Image

Vidéo

Audio

Recherche et RAG

Agents et intégrations

Outils de code

Outils pour agents

SDK et frameworks

Utilisation de base

Entrées par lots

Flux de travail courant

Choix du modèle

Ressources connexes

​Utilisation de base

​Entrées par lots

​Flux de travail courant

​Choix du modèle

​Ressources connexes

Utilisation de base

Entrées par lots

Flux de travail courant

Choix du modèle

Ressources connexes