Responses API

​

Wann du ihn verwenden solltest

​

Schnellstart

curl https://api.venice.ai/api/v1/responses \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "venice-uncensored",
    "input": "Explain why the sky is blue in one sentence.",
    "venice_parameters": { "include_venice_system_prompt": false }
  }'

from openai import OpenAI

client = OpenAI(base_url="https://api.venice.ai/api/v1", api_key="YOUR_VENICE_API_KEY")

response = client.responses.create(
    model="venice-uncensored",
    input="Explain why the sky is blue in one sentence.",
    extra_body={"venice_parameters": {"include_venice_system_prompt": False}},
)
print(response.output_text)

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.venice.ai/api/v1", apiKey: process.env.VENICE_API_KEY });

const response = await client.responses.create({
  model: "venice-uncensored",
  input: "Explain why the sky is blue in one sentence.",
  venice_parameters: { include_venice_system_prompt: false },
});
console.log(response.output_text);

{
  "id": "resp_...",
  "object": "response",
  "model": "venice-uncensored-1-2",
  "status": "completed",
  "output": [
    {
      "type": "message",
      "id": "msg_...",
      "role": "assistant",
      "status": "completed",
      "content": [{ "type": "output_text", "text": "Sunlight scatters off air molecules...", "annotations": [] }]
    }
  ],
  "usage": { "input_tokens": 18, "output_tokens": 21, "total_tokens": 39 }
}

​

Wie Anfragen verarbeitet werden

• Nativ. Anfragen für OpenAI-Modelle werden ohne Übersetzung an die Responses API von OpenAI weitergeleitet. Das betrifft jedes openai-*-Modell außer openai-gpt-oss-120b. Antwort-Items, IDs, Reasoning und Stream-Events kommen genau so zurück, wie OpenAI sie liefert.
• Übersetzt. Alle anderen Modelle sowie openai-gpt-oss-120b laufen über eine Übersetzungsschicht: Venice wandelt die Anfrage in eine Chat-Completions-Anfrage um, führt sie aus und wandelt das Ergebnis zurück. Alles, was das Chat-Completions-Format nicht ausdrücken kann, wird ignoriert oder abgelehnt. Siehe Einschränkungen.

​

Konversationen sind zustandslos

history = [{"role": "user", "content": "What is the weather in Paris? Use the tool."}]
tools = [{
    "type": "function",
    "name": "get_weather",
    "description": "Get the current weather for a city",
    "parameters": {"type": "object", "properties": {"city": {"type": "string"}}, "required": ["city"]},
}]

first = client.responses.create(model="venice-uncensored", input=history, tools=tools)
call = next(item for item in first.output if item.type == "function_call")

history += first.output
history.append({"type": "function_call_output", "call_id": call.call_id, "output": '{"temp_c": 18}'})

second = client.responses.create(model="venice-uncensored", input=history, tools=tools)
print(second.output_text)

​

Nativer Modus

• instructions, die unverändert angewendet werden.
• Structured Outputs mit text.format. OpenAI validiert Schemas strikt, daher gibt ein ungültiges Schema 400 zurück. Zum Beispiel erfordert strict: true die Angabe additionalProperties: false, und json_object erfordert, dass das Wort “json” irgendwo im Input vorkommt.
• Function-Tools und tool_choice in der Responses-Form von OpenAI {"type": "function", "name": "..."} sowie parallele Tool-Aufrufe.
• Clientseitig ausgeführte Tools: custom (Freitext-Eingabe), namespace, tool_search, apply_patch, shell und local_shell mit lokaler Umgebung sowie Computer Use.
• Reasoning-Zusammenfassungen, standardmäßig aktiviert. Reasoning-Modelle geben bei Reasoning-Items immer encrypted_content zurück. Sende diese Items im nächsten Turn in input zurück, um den Reasoning-Kontext des Modells zu erhalten.
• Prompt Caching mit prompt_cache_key. Venice ordnet den Schlüssel deinem Konto zu, sodass nie ein Cache mit anderen Nutzern geteilt wird, und gibt deinen ursprünglichen Schlüssel in der Antwort zurück.
• Bildeingaben, einschließlich detail: "original", sowie input_file mit Inline-file_data.
• Pro-Modelle (*-pro), die automatisch im Pro-Reasoning-Modus von OpenAI laufen.

​

Streaming

• Reasoning-Text wird als response.reasoning.delta gestreamt, nicht als Reasoning-Summary-Events von OpenAI.
• Wenn eine Websuche läuft, liefert ein response.web_search.done-Event die Suchergebnisse, bevor die Antwort gestreamt wird.

​

Parameter im übersetzten Modus

• instructions werden als Systemnachricht angewendet.
• Custom-Tools geben custom_tool_call-Items mit dem rohen input zurück. Wenn ein Modell fehlerhafte Custom-Tool-Argumente zurückgibt oder ein Tool aufruft, das in der Anfrage nicht deklariert ist, kommt der Aufruf als gewöhnlicher function_call mit den ursprünglichen Argumenten zurück, sodass dein Client einen Tool-Fehler melden und fortfahren kann.
• Während die Eingabe eines Custom-Tools gestreamt wird, können sein Aufruf-Item und nachfolgende Items erst eintreffen, wenn die Eingabe vollständig ist. Der Stream sendet währenddessen SSE-Keep-alive-Kommentare.
• Bild-detail: "original" wird an Anbieter, die es nicht unterstützen, als high gesendet.

​

Einschränkungen

​

Verwandte Themen

• API-Referenz für POST /responses
• Function Calling
• Reasoning-Modelle
• OpenAI-Migrationsleitfaden