Responses API

​

何时使用

​

快速开始

curl https://api.venice.ai/api/v1/responses \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "venice-uncensored",
    "input": "Explain why the sky is blue in one sentence.",
    "venice_parameters": { "include_venice_system_prompt": false }
  }'

from openai import OpenAI

client = OpenAI(base_url="https://api.venice.ai/api/v1", api_key="YOUR_VENICE_API_KEY")

response = client.responses.create(
    model="venice-uncensored",
    input="Explain why the sky is blue in one sentence.",
    extra_body={"venice_parameters": {"include_venice_system_prompt": False}},
)
print(response.output_text)

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.venice.ai/api/v1", apiKey: process.env.VENICE_API_KEY });

const response = await client.responses.create({
  model: "venice-uncensored",
  input: "Explain why the sky is blue in one sentence.",
  venice_parameters: { include_venice_system_prompt: false },
});
console.log(response.output_text);

{
  "id": "resp_...",
  "object": "response",
  "model": "venice-uncensored-1-2",
  "status": "completed",
  "output": [
    {
      "type": "message",
      "id": "msg_...",
      "role": "assistant",
      "status": "completed",
      "content": [{ "type": "output_text", "text": "Sunlight scatters off air molecules...", "annotations": [] }]
    }
  ],
  "usage": { "input_tokens": 18, "output_tokens": 21, "total_tokens": 39 }
}

​

请求的处理方式

• 原生（Native）。 对 OpenAI 模型的请求会不经转换直接转发到 OpenAI 的 Responses API。这涵盖除 openai-gpt-oss-120b 之外的所有 openai-* 模型。响应项、ID、推理内容和流事件都会按 OpenAI 返回的原样传回。
• 转换（Translated）。 其他所有模型以及 openai-gpt-oss-120b 都会经过转换层：Venice 将请求转换为 Chat Completions 请求并执行，然后将结果转换回来。Chat Completions 格式无法表达的内容会被忽略或拒绝。参见限制。

​

对话是无状态的

history = [{"role": "user", "content": "What is the weather in Paris? Use the tool."}]
tools = [{
    "type": "function",
    "name": "get_weather",
    "description": "Get the current weather for a city",
    "parameters": {"type": "object", "properties": {"city": {"type": "string"}}, "required": ["city"]},
}]

first = client.responses.create(model="venice-uncensored", input=history, tools=tools)
call = next(item for item in first.output if item.type == "function_call")

history += first.output
history.append({"type": "function_call_output", "call_id": call.call_id, "output": '{"temp_c": 18}'})

second = client.responses.create(model="venice-uncensored", input=history, tools=tools)
print(second.output_text)

​

原生模式

• instructions，按原样应用。
• 通过 text.format 实现的结构化输出。OpenAI 会严格校验 schema，因此无效的 schema 会返回 400。例如，strict: true 要求 additionalProperties: false，而 json_object 要求输入中某处包含单词 “json”。
• 采用 OpenAI Responses 格式 {"type": "function", "name": "..."} 的函数工具和 tool_choice，以及并行工具调用。
• 由客户端执行的工具：custom（自由格式输入）、namespace、tool_search、apply_patch、使用本地环境的 shell 和 local_shell，以及计算机操作（computer use）。
• 推理摘要，默认开启。推理模型始终会在推理项上返回 encrypted_content。在下一轮中将这些项放回 input 发送，即可保留模型的推理上下文。
• 使用 prompt_cache_key 的提示缓存。Venice 会将该键限定在你的账户范围内，因此绝不会与其他用户共享缓存，并会在响应中返回你原始的键。
• 图片输入（包括 detail: "original"），以及带有内联 file_data 的 input_file。
• Pro 模型（*-pro），会自动以 OpenAI 的 Pro 推理模式运行。

​

Streaming

• 推理文本以 response.reasoning.delta 的形式流式传输，而不是 OpenAI 的推理摘要事件。
• 执行网页搜索时，会在答案开始流式传输之前，通过 response.web_search.done 事件返回搜索结果。

​

转换模式参数

• instructions 会作为系统消息应用。
• 自定义工具会返回带有原始 input 的 custom_tool_call 项。如果模型返回格式错误的自定义工具参数，或调用了请求中未声明的工具，该调用会以普通的 function_call 形式返回并保留原始参数，以便你的客户端报告工具错误并继续执行。
• 在自定义工具的输入流式传输期间，其调用项及后续项可能要等到输入完成后才会到达。等待期间，流会发送 SSE keep-alive 注释。
• 对于不支持 detail: "original" 的提供商，图片的该设置会以 high 发送。

​

限制

​

相关内容

• POST /responses 的 API 参考
• 函数调用
• 推理模型
• OpenAI 迁移指南