Responses API

​

사용 시점

​

빠른 시작

curl https://api.venice.ai/api/v1/responses \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "venice-uncensored",
    "input": "Explain why the sky is blue in one sentence.",
    "venice_parameters": { "include_venice_system_prompt": false }
  }'

from openai import OpenAI

client = OpenAI(base_url="https://api.venice.ai/api/v1", api_key="YOUR_VENICE_API_KEY")

response = client.responses.create(
    model="venice-uncensored",
    input="Explain why the sky is blue in one sentence.",
    extra_body={"venice_parameters": {"include_venice_system_prompt": False}},
)
print(response.output_text)

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.venice.ai/api/v1", apiKey: process.env.VENICE_API_KEY });

const response = await client.responses.create({
  model: "venice-uncensored",
  input: "Explain why the sky is blue in one sentence.",
  venice_parameters: { include_venice_system_prompt: false },
});
console.log(response.output_text);

{
  "id": "resp_...",
  "object": "response",
  "model": "venice-uncensored-1-2",
  "status": "completed",
  "output": [
    {
      "type": "message",
      "id": "msg_...",
      "role": "assistant",
      "status": "completed",
      "content": [{ "type": "output_text", "text": "Sunlight scatters off air molecules...", "annotations": [] }]
    }
  ],
  "usage": { "input_tokens": 18, "output_tokens": 21, "total_tokens": 39 }
}

​

요청이 처리되는 방식

• 네이티브. OpenAI 모델에 대한 요청은 변환 없이 OpenAI의 Responses API로 전달됩니다. openai-gpt-oss-120b를 제외한 모든 openai-* 모델이 여기에 해당합니다. 응답 항목, ID, 추론, 스트림 이벤트는 OpenAI가 반환하는 그대로 돌아옵니다.
• 변환. 그 외의 모든 모델과 openai-gpt-oss-120b는 변환 계층을 거칩니다. Venice가 요청을 Chat Completions 요청으로 변환하여 실행한 뒤 결과를 다시 변환합니다. Chat Completions 형식으로 표현할 수 없는 항목은 무시되거나 거부됩니다. 제한 사항을 참조하세요.

​

대화는 상태를 저장하지 않음

history = [{"role": "user", "content": "What is the weather in Paris? Use the tool."}]
tools = [{
    "type": "function",
    "name": "get_weather",
    "description": "Get the current weather for a city",
    "parameters": {"type": "object", "properties": {"city": {"type": "string"}}, "required": ["city"]},
}]

first = client.responses.create(model="venice-uncensored", input=history, tools=tools)
call = next(item for item in first.output if item.type == "function_call")

history += first.output
history.append({"type": "function_call_output", "call_id": call.call_id, "output": '{"temp_c": 18}'})

second = client.responses.create(model="venice-uncensored", input=history, tools=tools)
print(second.output_text)

​

네이티브 모드

• instructions는 작성한 그대로 적용됩니다.
• text.format을 사용한 구조화된 출력. OpenAI는 스키마를 엄격하게 검증하므로 잘못된 스키마는 400을 반환합니다. 예를 들어 strict: true에는 additionalProperties: false가 필요하고, json_object에는 입력 어딘가에 “json”이라는 단어가 있어야 합니다.
• OpenAI의 Responses 형태 {"type": "function", "name": "..."}로 된 함수 도구와 tool_choice, 그리고 병렬 도구 호출.
• 클라이언트에서 실행되는 도구: custom(자유 형식 입력), namespace, tool_search, apply_patch, 로컬 환경을 사용하는 shell 및 local_shell, 그리고 컴퓨터 사용.
• 추론 요약(기본적으로 켜져 있음). 추론 모델은 추론 항목에 항상 encrypted_content를 반환합니다. 모델의 추론 컨텍스트를 유지하려면 다음 턴에서 이 항목들을 input에 담아 다시 보내세요.
• prompt_cache_key를 사용한 프롬프트 캐싱. Venice는 키를 사용자 계정 범위로 지정하므로 다른 사용자와 캐시를 공유하지 않으며, 응답에는 원래의 키를 반환합니다.
• detail: "original"을 포함한 이미지 입력, 그리고 인라인 file_data를 사용하는 input_file.
• Pro 모델(*-pro)은 OpenAI의 Pro 추론 모드를 자동으로 실행합니다.

​

스트리밍

• 추론 텍스트는 OpenAI의 추론 요약 이벤트가 아닌 response.reasoning.delta로 스트리밍됩니다.
• 웹 검색이 실행되면 답변이 스트리밍되기 전에 response.web_search.done 이벤트가 검색 결과를 전달합니다.

​

변환 모드 파라미터

• instructions는 시스템 메시지로 적용됩니다.
• 커스텀 도구는 원시 input이 담긴 custom_tool_call 항목을 반환합니다. 모델이 잘못된 형식의 커스텀 도구 인수를 반환하거나 요청에 선언되지 않은 도구를 호출하면, 해당 호출은 원래 인수를 가진 일반 function_call로 반환되므로 클라이언트가 도구 오류를 보고하고 계속 진행할 수 있습니다.
• 커스텀 도구의 입력이 스트리밍되는 동안, 해당 호출 항목과 이후 항목은 입력이 완료된 후에야 도착할 수 있습니다. 대기하는 동안 스트림은 SSE keep-alive 주석을 보냅니다.
• 이미지 detail: "original"은 이를 지원하지 않는 제공업체에는 high로 전송됩니다.

​

제한 사항

​

관련 문서

• POST /responses API 레퍼런스
• 함수 호출
• 추론 모델
• OpenAI 마이그레이션 가이드