Tokios API 엔드포인트: OpenAI 및 Anthropic 참조

모든 Tokios API 요청은 https://api.tokios.com 주소로 전송되며, sk-tok-... API 키를 Bearer 토큰 형태로 사용합니다. Tokios는 OpenAI Chat Completions, OpenAI Responses, Anthropic Messages 기능을 제공할 뿐만 아니라 모델 목록 조회 및 토큰 수 계산 기능도 갖추고 있습니다.

Base URL

https://api.tokios.com

직접 체험해보기 — 코드 작성 없이 console Playground 환경에서 등록된 모든 모델을 테스트할 수 있습니다. 로그인된 세션을 기반으로 작동하므로 실험 시 API 키조차 필요하지 않습니다.

인증 절차

모든 요청 시 다음 헤더들이 필수적으로 포함되어야 합니다.

Authorization: Bearer sk-tok-YOUR_KEY
Content-Type: application/json

요청 내의 model 필드에는 사용자가 등록한 공개 배포명이 기재됩니다(예: gemma-tunnel). 이는 로컬에 저장된 업스트림 모델 ID와는 다릅니다.

사용 예시

POST/v1/chat/completionsOpenAI dialect

Common request shapes against /v1/chat/completions. Replace sk-tok-YOUR_KEY and gemma-tunnel with your own. Streaming and tool calling depend on the underlying model supporting them.

기본 사용법
스트림 방식 처리
툴 호출 기능
윈도우 운영체제

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [{"role": "user", "content": "What is 2 + 2?"}]
  }'

from openai import OpenAI

client = OpenAI(api_key="sk-tok-YOUR_KEY", base_url="https://api.tokios.com/v1")

resp = client.chat.completions.create(
    model="gemma-tunnel",
    messages=[{"role": "user", "content": "What is 2 + 2?"}],
)
print(resp.choices[0].message.content)

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [{"role": "user", "content": "Write a haiku about tunnels."}],
    "stream": true
  }'

from openai import OpenAI

client = OpenAI(api_key="sk-tok-YOUR_KEY", base_url="https://api.tokios.com/v1")

stream = client.chat.completions.create(
    model="gemma-tunnel",
    messages=[{"role": "user", "content": "Write a haiku about tunnels."}],
    stream=True,
)
for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="")

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [{"role": "user", "content": "What is the weather in Paris?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

from openai import OpenAI

client = OpenAI(api_key="sk-tok-YOUR_KEY", base_url="https://api.tokios.com/v1")

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

resp = client.chat.completions.create(
    model="gemma-tunnel",
    messages=[{"role": "user", "content": "What is the weather in Paris?"}],
    tools=tools,
)
print(resp.choices[0].message.tool_calls)

파워셸은 따옴표 이스케이프 문제를 피하기 위해 파일에서 -d @body.json 값을 읽어들입니다.

PowerShell

$body = '{"model":"gemma-tunnel","messages":[{"role":"user","content":"What is 2 + 2?"}]}'
Set-Content -Path body.json -Value $body -Encoding ascii
curl.exe https://api.tokios.com/v1/chat/completions `
  -H "Authorization: Bearer sk-tok-YOUR_KEY" `
  -H "Content-Type: application/json" `
  -d "@body.json"

POST/v1/chat/completionsOpenAI dialect

POST /v1/chat/completions

지원되는 오픈AI SDK와 호환됩니다. 메시지 목록을 전송하면 등록된 모델의 응답 결과를 받을 수 있습니다.

요청 본문 내용

string

필수

공개 배포 시 사용되는 이름입니다(예: "gemma-tunnel").

array

필수

메시지 객체 배열입니다. 각 객체에는 role("system", "user" 또는 "assistant")과 content 필드가 존재합니다. 콘텐츠는 문자열이거나 여러 콘텐츠 블록(텍스트, 툴 호출 정보, 이미지)의 배열일 수 있으며, Tokios는 이 구조를 그대로 전달합니다.

boolean

기본값:"false"

서버에서 전송되는 이벤트를 통해 응답 내용을 스트림 형태로 받아보세요.

number

샘플링 온도값입니다. 값이 높을수록 결과가 더 무작위적으로 생성됩니다.

integer

생성 가능한 토큰의 최대 개수입니다.

Example request

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "What is 2 + 2?"}
    ]
  }'

Response · 200

{
  "id": "chatcmpl-abc123",
  "object": "chat.completion",
  "created": 1717000000,
  "model": "gemma-tunnel",
  "choices": [
    {
      "index": 0,
      "message": { "role": "assistant", "content": "2 + 2 equals 4." },
      "finish_reason": "stop"
    }
  ],
  "usage": { "prompt_tokens": 24, "completion_tokens": 9, "total_tokens": 33 }
}

POST/v1/messagesAnthropic dialect

POST /v1/messages

지원되는 Anthropic SDK들과 호환됩니다. 메시지 배열을 전송하면 Anthropic 형식의 응답을 받게 됩니다. Tokios는 이를 사용자의 모델에 맞는 Chat Completions 형식으로 변환한 뒤 다시 원래 형태로 되돌려줍니다.

요청 본문

string

필수

공개적으로 사용되는 배포 이름입니다.

array

필수

Array of message objects with a role ("user" or "assistant") and content (a string or an array of content blocks).

integer

필수

생성할 수 있는 토큰의 최대 개수입니다.

string

대화 시작 전에 추가할 시스템 프롬프트입니다.

boolean

기본값:"false"

서버 전송 이벤트를 활용해 응답을 스트림 형태로 받아보세요.

Example request

curl https://api.tokios.com/v1/messages \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Explain async/await"}]
  }'

Response · 200

{
  "id": "msg_abc123",
  "type": "message",
  "role": "assistant",
  "content": [{ "type": "text", "text": "Async/await is a syntax for handling asynchronous operations..." }],
  "model": "gemma-tunnel",
  "stop_reason": "end_turn",
  "usage": { "input_tokens": 12, "output_tokens": 48 }
}

POST/v1/messages/count_tokensAnthropic dialect

POST /v1/messages/count_tokens

지원되는 Anthropic SDK들과 호환됩니다. /v1/messages과 동일한 형태의 본문을 전송하면 실제 완성 처리는 수행하지 않고 입력된 토큰의 개수만 받아볼 수 있습니다.

Example request

curl https://api.tokios.com/v1/messages/count_tokens \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [{"role": "user", "content": "Explain async/await"}]
  }'

Response · 200

{ "input_tokens": 12 }

POST/v1/responsesOpenAI dialect

POST /v1/responses

최신 Responses 형식(OpenAI Codex에서 사용됨)을 지원하는 OpenAI SDK들과 호환됩니다. Tokios는 이를 사용자의 모델에 맞는 Chat Completions 형식으로 변환합니다.

요청 본문

string

필수

공개 배포 이름입니다.

string | array

필수

응답 생성을 위해 입력할 텍스트 또는 입력 항목 배열입니다.

boolean

기본값:"false"

서버 전송 이벤트를 활용해 응답을 스트림 형태로 전달합니다.

Example request

curl https://api.tokios.com/v1/responses \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "input": "Write a haiku about tunnels."
  }'

GET/v1/modelsOpenAI dialect

GET /v1/models

사용 중인 API 키로 이용 가능한 모델 배포 목록을 보여줍니다. 지원되는 OpenAI SDK에서도 표준 형식으로 활용 가능합니다.

Example request

curl https://api.tokios.com/v1/models \
  -H "Authorization: Bearer sk-tok-YOUR_KEY"

Response · 200

{
  "object": "list",
  "data": [
    { "id": "gemma-tunnel", "object": "model", "owned_by": "tokios" },
    { "id": "qwen-coder", "object": "model", "owned_by": "tokios" }
  ]
}

Claude Code의 모델 선택기는 claude* ID만 표시하므로 Tokios 모델이 나타나지 않습니다. claude --model gemma-tunnel 매개변수를 통해 모델을 명시적으로 지정해야 합니다. 자세한 내용은 Claude Code 가이드를 참고하세요.

오류 코드 목록입니다.

HTTP 상태 코드입니다.	각 코드가 의미하는 바입니다.
400	요청 본문의 형식이 올바르지 않습니다.
401	API 키가 누락되었거나 유효하지 않습니다.
403	해당 API 키로는 이 모델을 사용할 수 없거나 계정이 일시 중지된 상태입니다.
404	해당 배포에 대한 모델 배포 정보를 찾을 수 없습니다.
503	커넥터가 오프라인 상태이거나 처리 용량에 도달했습니다 (`connector_unavailable` / `connector_busy`).

A 503 means the connector for that deployment isn’t currently connected (or is at its concurrency cap). Start the connector and confirm it shows online in the console before retrying.

시작하기

모델

개념

참고

Tokios API 엔드포인트: OpenAI 및 Anthropic 참조

인증 절차

사용 예시

POST /v1/chat/completions

요청 본문 내용

POST /v1/messages

요청 본문

POST /v1/messages/count_tokens

POST /v1/responses

요청 본문

GET /v1/models

오류 코드 목록입니다.

​인증 절차

​사용 예시

​POST /v1/chat/completions

​요청 본문 내용

​POST /v1/messages

​요청 본문

​POST /v1/messages/count_tokens

​POST /v1/responses

​요청 본문

​GET /v1/models

​오류 코드 목록입니다.

인증 절차

사용 예시

POST /v1/chat/completions

요청 본문 내용

POST /v1/messages

요청 본문

POST /v1/messages/count_tokens

POST /v1/responses

요청 본문

GET /v1/models

오류 코드 목록입니다.