Tokios-API-Endpunkte: Referenz für OpenAI & Anthropic

Alle Tokios-API-Anfragen werden an https://api.tokios.com gesendet; dabei dient Ihr sk-tok-...-API-Schlüssel als Bearer-Token. Tokios stellt Schnittstellen für OpenAI Chat Completions, OpenAI Responses sowie Anthropic Messages bereit, zudem Funktionen zum Auflisten von Modellen und Zählen von Tokens.

Base URL

https://api.tokios.com

Probieren Sie es aus – testen Sie beliebige registrierte Modelle in console Playground ohne Programmierung. Der Test erfolgt in Ihrer angemeldeten Sitzung, weshalb Sie für Experimente keinen API-Schlüssel benötigen.

Authentifizierung

Jede Anfrage erfordert folgende Header:

Authorization: Bearer sk-tok-YOUR_KEY
Content-Type: application/json

Das Feld model in jeder Anfrage bezeichnet den öffentlichen Deployment-Namen, den Sie registriert haben (z. B. gemma-tunnel), nicht die lokale Modell-ID.

Anwendungsbeispiele

POST/v1/chat/completionsOpenAI dialect

Typische Anfrageformate für /v1/chat/completions. Ersetzen Sie sk-tok-YOUR_KEY und gemma-tunnel durch Ihre eigenen Werte. Streaming und Tool-Aufrufe hängen davon ab, ob das jeweilige Upstream-Modell diese Funktionen unterstützt.

Grundlagen
Streaming
Aufruf von Werkzeugen
Windows

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [{"role": "user", "content": "What is 2 + 2?"}]
  }'

from openai import OpenAI

client = OpenAI(api_key="sk-tok-YOUR_KEY", base_url="https://api.tokios.com/v1")

resp = client.chat.completions.create(
    model="gemma-tunnel",
    messages=[{"role": "user", "content": "What is 2 + 2?"}],
)
print(resp.choices[0].message.content)

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [{"role": "user", "content": "Write a haiku about tunnels."}],
    "stream": true
  }'

from openai import OpenAI

client = OpenAI(api_key="sk-tok-YOUR_KEY", base_url="https://api.tokios.com/v1")

stream = client.chat.completions.create(
    model="gemma-tunnel",
    messages=[{"role": "user", "content": "Write a haiku about tunnels."}],
    stream=True,
)
for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="")

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [{"role": "user", "content": "What is the weather in Paris?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

from openai import OpenAI

client = OpenAI(api_key="sk-tok-YOUR_KEY", base_url="https://api.tokios.com/v1")

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]

resp = client.chat.completions.create(
    model="gemma-tunnel",
    messages=[{"role": "user", "content": "What is the weather in Paris?"}],
    tools=tools,
)
print(resp.choices[0].message.tool_calls)

PowerShell liest -d @body.json aus einer Datei, um Probleme beim Escapen von Anführungszeichen zu vermeiden:

PowerShell

$body = '{"model":"gemma-tunnel","messages":[{"role":"user","content":"What is 2 + 2?"}]}'
Set-Content -Path body.json -Value $body -Encoding ascii
curl.exe https://api.tokios.com/v1/chat/completions `
  -H "Authorization: Bearer sk-tok-YOUR_KEY" `
  -H "Content-Type: application/json" `
  -d "@body.json"

POST/v1/chat/completionsOpenAI dialect

POST /v1/chat/completions

Kompatibel mit unterstützten OpenAI SDKs. Senden Sie eine Liste von Nachrichten und erhalten Sie eine Antwort von Ihrem registrierten Modell.

Anfrageinhalt

string

erforderlich

Der öffentliche Name der Deployment-Konfiguration (z. B. "gemma-tunnel").

array

erforderlich

Ein Array von Nachrichtenobjekten. Jedes Objekt enthält ein role ("system", "user" oder "assistant") sowie content. Der Inhalt kann entweder ein Textstring oder ein Array von Inhaltsblöcken (Text, Tool Calls, Bilder) sein – Tokios leitet diese Struktur unverändert weiter.

boolean

Standard:"false"

Die Antwort wird mittels Server-Sent Events gestreamt.

number

Sampling-Temperatur. Höhere Werte führen zu zufälligerem Ausgabeinhalt.

integer

Maximale Anzahl an Tokens, die generiert werden dürfen.

Example request

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [
      {"role": "system", "content": "You are a helpful assistant."},
      {"role": "user", "content": "What is 2 + 2?"}
    ]
  }'

Response · 200

{
  "id": "chatcmpl-abc123",
  "object": "chat.completion",
  "created": 1717000000,
  "model": "gemma-tunnel",
  "choices": [
    {
      "index": 0,
      "message": { "role": "assistant", "content": "2 + 2 equals 4." },
      "finish_reason": "stop"
    }
  ],
  "usage": { "prompt_tokens": 24, "completion_tokens": 9, "total_tokens": 33 }
}

POST/v1/messagesAnthropic dialect

POST /v1/messages

Die Integration funktioniert mit den unterstützten Anthropic-SDKs. Senden Sie ein Array mit Nachrichten und erhalten Sie eine Antwort im Format von Anthropic. Tokios wandelt diese anschließend in Chat Completions für Ihr Modell um und gibt das Ergebnis zurück.

Anfrageinhalt

string

erforderlich

Der öffentliche Name der Deployment-Instanz.

array

erforderlich

Ein Array von Nachrichtenobjekten, die jeweils ein role ("user" oder "assistant") sowie ein content (einen String oder ein Array von Inhaltsblöcken) enthalten.

integer

erforderlich

Die maximale Anzahl an Tokens, die generiert werden dürfen.

string

Ein System-Prompt, der vor die Konversation eingefügt wird.

boolean

Standard:"false"

Die Antwort wird mittels Server-Sent Events gestreamt.

Example request

curl https://api.tokios.com/v1/messages \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Explain async/await"}]
  }'

Response · 200

{
  "id": "msg_abc123",
  "type": "message",
  "role": "assistant",
  "content": [{ "type": "text", "text": "Async/await is a syntax for handling asynchronous operations..." }],
  "model": "gemma-tunnel",
  "stop_reason": "end_turn",
  "usage": { "input_tokens": 12, "output_tokens": 48 }
}

POST/v1/messages/count_tokensAnthropic dialect

POST /v1/messages/count_tokens

Die Integration funktioniert ebenfalls mit den unterstützten Anthropic-SDKs. Senden Sie dieselbe Struktur des Anfrageinhalts wie unter /v1/messages; es wird lediglich die Anzahl der eingegebenen Tokens zurückgegeben, ohne dass eine eigentliche Completion ausgeführt wird.

Example request

curl https://api.tokios.com/v1/messages/count_tokens \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [{"role": "user", "content": "Explain async/await"}]
  }'

Response · 200

{ "input_tokens": 12 }

POST/v1/responsesOpenAI dialect

POST /v1/responses

Die Integration funktioniert mit den unterstützten OpenAI-SDKs, die das neuere Responses-Format nutzen (zum Beispiel OpenAI Codex). Tokios wandelt diese Anfragen ebenfalls in Chat Completions für Ihr Modell um.

Anfrageinhalt

string

erforderlich

Der öffentliche Name der Deployment-Instanz.

string | array

erforderlich

Der Eingabetext bzw. ein Array aus Eingabeelementen, anhand dessen eine Antwort generiert wird.

boolean

Standard:"false"

Die Antwort wird mittels Server-Sent Events gestreamt.

Example request

curl https://api.tokios.com/v1/responses \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "input": "Write a haiku about tunnels."
  }'

GET/v1/modelsOpenAI dialect

GET /v1/models

Hier werden alle Modell-Deployments aufgelistet, die mit Ihrem API-Schlüssel genutzt werden können. Die Ausgabe entspricht der üblichen Struktur, die von unterstützten OpenAI-SDKs erwartet wird.

Example request

curl https://api.tokios.com/v1/models \
  -H "Authorization: Bearer sk-tok-YOUR_KEY"

Response · 200

{
  "object": "list",
  "data": [
    { "id": "gemma-tunnel", "object": "model", "owned_by": "tokios" },
    { "id": "qwen-coder", "object": "model", "owned_by": "tokios" }
  ]
}

Der Modellauswähler in Claude Code listet ausschließlich claude*-IDs auf; daher werden Ihre Tokios-Modelle dort nicht angezeigt. Geben Sie das Modell stattdessen explizit mit claude --model gemma-tunnel an – siehe die Anleitung zu Claude Code.

Fehlercodes

HTTP-Statuscode	Bedeutung des Fehlers
400	Der Anfrageinhalt ist fehlerhaft formatiert.
401	Der API-Schlüssel fehlt oder ist ungültig.
403	Der API-Schlüssel ist nicht berechtigt, dieses Modell zu nutzen, oder das Konto wurde gesperrt.
404	Die gewünschte Modell-Deployment wurde nicht gefunden
503	Der Connector ist offline oder erreicht gerade seine Kapazitätsgrenze (`connector_unavailable` / `connector_busy`)

Wenn der Wert 503 angezeigt wird, bedeutet das, dass der Connector für diese Deployment momentan nicht verbunden ist – oder die maximale Anzahl gleichzeitiger Verbindungen erreicht hat. Starten Sie den Connector und prüfen Sie, ob er im Konsolenfenster als online angezeigt wird, bevor Sie den Vorgang erneut versuchen.

Erste Schritte

Modelle

Konzepte

Referenz

Tokios-API-Endpunkte: Referenz für OpenAI & Anthropic

Authentifizierung

Anwendungsbeispiele

POST /v1/chat/completions

Anfrageinhalt

POST /v1/messages

Anfrageinhalt

POST /v1/messages/count_tokens

POST /v1/responses

Anfrageinhalt

GET /v1/models

Fehlercodes

​Authentifizierung

​Anwendungsbeispiele

​POST /v1/chat/completions

​Anfrageinhalt

​POST /v1/messages

​Anfrageinhalt

​POST /v1/messages/count_tokens

​POST /v1/responses

​Anfrageinhalt

​GET /v1/models

​Fehlercodes

Authentifizierung

Anwendungsbeispiele

POST /v1/chat/completions

Anfrageinhalt

POST /v1/messages

Anfrageinhalt

POST /v1/messages/count_tokens

POST /v1/responses

Anfrageinhalt

GET /v1/models

Fehlercodes