Zum Hauptinhalt springen
Cline kommuniziert mit Tokios über seinen OpenAI Compatible Provider. Setze die Base URL des Providers auf https://api.tokios.com/v1, den API Key auf deinen sk-tok-…-Schlüssel und die Model ID auf deinen registrierten Tokios Deployment-Namen — Cline leitet dann jede Anfrage über deinen privaten Tunnel zu deinem lokalen Modell weiter.

Prerequisites

  • Ein laufender Tokios Connector, der mit deinem lokalen Modell gekoppelt ist — siehe Connector install
  • Ein registrierter Modell-Deployment-Name — siehe Register a model
  • Ein Tokios API-Schlüssel — siehe API Keys
  • Die Cline-Erweiterung in VS Code (oder einem kompatiblen Editor) installiert

Konfiguriere den OpenAI Compatible Provider in Cline

1

Öffne Cline's Einstellungen

Klicke auf das Zahnradsymbol im Cline-Panel, um Settings zu öffnen.
2

Wähle den OpenAI Compatible Provider

Im API Provider-Dropdown, wähle OpenAI Compatible.
3

Setze die Base URL

Im Base URL-Feld, gib ein:
4

Setze den API Key

Im API Key-Feld, füge deinen Tokios-Schlüssel ein:
5

Setze die Model ID

Im Model ID-Feld, gib deinen Tokios-Deployment-Namen ein — den öffentlichen Namen, den du im Models-Tab registriert hast, zum Beispiel gemma-tunnel. Dies ist nicht die lokale/Upstream-Modell-ID, die dein Backend verwendet.
6

Setze Kontextfenster und maximale Ausgabe manuell

Der OpenAI Compatible Provider erkennt Modelllimits nicht automatisch. Fülle Context Window und Max Output Tokens aus, um dem zugrunde liegenden Modell deines Deployments zu entsprechen, damit Cline Anfragen korrekt dimensioniert.
Das Model ID-Feld ist immer dein registrierter Deployment-Name, niemals die Upstream-Modell-ID, die von Ollama, llama.cpp, vLLM oder LM Studio bereitgestellt wird. Siehe Register a model.

Wenn es in curl funktioniert hat, aber 400-Fehler in Cline zurückgibt

Wenn eine einfache curl-Anfrage an https://api.tokios.com/v1/chat/completions erfolgreich ist, Cline aber einen 400 zurückgibt, arbeite diese der Reihe nach durch:
Cline hängt /chat/completions an das ein, was du in Base URL eingibst. Gib https://api.tokios.com/v1 ein — wenn du den vollständigen Pfad einfügst (https://api.tokios.com/v1/chat/completions), fordert Cline einen verdoppelten Pfad an und Tokios gibt einen Fehler zurück. Tokios bietet eine stabile /v1 OpenAI-Oberfläche, sodass der Root eindeutig ist: Er lautet immer https://api.tokios.com/v1, nichts angehängt.
Das Model ID-Feld muss der exakte öffentliche Deployment-Name sein, der im Models-Tab angezeigt wird — nicht die Upstream-Modell-ID und keine Tippfehler-Variante. Ein nicht übereinstimmender Name äußert sich typischerweise als 404, aber fehlerhafte Modell-Strings (zusätzliche Leerzeichen, falsche Großschreibung, bei der dein Deployment empfindlich reagiert) können ebenfalls als 400 zurückgegeben werden.
Cline fordert standardmäßig Streaming-Antworten an. Tokios gibt Standard-OpenAI-Format-SSE für "stream": true auf /v1/chat/completions zurück, daher sollte dies ohne zusätzliche Konfiguration funktionieren. Wenn ein von Cline gesendeter Anfrageparameter von deinem lokalen Backend nicht unterstützt wird, kann das Backend ihn als 400 ablehnen, bevor Tokios überhaupt ein Routing-Problem erkennt.
Ein 400 bedeutet, dass Tokios meldet, dass der Anfrage-Body selbst nicht verarbeitet werden konnte. Wenn Basis-URL und Modell-ID beide korrekt sind, prüfe auf eine zufällige anbieterspezifische Option in Cline’s erweiterten Einstellungen (ein Feld, das ein generisches OpenAI Compatible Backend nicht erwartet).

Fehlerreferenz

Nächste Schritte

Sobald Cline auf Tokios zeigt, funktionieren dieselbe Basis-URL, API-Schlüssel und Deployment-Name für jedes andere OpenAI-kompatible Tool, das du daneben ausführst — keine zusätzlichen Tunnels oder Port-Weiterleitungen pro Client.

Compatible clients

Siehe die Basis-URL und Schlüsseleinstellungen für jeden anderen unterstützten Client.

API keys

Erstelle, beschränke und rotiere sk-tok-…-Schlüssel für Teammitglieder und Agenten.