https://api.tokios.com/v1, den API Key auf deinen sk-tok-…-Schlüssel und die Model ID auf deinen registrierten Tokios Deployment-Namen — Cline leitet dann jede Anfrage über deinen privaten Tunnel zu deinem lokalen Modell weiter.
Prerequisites
- Ein laufender Tokios Connector, der mit deinem lokalen Modell gekoppelt ist — siehe Connector install
- Ein registrierter Modell-Deployment-Name — siehe Register a model
- Ein Tokios API-Schlüssel — siehe API Keys
- Die Cline-Erweiterung in VS Code (oder einem kompatiblen Editor) installiert
Konfiguriere den OpenAI Compatible Provider in Cline
1
Öffne Cline's Einstellungen
Klicke auf das Zahnradsymbol im Cline-Panel, um Settings zu öffnen.
2
Wähle den OpenAI Compatible Provider
Im API Provider-Dropdown, wähle OpenAI Compatible.
3
Setze die Base URL
Im Base URL-Feld, gib ein:
4
Setze den API Key
Im API Key-Feld, füge deinen Tokios-Schlüssel ein:
5
Setze die Model ID
Im Model ID-Feld, gib deinen Tokios-Deployment-Namen ein — den öffentlichen Namen, den du im Models-Tab registriert hast, zum Beispiel
gemma-tunnel. Dies ist nicht die lokale/Upstream-Modell-ID, die dein Backend verwendet.6
Setze Kontextfenster und maximale Ausgabe manuell
Der OpenAI Compatible Provider erkennt Modelllimits nicht automatisch. Fülle Context Window und Max Output Tokens aus, um dem zugrunde liegenden Modell deines Deployments zu entsprechen, damit Cline Anfragen korrekt dimensioniert.
Wenn es in curl funktioniert hat, aber 400-Fehler in Cline zurückgibt
Wenn eine einfachecurl-Anfrage an https://api.tokios.com/v1/chat/completions erfolgreich ist, Cline aber einen 400 zurückgibt, arbeite diese der Reihe nach durch:
Base URL is the /v1 root, not the full chat/completions path
Base URL is the /v1 root, not the full chat/completions path
Cline hängt
/chat/completions an das ein, was du in Base URL eingibst. Gib https://api.tokios.com/v1 ein — wenn du den vollständigen Pfad einfügst (https://api.tokios.com/v1/chat/completions), fordert Cline einen verdoppelten Pfad an und Tokios gibt einen Fehler zurück. Tokios bietet eine stabile /v1 OpenAI-Oberfläche, sodass der Root eindeutig ist: Er lautet immer https://api.tokios.com/v1, nichts angehängt.Model ID doesn't match your deployment name exactly
Model ID doesn't match your deployment name exactly
Das Model ID-Feld muss der exakte öffentliche Deployment-Name sein, der im Models-Tab angezeigt wird — nicht die Upstream-Modell-ID und keine Tippfehler-Variante. Ein nicht übereinstimmender Name äußert sich typischerweise als 404, aber fehlerhafte Modell-Strings (zusätzliche Leerzeichen, falsche Großschreibung, bei der dein Deployment empfindlich reagiert) können ebenfalls als 400 zurückgegeben werden.
Streaming
Streaming
Cline fordert standardmäßig Streaming-Antworten an. Tokios gibt Standard-OpenAI-Format-SSE für
"stream": true auf /v1/chat/completions zurück, daher sollte dies ohne zusätzliche Konfiguration funktionieren. Wenn ein von Cline gesendeter Anfrageparameter von deinem lokalen Backend nicht unterstützt wird, kann das Backend ihn als 400 ablehnen, bevor Tokios überhaupt ein Routing-Problem erkennt.Malformed request body
Malformed request body
Ein 400 bedeutet, dass Tokios meldet, dass der Anfrage-Body selbst nicht verarbeitet werden konnte. Wenn Basis-URL und Modell-ID beide korrekt sind, prüfe auf eine zufällige anbieterspezifische Option in Cline’s erweiterten Einstellungen (ein Feld, das ein generisches OpenAI Compatible Backend nicht erwartet).
Fehlerreferenz
Nächste Schritte
Sobald Cline auf Tokios zeigt, funktionieren dieselbe Basis-URL, API-Schlüssel und Deployment-Name für jedes andere OpenAI-kompatible Tool, das du daneben ausführst — keine zusätzlichen Tunnels oder Port-Weiterleitungen pro Client.Compatible clients
Siehe die Basis-URL und Schlüsseleinstellungen für jeden anderen unterstützten Client.
API keys
Erstelle, beschränke und rotiere
sk-tok-…-Schlüssel für Teammitglieder und Agenten.