https://api.tokios.com/v1 fest, den API Key auf Ihren sk-tok-… Schlüssel und die Model ID auf Ihren registrierten Tokios Deployment-Namen — Cline leitet dann jede Anfrage über Ihren privaten Tunnel zu Ihrem lokalen Modell weiter.
Voraussetzungen
- Ein laufender Tokios Connector, der mit Ihrem lokalen Modell gekoppelt ist — siehe Connector Install
- Ein registrierter Modell-Deployment-Name — siehe Register a Model
- Ein Tokios API-Schlüssel — siehe API Keys
- Die Cline-Erweiterung in VS Code (oder einem kompatiblen Editor) installiert
Konfigurieren Sie den OpenAI Compatible Provider in Cline
1
Öffnen Sie die Einstellungen von Cline
Klicken Sie auf das Zahnradsymbol im Cline-Panel, um Settings zu öffnen.
2
Wählen Sie den OpenAI-kompatiblen Anbieter
Wählen Sie im API Provider-Dropdown OpenAI Compatible aus.
3
Legen Sie die Basis-URL fest
Geben Sie im Base URL-Feld Folgendes ein:
4
Legen Sie den API-Schlüssel fest
Fügen Sie in das API Key-Feld Ihren Tokios-Schlüssel ein:
5
Legen Sie die Modell-ID fest
Geben Sie im Model ID-Feld Ihren Tokios-Deployment-Namen ein — den öffentlichen Namen, den Sie im Models-Tab registriert haben, zum Beispiel
gemma-tunnel. Dies ist nicht die lokale/Upstream-Modell-ID, die Ihr Backend verwendet.6
Legen Sie das Kontextfenster und die maximale Ausgabe manuell fest
Der OpenAI-kompatible Anbieter erkennt Modelllimits nicht automatisch. Füllen Sie Context Window und Max Output Tokens aus, um dem zugrunde liegenden Modell Ihres Deployments zu entsprechen, damit Cline Anfragen korrekt dimensioniert.
Wenn es in curl funktioniert hat, aber 400 in Cline
Wenn eine einfachecurl-Anfrage an https://api.tokios.com/v1/chat/completions erfolgreich ist, Cline jedoch einen 400 zurückgibt, gehen Sie diese Punkte der Reihe nach durch:
Die Basis-URL ist der /v1-Root, nicht der vollständige chat/completions-Pfad
Die Basis-URL ist der /v1-Root, nicht der vollständige chat/completions-Pfad
Cline hängt
/chat/completions an das ein, was Sie in Base URL eingeben. Geben Sie https://api.tokios.com/v1 ein — wenn Sie den vollständigen Pfad (https://api.tokios.com/v1/chat/completions) einfügen, fordert Cline einen doppelt vorhandenen Pfad an und Tokios gibt einen Fehler zurück. Tokios bietet eine stabile /v1 OpenAI-Schnittstelle, sodass der Root eindeutig ist: Er lautet immer https://api.tokios.com/v1, ohne angehängte Pfade.Die Modell-ID stimmt nicht exakt mit dem Namen Ihrer Deployment überein
Die Modell-ID stimmt nicht exakt mit dem Namen Ihrer Deployment überein
Das Model ID-Feld muss der exakte öffentliche Deployment-Name sein, der im Models-Tab angezeigt wird — nicht die Upstream-Modell-ID und keine Tippfehler-Variante. Ein nicht übereinstimmender Name äußert sich typischerweise als 404, aber fehlerhafte Modell-Strings (zusätzliche Leerzeichen, falsche Großschreibung, bei der Ihr Deployment empfindlich reagiert) können ebenfalls als 400 zurückgegeben werden.
Streaming
Streaming
Cline fordert standardmäßig Streaming-Antworten an. Tokios gibt standardmäßige OpenAI-Format-SSE für
"stream": true auf /v1/chat/completions zurück, daher sollte dies ohne zusätzliche Konfiguration funktionieren. Wenn ein von Cline gesendeter Anforderungsparameter von Ihrem lokalen Backend nicht unterstützt wird, kann das Backend ihn als 400 ablehnen, bevor Tokios überhaupt ein Routing-Problem erkennt.Fehlformatierter Anforderungstext
Fehlformatierter Anforderungstext
Ein 400 bedeutet, dass Tokios meldet, dass der Anforderungstext selbst nicht verarbeitet werden konnte. Wenn Basis-URL und Modell-ID beide korrekt sind, prüfen Sie auf eine zufällige, anbieterspezifische Option in den erweiterten Einstellungen von Cline (ein Feld, das ein generisches OpenAI-kompatibles Backend nicht erwartet).
Fehlerreferenz
Ihr Modell, das Ihren Agenten antreibt, von überall
Sobald Cline auf Tokios zeigt, funktionieren dieselbe Base URL, API-Schlüssel und Deployment-Name für jedes andere OpenAI-kompatible Tool, das Sie damit ausführen, ohne zusätzliche Tunnels oder Port-Weiterleitungen pro Client.Kompatible Clients
Siehe die Basis-URL und die Schlüsseleinstellungen für jeden anderen unterstützten Client.
API-Schlüssel
Erstellen, zuweisen und rotieren Sie
sk-tok-…-Schlüssel für Teammitglieder und Agenten.