Skip to main content
Claude Code liest zwei Umgebungsvariablen, um zu entscheiden, wohin Anfragen gesendet werden sollen. Zeigen Sie ANTHROPIC_BASE_URL auf Tokios und legen Sie Ihren Tokios API-Schlüssel fest, und Claude Code läuft gegen ein lokales Modell auf Ollama, LM Studio, llama.cpp, oder vLLM — von jedem Rechner aus, nicht nur von dem, auf dem das Modell läuft. Jede Anfrage geht durch Ihren privaten Tunnel zu Ihrer eigenen Hardware.

Voraussetzungen

  • Ein laufender Tokios Connector, der mit Ihrem lokalen Modell gekoppelt ist — siehe Connector Install
  • Ein registrierter Name für die Modell-Deployment — siehe Register a Model
  • Ein Tokios API-Schlüssel — siehe API Keys
  • Claude Code installiert

Richten Sie die Umgebung ein

claude-code-windows.cmd
Übergeben Sie immer --model zusammen mit Ihrem registrierten Modellnamen. Der Modellpicker von Claude Code listet nur claude*-IDs auf, sodass Ihre Tokios-Modelle nicht angezeigt werden — die explizite Benennung leitet die Anfrage an Ihre Deployment weiter.

Konfiguration persistent speichern

Um zu vermeiden, dass die Variablen in jeder neuen Terminal-Sitzung exportiert werden, fügen Sie sie zur eigenen Einstellungsdatei von Claude Code, Ihrem Shell-Profil oder einer .env-Datei hinzu. ~/.claude/settings.json Die tragfähigste Option, da sie mit Ihrer Claude Code-Konfiguration statt mit Ihrer Shell mitreist. Verwenden Sie .claude/settings.json innerhalb eines Projekts, um sie auf dieses Projekt zu beschränken:
~/.claude/settings.json
Claude Code liest diese Datei beim Start, sodass eine bereits geöffnete Sitzung eine Bearbeitung erst nach einem Neustart übernimmt. Wenn Ihr Schlüssel hier abgelehnt wird, ersetzen Sie ANTHROPIC_API_KEY durch ANTHROPIC_AUTH_TOKEN, das den rohen Authorization: Bearer-Wert festlegt — die Form, die Gateways, die eigene Schlüssel ausstellen, erwarten.
~/.bashrc oder ~/.zshrc Öffnen Sie Ihr Shell-Profil und hängen Sie Folgendes an:
Dann laden Sie es neu:
.env-Datei Wenn Ihr Workflow .env-Dateien unterstützt (zum Beispiel über direnv oder ein Shell-Plugin), erstellen Sie eine .env im Stammverzeichnis Ihres Projekts:
.env
Laden Sie sie, bevor Sie Claude Code starten:

Überprüfen Sie die Verbindung

Führen Sie einen kurzen One-Shot-Prompt aus, um zu bestätigen, dass Claude Code Ihr lokales Modell über Tokios erreicht:
Erwartete Ausgabe:
Wenn Sie eine Antwort sehen, fließen Ihre Anfragen erfolgreich über das Tokios-Gateway zu Ihrem lokalen Modell.
Claude Code sendet die Anfrage im Anthropic-Nachrichtenformat. Tokios übersetzt sie in das Format, das Ihr lokales Backend erwartet, und streamt die Antwort zurück.