Zum Hauptinhalt springen
Claude Code liest zwei Umgebungsvariablen, um zu entscheiden, wohin Anfragen gesendet werden. Richte ANTHROPIC_BASE_URL auf Tokios und setze deinen Tokios API-Schlüssel, und Claude Code läuft gegen ein lokales Modell auf Ollama, LM Studio, llama.cpp, oder vLLM — von jedem Rechner aus, nicht nur von dem, auf dem das Modell läuft. Jede Anfrage geht durch deinen privaten Tunnel zu deiner eigenen Hardware.

Prerequisites

  • Ein laufender Tokios Connector, der mit deinem lokalen Modell gekoppelt ist — siehe Connector install
  • Ein registrierter Modell-Deployment-Name — siehe Register a model
  • Ein Tokios API-Schlüssel — siehe API Keys
  • Claude Code installiert

Richte die Umgebung ein

claude-code-windows.cmd
Übergib immer --model zusammen mit deinem registrierten Modellnamen. Claude Codes Modellauswahl listet nur claude*-IDs auf, sodass deine Tokios-Modelle nicht angezeigt werden — die explizite Benennung leitet die Anfrage an dein Deployment weiter.

Speichere die Konfiguration dauerhaft

Um zu vermeiden, dass du die Variablen in jeder neuen Terminal-Sitzung exportierst, füge sie in Claude Codes eigene Einstellungsdatei, dein Shell-Profil oder eine .env-Datei ein. ~/.claude/settings.json Die portabelste Option, weil sie mit deiner Claude Code-Konfiguration statt mit deiner Shell mitreist. Verwende .claude/settings.json innerhalb eines Projekts, um sie stattdessen auf dieses Projekt zu beschränken:
~/.claude/settings.json
Claude Code liest diese Datei beim Start, sodass eine bereits geöffnete Sitzung eine Bearbeitung erst nach einem Neustart übernimmt. Wenn dein Schlüssel hier abgelehnt wird, ersetze ANTHROPIC_API_KEY durch ANTHROPIC_AUTH_TOKEN, das den rohen Authorization: Bearer-Wert setzt — die Form, die Gateways, die eigene Schlüssel ausstellen, erwarten.
~/.bashrc oder ~/.zshrc Öffne dein Shell-Profil und hänge Folgendes an:
Dann lade es neu:
.env-Datei Wenn dein Workflow .env-Dateien unterstützt (zum Beispiel über direnv oder ein Shell-Plugin), erstelle eine .env im Stammverzeichnis deines Projekts:
.env
Lade sie, bevor du Claude Code startest:

Überprüfe die Verbindung

Führe einen kurzen One-Shot-Prompt aus, um zu bestätigen, dass Claude Code dein lokales Modell über Tokios erreicht:
Erwartete Ausgabe:
Wenn du eine Antwort siehst, fließen deine Anfragen erfolgreich über das Tokios-Gateway zu deinem lokalen Modell.
Claude Code sendet die Anfrage im Anthropic-Nachrichtenformat. Tokios übersetzt sie in das Format, das dein lokales Backend erwartet, und streamt die Antwort zurück.