Verbinden Sie Ihr lokales Modell mit Tokios

Tokios erreicht Ihr privates Modell über einen ausgehenden (outbound-only) Tunnel — nichts auf Ihrem Computer hört auf eingehenden Datenverkehr. Dieser Schnellstart führt Sie durch 3 Meilensteine: Verbinden Sie Ihre Laufzeitumgebung, überprüfen Sie, ob der Tunnel funktioniert, und verbinden Sie dann Ihren Client. Melden Sie sich unter tokios.com/console an und öffnen Sie die Registerkarte Setup. (Erstmals hier? Bestätigen Sie Ihre E-Mail-Adresse über den Verifizierungslink — dieser ist 24 Stunden gültig.)

Meilenstein 1: Verbinden Sie Ihre Laufzeitumgebung

Installieren Sie den Connector und registrieren Sie Ihr Modell, damit Tokios darauf zugreifen kann.

Einen Connector pairen

Geben Sie auf der Registerkarte Setup optional einen Namen für den Connector ein und klicken Sie dann auf Start pairing. Tokios zeigt einen einmaligen Pairing-Code wie TKS-XXXX-XXXX an, der etwa 15 Minuten gültig ist.Der Pairing-Code ist ein Pairing-Handle — er ist nicht Ihr API-Schlüssel (diesen erstellen Sie in Meilenstein 3).

Installieren Sie den Connector und genehmigen Sie ihn

Führen Sie auf dem Computer neben Ihrem Modell den Installationsbefehl aus, den die Konsole für Ihr Betriebssystem anzeigt:

irm https://tokios.com/downloads/install/windows | iex; tokios-install -Code 'TKS-XXXX-XXXX'

curl -fsSL https://tokios.com/downloads/install/macos | sh -s -- --code TKS-XXXX-XXXX

curl -fsSL https://tokios.com/downloads/install/linux | sh -s -- --code TKS-XXXX-XXXX

Haben Sie tokios-connector bereits installiert? Überspringen Sie den Installer und übergeben Sie den Pairing-Code direkt:

Already installed

tokios-connector TKS-XXXX-XXXX

Der Connector wählt über eine einzelne WebSocket-Verbindung aus — keine eingehenden Ports, keine öffentliche IP. Kehren Sie in die Konsole zurück und approve Sie das Gerät. Ihr Token wird sicher über den Tunnel übermittelt; Sie müssen es niemals in eine Datei einfügen.

Registrieren Sie Ihr Modell

Wählen Sie auf der Registerkarte Models das Modell aus, das Sie freigeben möchten, und den public name, den Ihre Clients verwenden — beispielsweise gemma-tunnel. Dieser öffentliche Name ist der "model"-Wert in jeder API-Anfrage.

Success state: Ihr Modell wird auf der Registerkarte Models mit einem aktiven Connector angezeigt. Der Tunnel ist aktiv — Sie haben ihn jedoch noch nicht getestet.

Meilenstein 2: End-to-End-Überprüfung

Testen Sie im Playground, bevor Sie einen API-Schlüssel erstellen. Dies bestätigt, dass Tunnel und Modell zusammenarbeiten.

Testen Sie es im Playground

Öffnen Sie die Registerkarte Playground, wählen Sie Ihr Modell aus, geben Sie einen Prompt ein und klicken Sie auf Run. Der Playground authentifiziert sich mit Ihrer aktuellen Sitzung — kein API-Schlüssel erforderlich — sodass Sie überprüfen können, ob der Tunnel funktioniert, bevor Sie einen Client einrichten.Success state: Sie erhalten eine Antwort von Ihrem lokalen Modell über den Tokios-Endpunkt. Wenn der Playground eine Vervollständigung zurückgibt, ist der Tunnel gesund und Sie sind bereit, einen Client zu verbinden.

Wenn der Playground eine Zeitüberschreitung meldet, überprüfen Sie, ob Ihr lokales Modell ausgeführt wird und der Connector in der Konsole Connected anzeigt. Siehe Troubleshooting für häufige Lösungen.

Meilenstein 3: Verbinden Sie Ihren Client

Erstellen Sie einen API-Schlüssel und richten Sie Ihren Coding-Agenten auf Tokios aus.

Erstellen Sie einen API-Schlüssel

Klicken Sie auf der Registerkarte Keys auf Create key. Geben Sie ihm einen Anzeigenamen und optional Modellmuster, um ihn einzuschränken (lassen Sie *, um alle Ihre Modelle zuzulassen). Kopieren Sie den sk-tok-…-Schlüssel sofort — er wird nur einmal angezeigt.

Richten Sie Ihren Client aus und testen Sie ihn

Wählen Sie Ihren Client. Jeder benötigt die Basis-URL für seinen Dialekt, Ihren sk-tok-…-Schlüssel und Ihren öffentlichen Modellnamen:

Anthropic-Stil (Claude Code): https://api.tokios.com
OpenAI-Stil (Codex, OpenAI SDKs): https://api.tokios.com/v1

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model gemma-tunnel

export OPENAI_API_KEY=sk-tok-YOUR_KEY
# add a Tokios provider to ~/.codex/config.toml:
#   base_url = "https://api.tokios.com/v1"  ·  wire_api = "responses"
codex --profile tokios

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Vollständige Einrichtung pro Client: Claude Code · OpenAI Codex.Ein erfolgreicher Aufruf gibt eine Vervollständigung zurück, die für den Dialekt Ihres Clients geformt ist — für den obigen curl-Befehl eine OpenAI-ähnliche Antwort (abgekürzt):

{
  "model": "gemma-tunnel",
  "choices": [
    {
      "message": { "role": "assistant", "content": "Hello! How can I help?" },
      "finish_reason": "stop"
    }
  ]
}

Success state: Ihr Client kommuniziert mit Ihrem lokalen Modell über Tokios. Die Antwort stammt von Ihrer eigenen Hardware, nicht von einem Cloud-Anbieter.

Was kommt als Nächstes?

Mit Claude Code verwenden

Richten Sie Claude Code auf Tokios aus und führen Sie Ihren Coding-Agenten gegen Ihr eigenes lokales Modell aus.

Mehr Modelle freigeben

Stellen Sie mehrere Modelle über einen Connector mit einer Konfigurationsdatei bereit.

Erste Schritte

Modelle

Konzepte

Referenz

Verbinden Sie Ihr lokales Modell mit Tokios

Meilenstein 1: Verbinden Sie Ihre Laufzeitumgebung

Meilenstein 2: End-to-End-Überprüfung

Meilenstein 3: Verbinden Sie Ihren Client

Was kommt als Nächstes?

Mit Claude Code verwenden

Mehr Modelle freigeben

​Meilenstein 1: Verbinden Sie Ihre Laufzeitumgebung

​Meilenstein 2: End-to-End-Überprüfung

​Meilenstein 3: Verbinden Sie Ihren Client

​Was kommt als Nächstes?

Mit Claude Code verwenden

Mehr Modelle freigeben

Meilenstein 1: Verbinden Sie Ihre Laufzeitumgebung

Meilenstein 2: End-to-End-Überprüfung

Meilenstein 3: Verbinden Sie Ihren Client

Was kommt als Nächstes?