Zum Hauptinhalt springen
Öffnen Sie in Open WebUI Admin Settings → Connections → OpenAI, klicken Sie auf Add Connection und legen Sie die URL auf https://api.tokios.com/v1 fest, wobei Sie Ihren sk-tok-…-Schlüssel als API-Schlüssel verwenden. Open WebUI ruft /v1/models auf, um die Verbindung zu überprüfen und die Modellauswahl zu füllen – Tokios implementiert diesen Endpunkt, sodass die Überprüfung erfolgreich ist und Ihre registrierten Deployments sofort angezeigt werden.

​
Voraussetzungen

Bevor Sie die Verbindung hinzufügen, halten Sie Folgendes bereit:

Connector gepaart

Installieren und paaren Sie tokios-connector neben Ihrem Modell.

Modell registriert

Registrieren Sie ein Deployment (öffentlicher Name) für das Modell, das Open WebUI sehen soll.

API-Schlüssel erstellt

Erstellen Sie einen sk-tok-…-Schlüssel, optional auf dieses Deployment beschränkt.

Unterstützte Backends

Stellen Sie sicher, dass Ihr lokales Backend (Ollama, llama.cpp, vLLM, LM Studio) läuft.

​
Fügen Sie Tokios als OpenAI-Verbindung hinzu

1

Verbindungseinstellungen öffnen

Gehen Sie in Open WebUI zu Admin Settings → Connections. Der genaue Menüpfad und die Bezeichnungen können je nach Open WebUI-Version leicht abweichen – vergleichen Sie dies mit der von Ihnen verwendeten Version.
2

Eine OpenAI-Verbindung hinzufügen

Klicken Sie im Abschnitt OpenAI auf Add Connection (manchmal als +-Schaltfläche angezeigt).
3

Tokios-URL und Schlüssel eingeben

Legen Sie die Verbindungsfelder wie folgt fest:
  • URL: https://api.tokios.com/v1
  • Key: sk-tok-YOUR_KEY
Speichern Sie die Verbindung.
Fügen Sie niemals einen echten Schlüssel in die Konfiguration einer gemeinsam genutzten oder öffentlichen Open WebUI-Instanz ein, wo andere Administratoren oder exportierte Einstellungen ihn offenlegen könnten. Behandeln Sie den sk-tok-…-Schlüssel wie jedes andere Anmeldeverfahren auch.

​
Ihre Modelle erscheinen automatisch

Open WebUI ruft GET /v1/models gegen die von Ihnen eingegebene URL auf, um die Verbindung zu überprüfen und den Modellwähler zu füllen. Tokios implementiert /v1/models und gibt die Deployments zurück, auf die Ihr Schlüssel beschränkt ist – somit wird die Verbindung erfolgreich überprüft und Ihre Deployment-Namen (z. B. gemma-tunnel) erscheinen in der Modellauswahl von Open WebUI, ohne dass eine manuelle Eingabe erforderlich ist. Dies ist erwähnenswert, da dies nicht universell ist: Einige benutzerdefinierte OpenAI-kompatible Endpunkte überspringen /v1/models vollständig, wodurch die Verbindungsprüfung in Open WebUI fehlschlägt oder die Modellliste leer bleibt, obwohl Chat-Vervollständigungen sonst funktionieren würden. Tokios vermeidet diesen Fehlermodus, indem es /v1/models als ersten Bestandteil seiner API-Oberfläche implementiert. Wählen Sie das gewünschte Deployment aus der Dropdown-Liste aus und beginnen Sie mit dem Chatten – jede Anfrage, die Open WebUI sendet, geht an https://api.tokios.com/v1/chat/completions mit Ihrem Schlüssel als Bearer-Token, über den Tunnel, zu Ihrem lokalen Backend.

​
Gehostete Benutzeroberfläche, Heimmodell

Die häufige Konfiguration, die dies löst: Sie betreiben Open WebUI auf einem VPS, einem Container-Host oder einem beliebigen Computer, der nicht derjenige ist, auf dem Ihr Modell läuft, und Sie möchten, dass es das Modell erreichen kann, ohne den Port dieses Modells dem Internet auszusetzen. Da der Tokios-Connector nur vom Computer aus, auf dem Ihr Modell läuft, nach außen wählt, müssen Sie nicht:
  • Ihr Backend an 0.0.0.0 binden (z. B. OLLAMA_HOST=0.0.0.0), nur damit ein entferntes Open WebUI darauf zugreifen kann.
  • Verwenden Sie host.docker.internal oder Container-Netzwerk-Tricks, um ein containerisiertes Open WebUI mit einem Modell auf dem Host oder auf einem anderen Computer zu verbinden.
  • Einen eingehenden Port öffnen oder ein VPN zwischen den beiden Computern einrichten.
Open WebUI (wo auch immer es gehostet ist) kommuniziert mit https://api.tokios.com/v1, authentifiziert mit Ihrem sk-tok-…-Schlüssel. Tokios leitet die Anfrage über den Tunnel an den Connector weiter, der neben Ihrem Modell läuft und die ganze Zeit über auf localhost bleibt.

​
Fehlerbehebung

Überprüfen Sie, ob die URL /v1 enthält (https://api.tokios.com/v1, nicht die nackte Domain) und dass der Schlüssel mit sk-tok- beginnt. Ein 401 bedeutet, dass der Schlüssel fehlt oder ungültig ist; ein 403 bedeutet, dass der Schlüssel nicht auf das angeforderte Modell beschränkt ist. Siehe API-Endpunkte für die vollständige Fehlerliste.
Stellen Sie sicher, dass Sie mindestens ein Deployment auf der Registerkarte Models registriert haben und dass der Modellmuster-Bereich Ihres Schlüssels (festgelegt auf der Registerkarte Keys) dieses enthält.
Bestätigen Sie, dass der Connector auf der Registerkarte Connectors online ist. Eine 503-Antwort bedeutet, dass der Connector offline ist oder sein Konnektivitätslimit überschritten hat.

​
Nutzen Sie es nun überall else

Sobald Open WebUI über Tokios mit Ihrem Modell kommuniziert, funktionieren dasselbe Deployment und derselbe Schlüssel von jedem anderen OpenAI- oder Anthropic-kompatiblen Client aus – keine zusätzliche Einrichtung pro Client.

Kompatible Clients

Sehen Sie sich die Basis-URL- und Schlüsseleinstellungen für andere Clients an.

API-Schlüssel

Erstellen Sie separate, beschränkte Schlüssel für Teammitglieder, die dieselbe Open WebUI-Instanz verwenden.