Zum Hauptinhalt springen
LobeChat ist eine ansprechende, Open-Source-Chat-Oberfläche, die Sie im Browser, als Desktop-App oder selbst gehostet ausführen können. Sie greift über ihren OpenAI-Anbieter auf OpenAI-kompatible Endpunkte zu – setzen Sie die API Proxy Address auf https://api.tokios.com/v1 mit Ihrem sk-tok-…-Schlüssel, und LobeChat kommuniziert mit einem Modell auf Ihrer eigenen Hardware statt mit der standardmäßigen gehosteten API.

Voraussetzungen

Connector gepairt

Installieren und pairen Sie tokios-connector neben dem Modell, das LobeChat erreichen soll.

Modell registriert

Registrieren Sie ein Deployment (öffentlicher Name) für dieses Modell.

API-Schlüssel erstellt

Erstellen Sie einen sk-tok-…-Schlüssel, optional auf dieses Deployment beschränkt.

Unterstützte Backends

Stellen Sie sicher, dass Ihr lokales Backend (Ollama, llama.cpp, vLLM, LM Studio) läuft.

Option A – Konfiguration in der App

1

Öffnen Sie die OpenAI-Anbieter-Einstellungen

Gehen Sie in LobeChat zu Settings → Language Model → OpenAI. Aktivieren Sie den Anbieter.
2

Setzen Sie den API-Schlüssel und die Proxy-Adresse

Geben Sie Ihren Schlüssel ein und richten Sie die Proxy-Adresse auf Tokios aus:
Die API Proxy Address ist die Basis-URL-Überschreibung von LobeChat – schließen Sie /v1 ein.
3

Fügen Sie Ihr Deployment als Modell hinzu

Fügen Sie ein Modell mit dem öffentlichen Deployment-Namen hinzu, den Sie im Models-Tab registriert haben – zum Beispiel gemma-tunnel. Dies ist der Wert, den LobeChat im model-Feld sendet, nicht die lokale Modell-ID Ihres Backends.

Option B – Konfiguration mit Umgebungsvariablen

Wenn Sie LobeChat selbst hosten (zum Beispiel mit Docker), setzen Sie diese Umgebungsvariablen, anstatt die Felder in der App zu verwenden:
.env
OPENAI_PROXY_URL überschreibt die Basis-URL (schließen Sie /v1 ein), und OPENAI_MODEL_LIST=+gemma-tunnel fügt Ihr Deployment zum Modell-Auswähler hinzu. Die genauen Variablennamen können sich zwischen LobeChat-Versionen ändern – überprüfen Sie sie anhand der Self-Hosting-Model-Provider-Dokumentation für Ihre Version.
Commiten Sie niemals einen echten sk-tok-…-Schlüssel in die Versionskontrolle oder eine gemeinsam genutzte Compose-Datei. Stellen Sie ihn stattdessen über die Umgebung oder das Feld in der App bereit.

Gehostete UI, Heimmodell

Führen Sie LobeChat aus, wo es bequem ist – ein Browser, ein VPS oder ein Container – und es erreicht trotzdem ein Modell auf Ihrem Heimcomputer. Der Connector neben diesem Modell wählt nach außen zu Tokios; LobeChat ruft https://api.tokios.com/v1 mit Ihrem Schlüssel auf. Sie müssen Ihr Backend nicht an 0.0.0.0 binden, einen eingehenden Port öffnen oder ein VPN einrichten.

Fehlerbehebung

Der von LobeChat gesendete API-Schlüssel fehlt, ist fehlerhaft oder wurde widerrufen. Stellen Sie sicher, dass der Schlüssel (in der App oder in OPENAI_API_KEY) der vollständige sk-tok-…-Wert ohne zusätzlichen Leerzeichen ist, und überprüfen Sie seinen Status im Keys-Tab.
Der Modellwert stimmt nicht mit einem registrierten Deployment überein, oder die Proxy-Adresse enthält kein /v1. Stellen Sie sicher, dass der Modellname mit dem öffentlichen Namen im Models-Tab übereinstimmt und dass die Adresse https://api.tokios.com/v1 lautet.
Der Connector für dieses Deployment ist offline oder hat sein Parallelitätslimit erreicht. Überprüfen Sie den Connectors-Tab – der Connector muss als Online angezeigt werden, und der Computer, auf dem er läuft, muss noch hoch und erreichbar sein.

Nächste Schritte

Kompatible Clients

Sehen Sie sich die Einrichtung der Basis-URL und des Schlüssels für andere OpenAI- und Anthropic-kompatible Clients an.

API-Schlüssel

Erstellen Sie separate, bereichsspezifische Schlüssel für Teammitglieder, die dieselbe LobeChat-Instanz verwenden.