Zum Hauptinhalt springen
Chatbox ist ein plattformübergreifender Chat-Client mit einer Desktop-App und mobilen Apps. Auf dem Desktop (und Android) können Sie Tokios als benutzerdefinierten OpenAI-API-kompatiblen Anbieter hinzufügen. Richten Sie es auf den nackten Host https://api.tokios.com aus, fügen Sie einen sk-tok-…-Schlüssel ein und verwenden Sie Ihren Tokios-Deployment-Namen als Modell – Chatbox kommuniziert dann mit einem Modell, das auf anderer Hardware läuft, anstatt mit einem gehosteten Anbieter.
Diese Seite behandelt Chatbox auf Desktop und Android. Chatbox auf iOS hat einen bekannten Fehler, bei dem benutzerdefinierte OpenAI-kompatible Endpunkte mit einem Bearer-API-Schlüssel aufgrund eines CORS-Preflight-Problems in seinem WKWebView-Netzwerkpfad fehlschlagen (chatboxai/chatbox#3516). Wenn Sie ein iPhone oder iPad verwenden, sehen Sie sich Verwenden Sie ein lokales Modell von Ihrem Telefon für Apps an, die dort stattdessen funktionieren.

Voraussetzungen

Connector gepaart

Installieren und paaren Sie tokios-connector neben dem Modell, das Chatbox erreichen soll.

Modell registriert

Registrieren Sie ein Deployment (öffentlicher Name) für dieses Modell.

API-Schlüssel erstellt

Erstellen Sie einen sk-tok-…-Schlüssel, optional auf dieses Deployment beschränkt.

Unterstützte Backends

Stellen Sie sicher, dass Ihr lokales Backend (Ollama, llama.cpp, vLLM, LM Studio) läuft.

Fügen Sie Tokios als benutzerdefinierten Anbieter in Chatbox hinzu

1

Öffnen Sie die Modelleinstellungen von Chatbox

Öffnen Sie in Chatbox Settings → Model.
2

Fügen Sie einen benutzerdefinierten Anbieter hinzu

Klicken Sie auf Add Custom Provider und wählen Sie OpenAI API Compatible als API-Modus.
3

Legen Sie den API-Host, Pfad und Schlüssel fest

Füllen Sie die Anbieterfelder aus. Chatbox hängt den Completions-Pfad selbst an, geben Sie also den nackten Host ohne /v1 an:
Dies ist das Gegenteil der meisten OpenAI-kompatiblen Clients. Die eigene Dokumentation von Chatbox besagt, dass der API-Pfad standardmäßig auf /v1/chat/completions festgelegt ist und an den eingegebenen Host angehängt wird – wenn Sie hier stattdessen https://api.tokios.com/v1 einfügen, ruft Chatbox den falschen Pfad auf.
4

Fügen Sie Ihr Deployment als Modell hinzu

Geben Sie den öffentlichen Deployment-Namen ein, den Sie im Models-Tab registriert haben – zum Beispiel gemma-tunnel. Wenn Chatbox ihn nicht automatisch auflistet, geben Sie den Modellnamen manuell ein. Dies ist der Wert, den Chatbox im model-Feld sendet; es ist nicht die lokale Modell-ID von Ollama, llama.cpp, vLLM oder LM Studio.
Ersetzen Sie gemma-tunnel durch den Deployment-Namen, den Sie registriert haben, und sk-tok-YOUR_KEY durch Ihren eigenen Schlüssel. Geben Sie keines davon in einer gemeinsam genutzten Konfigurationsdatei ein.

Gleiche Einrichtung auf Android

Die Android-App von Chatbox verwendet denselben Add Custom Provider → OpenAI API Compatible-Workflow, mit demselben nackten Host-Wert https://api.tokios.com und ohne /v1. Das oben genannte iOS-CORS-Problem betrifft Android nicht.

Fehlerbehebung

Der von Chatbox gesendete API-Schlüssel fehlt, ist fehlerhaft oder wurde widerrufen. Stellen Sie sicher, dass Sie den vollständigen sk-tok-…-Schlüssel ohne zusätzlichen Leerzeichen eingefügt haben, und überprüfen Sie seinen Status im Keys-Tab.
Der von Chatbox gesendete Modellwert stimmt nicht mit einem registrierten Deployment überein. Stellen Sie sicher, dass der Modellname in Chatbox exakt mit dem öffentlichen Namen im Models-Tab übereinstimmt – nicht mit Ihrer lokalen Modell-ID von Ollama/llama.cpp/vLLM/LM Studio. Dies geschieht auch, wenn Sie /v1 zum API-Host hinzugefügt haben und Chatbox den falschen Pfad aufgerufen hat.
Der Connector für dieses Deployment ist offline oder hat sein Gleichzeitigkeitlimit erreicht. Überprüfen Sie den Connectors-Tab – der Connector muss als Online angezeigt werden, und der Computer, auf dem er läuft, muss noch hochgefahren und erreichbar sein.
Dies entspricht dem bekannten Chatbox-iOS-Fehler (#3516), bei dem benutzerdefinierte OpenAI-kompatible Endpunkte mit einem Bearer-Schlüssel einen CORS-Preflight-Check fehlschlagen. Es handelt sich nicht um ein Problem auf Tokios-Seite. Verwenden Sie Chatbox auf dem Desktop oder Android, oder sehen Sie sich Verwenden Sie ein lokales Modell von Ihrem Telefon für iOS-freundliche Clients an.

Nächste Schritte

Schnellstart

Richten Sie den Connector ein, registrieren Sie ein Deployment und erstellen Sie Ihren ersten Schlüssel.

Kompatible Clients

Sehen Sie sich die Basis-URL- und Schlüsseleinrichtung für andere OpenAI- und Anthropic-kompatible Clients an.