Zum Hauptinhalt springen
Msty ist eine durchgängig gestaltete Desktop-App zum Chatten mit lokalen und Remote-Modellen, die für ihre nebeneinander angeordneten Multi-Model-Chats beliebt ist. Fügen Sie Tokios als OpenAI Compatible Remote-Modell-Provider hinzu – zeigen Sie ihn auf https://api.tokios.com/v1 mit Ihrem sk-tok-… Schlüssel – und Msty erreicht ein Modell, das auf Ihrer eigenen Hardware läuft.

​
Voraussetzungen

Connector gepairt

Installieren und pairen Sie tokios-connector neben dem Modell, das Msty erreichen soll.

Modell registriert

Registrieren Sie ein Deployment (öffentlicher Name) für dieses Modell.

API-Schlüssel erstellt

Erstellen Sie einen sk-tok-… Schlüssel, optional auf dieses Deployment beschränkt.

Unterstützte Backends

Stellen Sie sicher, dass Ihr lokales Backend (Ollama, llama.cpp, vLLM, LM Studio) läuft.

​
Tokios als Remote-Modell-Provider hinzufügen

1

Remote-Modell-Provider öffnen

Öffnen Sie in Msty den Bereich für Modell-Provider und wählen Sie die Option, einen Remote Model Provider hinzuzufügen. Die genaue Bezeichnung und Position variieren zwischen Msty und Msty Studio-Versionen – prüfen Sie Ihre Version.
2

OpenAI Compatible auswählen

Wählen Sie OpenAI Compatible als Provider-Typ.
3

Endpunkt und Schlüssel festlegen

Füllen Sie die Provider-Felder aus:
Der API Endpoint sollte mit /v1 enden.
4

Ihr Deployment abrufen oder hinzufügen

Klicken Sie auf Fetch Models. Da Tokios GET /v1/models implementiert, werden Ihre registrierten Deployments (z. B. gemma-tunnel) automatisch geladen. Wenn ein Provider keine Modelle automatisch zurückgibt, fügen Sie den Deployment-Namen manuell hinzu. Klicken Sie dann auf Add, um den Provider zu speichern.
Ersetzen Sie gemma-tunnel durch den Deployment-Namen, den Sie registriert haben, und sk-tok-YOUR_KEY durch Ihren eigenen Schlüssel. Der Modellname, den Msty sendet, ist Ihr öffentlicher Deployment-Name – nicht die lokale Modell-ID von Ollama, llama.cpp, vLLM oder LM Studio.

​
Desktop-App, Modell woanders

Msty läuft auf Ihrem Desktop; das Modell, das Sie verwenden möchten, kann sich auf einer ganz anderen Maschine befinden. Der Connector neben diesem Modell wählt eine Verbindung zu Tokios auf, und Msty ruft https://api.tokios.com/v1 mit Ihrem sk-tok-… Schlüssel auf – keine eingehenden Ports, kein VPN. Die Multi-Model-Chats von Msty funktionieren dann über Ihr Tokios-Deployment und alle anderen Provider, die Sie hinzugefügt haben.

​
Fehlerbehebung

Der von Msty gesendete API-Schlüssel fehlt, ist fehlerhaft oder wurde widerrufen. Stellen Sie sicher, dass Sie den vollständigen sk-tok-… Schlüssel ohne zusätzlichen Leerzeichen eingefügt haben, und prüfen Sie seinen Status auf der Keys-Registerkarte.
Der Endpunkt oder der Schlüsselbereich ist falsch. Stellen Sie sicher, dass der API Endpoint https://api.tokios.com/v1 ist, dass Sie ein Deployment auf der Models-Registerkarte registriert haben und dass der Bereich Ihres Schlüssels dieses Deployment einschließt.
Der Connector für dieses Deployment ist offline oder hat sein gleichzeitiges Limit erreicht. Prüfen Sie die Connectors-Registerkarte – der Connector muss als Online angezeigt werden, und die Maschine, auf der er läuft, muss noch hoch und erreichbar sein.

​
Nächste Schritte

Kompatible Clients

Sehen Sie sich die Basis-URL- und Schlüsseleinstellungen für andere OpenAI- und Anthropic-kompatible Clients an.

API-Schlüssel

Erstellen, begrenzen und rotieren Sie sk-tok-… Schlüssel für Teammitglieder und Agenten.