http://127.0.0.1:1234/v1 – von anderen Geräten ist er jedoch nicht erreichbar. LM Studio bietet zwar eine serve on local network-Option, doch diese dient lediglich der Nutzung im lokalen Netzwerk: Sie ermöglicht Verbindungen zu Geräten innerhalb derselben Netzwerkumgebung, wobei die Authentifizierung standardmäßig deaktiviert bleibt. Lassen Sie LM Studio stattdessen auf dem lokalen Host laufen und starten Sie den Tokios-Connector daneben: Dieser verbindet sich mit https://api.tokios.com, sodass Ihre Tools, Teammitglieder oder Agenten von überall aus ein authentifiziertes Endpunkt aufrufen können.
Die Netzwerkfreigabe von LM Studio beschränkt sich auf Ihr lokales Netzwerk
Der serve on local network-Schalter in LM Studio dient explizit der Freigabe im lokalen Netzwerk. Bei Aktivierung bindet sich der Server an die Netzwerkschnittstelle Ihres Geräts (nicht nur an127.0.0.1), sodass andere Geräte im selben WLAN oder LAN darauf zugreifen können. LM Studio gibt zudem eine Warnung aus, da die Authentifizierung standardmäßig ausgeschaltet bleibt. Das ist durchaus sinnvoll, um den eigenen Server von anderen Geräten im selben Netzwerk aus zu nutzen – doch es reicht nicht aus, um Teammitglieder in anderen Netzwerken, gehostete Agenten oder externe Nutzer über das öffentliche Internet zu bedienen.
Der rein ausgehende Ansatz
Laden Sie ein Modell und starten Sie den Server von LM Studio
http://127.0.0.1:1234/v1 lauschen.Verknüpfen Sie den Tokios-Connector
TKS-XXXX-XXXX, der etwa 15 Minuten lang verwendbar ist.Auf dem Rechner, auf dem LM Studio läuft, führen Sie die Installationsanweisung für Ihr Betriebssystem aus.tokios-connector bereits installiert? Geben Sie den Code direkt ein.Richten Sie den Connector auf die /v1-API von LM Studio aus.
http://127.0.0.1:1234/v1 als Upstream-Modell-ID. Falls Sie mehrere Modelle mittels einer tokios-connector.json-Konfiguration bereitstellen, müssen Sie die Upstream-Modell-ID BaseUrl explizit festlegen:Erstellen Sie eine neue Deployment.
lmstudio-tunnel. Dieser öffentliche Name, nicht die lokale Modell-ID von LM Studio, wird von Clients im Feld model übermittelt.Generieren Sie einen API-Schlüssel.
* gilt er für alle). Kopieren Sie anschließend den sk-tok-…-Schlüssel – er wird nur einmal angezeigt.Nutzen Sie es von überall aus
Sobald Sie einen Deployment-Namen sowie einen API-Schlüssel besitzen, kann jeder OpenAI- oder Anthropic-kompatible Client auf Ihr LM Studio-Modell zugreifen – sei es von einem anderen Rechner, dem Laptop eines Teammitglieds oder einem gehosteten Agenten.Häufig gestellte Fragen
Funktioniert das Streaming?
Funktioniert das Streaming?
"stream": true festlegen, liefert Tokios Server-Sent Events im OpenAI- oder Anthropic-Format, je nachdem, welche API-Schnittstelle Sie nutzen.Kann ich mehrere in LM Studio geladene Modelle verfügbar machen?
Kann ich mehrere in LM Studio geladene Modelle verfügbar machen?
tokios-connector.json-Konfigurationsdatei, um mehrere Upstream-Modelle und Routen für einen einzigen Connector zu definieren. Nähere Einzelheiten finden Sie unter Connector-Konfiguration.Muss die LM Studio-Anwendung ständig geöffnet sein, oder kann der Connector als Dienst laufen?
Muss die LM Studio-Anwendung ständig geöffnet sein, oder kann der Connector als Dienst laufen?
tokios-connector-Prozess selbst kann jedoch unbeaufsichtigt nebenher ausgeführt werden. In der Datei Connector-Konfiguration finden Sie Optionen zur langfristigen Nutzung des Connectors, etwa für mehrere Modelle oder als Hintergrunddienst.Ist die Option „LM Studio auf dem lokalen Netzwerk bereitstellen“ weiterhin erforderlich?
Ist die Option „LM Studio auf dem lokalen Netzwerk bereitstellen“ weiterhin erforderlich?
127.0.0.1:1234) auf LM Studio zu; daher muss LM Studio nicht über localhost hinaus erreichbar sein. Dank Tokios ist Ihr Modell von anderen Geräten aus zugänglich – dabei dient Ihr sk-tok-…-Schlüssel zur Authentifizierung.Ihr Modell verlässt niemals Ihren Rechner – Ihr Endpunkt funktioniert überall.
LM Studio arbeitet weiterhin exakt so wie bisher auf dem lokalen Rechner, ohne dass eingehende Ports oder Netzwerkfunktionen aktiviert werden müssen. Der Connector initiiert lediglich ausgehende Verbindungen. Alles Weitere – Authentifizierung, Routing sowie Datenübertragung – geschieht über einen einzigen Endpunkt, den Sie von jedem beliebigen Rechner, Teammitglied oder Agenten aus aufrufen können, dem Sie einen API-Schlüssel zuweisen.Schnellstart
API-Schlüssel
sk-tok-… API-Schlüssel für Teammitglieder sowie Agenten.