Skip to main content
Der gemeinsame Arbeitsspeicher Ihres Mac Studio vermag Modelle zu speichern, die auf herkömmlichen Laptops nicht möglich wären; daher dient das Gerät häufig als Headless-Inference-System für LM Studio oder Ollama. Was bislang fehlte, war die Möglichkeit, auf dieses Modell von außerhalb des Mac Studio zuzugreifen. Installieren Sie den Tokios-Connector neben LM Studio oder Ollama, erhalten Sie einen authentifizierten Endpoint unter https://api.tokios.com – ohne dass der Server an 0.0.0.0 gebunden werden muss, ohne VPN und ohne individuelle Netzwerkkonfigurationen pro Teammitglied.

​
Ein lokales Netzwerk ist nicht gleichbedeutend mit Ihrem gesamten Team

In der offiziellen Dokumentation von LM Studio wird serve on local network erläutert – nämlich die Bindung des Servers jenseits von 127.0.0.1, sodass andere Geräte im WLAN darauf zugreifen können – samt einer Warnung; zudem ist die Anfragen-Authentifizierung standardmäßig deaktiviert. Damit lässt sich zwar ein zweites Gerät im Heimnetz mit dem Mac Studio verbinden, doch folgende Punkte bleiben ungelöst:
  • Teammitglieder außerhalb Ihres lokalen Netzwerks. Personen, die in anderen Gebäuden, Städten oder über eigene Heimnetzwerke arbeiten, können keinen Zugriff auf einen Server erhalten, der nur an Ihr lokales Subnetz gebunden ist.
  • Individuelle Zugriffssteuerung. Der Netzwerkserver von LM Studio verfügt über keinen integrierten API-Schlüssel; somit kann jeder, der Zugang zum festgelegten Port und Pfad hat, auf das Modell zugreifen. Es ist nicht möglich, bestimmten Personen Zugang zu gewähren oder zu entziehen, ohne den Server neu zu starten.
  • Eine stabile Adresse trotz Gerätewechsels. Eine lokale IP-Adresse ist an Ihr Netzwerk gebunden; verschieben Sie das Mac Studio, tauschen Sie Router aus oder nutzen Sie stattdessen ein Mac mini, so funktionieren alle Client-Konfigurationen nicht mehr.
Tokios verändert weder die Funktionsweise von LM Studio noch von Ollama – es fügt lediglich einen Connector hinzu, der vom Mac Studio aus nach https://api.tokios.com verbindet; dadurch muss der Server nicht über Loopback hinaus gebunden werden und es müssen keine eingehenden Ports geöffnet werden.
Meta hat Muse Glimmer 30B auf MacBook-Modellen mit M4 Max- sowie M5 Max-Chips getestet, zudem auf einem System mit RTX 5090; außerdem stellt Meta MLX-Versionen für Apple Silicon bereit. Ein Mac Studio mit 32 GB gemeinsamem Arbeitsspeicher verarbeitet die 4-Bit-Version problemlos; ab 64 GB funktionieren alle Varianten bis hin zu BF16. DFlash berichtet von einer Geschwindigkeitssteigerung von 1.8x Prozent auf M5 Max sowie von 1.5x Prozent auf M4 Max.

​
Richten Sie es auf Ihrem Mac Studio ein

1

Starten Sie Ihre Laufzeitumgebung auf dem Mac Studio.

Führen Sie den Modellserver wie gewohnt über den Loopback-Adapter aus.
Überprüfen Sie, ob er auf Anfragen über den OpenAI-kompatiblen /v1 API reagiert, bevor Sie den Connector hinzufügen.
2

Holen Sie sich einen Berechtigungscode und verknüpfen Sie anschließend den Connector.

Öffnen Sie im dashboard die Setup-Registerkarte und wählen Sie Start pairing aus, um einen einmalig gültigen Berechtigungscode im Format TKS-XXXX-XXXX zu erhalten (dieser ist etwa 15 Minuten lang gültig). Auf dem Mac Studio führen Sie nun folgenden Befehl aus:
Tokios stellt eine native Apple-Silicon-(arm64)-Version von tokios-connector bereit, die für Mac Studio, Mac mini sowie MacBook Pro mit Apple-Silicon-Prozessor geeignet ist. Falls Gatekeeper das Binärpaket als problematisch einstuft, können Sie es mit xattr -d com.apple.quarantine ./tokios-connector freigeben; der oben genannte Installationsbefehl verhindert dieses Problem jedoch.Back in the dashboard, approve the device on the Setup or Connectors tab. The connector’s token is delivered over the tunnel — you never see it on screen or paste it into a file.
3

Richten Sie den Connector so ein, dass er auf das /v1-Endpunkt Ihrer Laufzeitumgebung verweist.

Der Upstream-Connector verweist auf die OpenAI-kompatible API von LM Studio bzw. Ollama auf dem Mac Studio, ebenfalls über Loopback – es handelt sich dabei nicht um einen für das Netzwerk freigegebenen Port. Standardmäßig werden folgende Ports genutzt: LM Studio 1234, Ollama 11434 (jeweils ergänzt um /v1). Für diesen Einsatz auf einem einzigen Gerät sind keine zusätzlichen Firewall-Regeln, keine LAN-Bindungen sowie keine weiteren Connector-Einstellungen erforderlich.
4

Erstellen Sie eine neue Deployment-Konfiguration.

Auf der Models-Registerkarte weisen Sie Ihre Upstream-Modell-ID (z. B. das in LM Studio oder Ollama geladene Modell) einem öffentlichen Deployment-Namen wie studio-model zu. Clients übermitteln diesen Deployment-Namen im model-Feld, nicht die Upstream-ID.
5

Erzeugen Sie anschließend einen API-Schlüssel.

Auf dem Keys-Reiter legen Sie einen API-Schlüssel an. Diese Schlüssel sind sk-tok-…-Typen von Bearer-Token, die nur einmal angezeigt werden, und lassen sich auf bestimmte Muster von Deployment-Namen einschränken – so kann beispielsweise ein Teammitglied nur auf dieses Deployment zugreifen.

​
Halten Sie es stets aktiv

Für Testzwecke genügt ein Terminalfenster, doch auf einem Mac Studio, der diese Aufgabe dauerhaft übernimmt, sollte der Connector nach Neustarts und Abmeldungen weiterhin laufen. Richten Sie ihn als launchd-Hintergrunddienst ein, indem Sie einen ~/Library/LaunchAgents/com.tokios.connector.plist-Agenten konfigurieren, der ProgramArguments auf tokios-connector --config sowie Ihren tokios-connector.json verweist, wobei RunAtLoad und KeepAlive so gesetzt sind, dass der Dienst automatisch neu startet. Im Artikel Connector-Konfiguration: als Hintergrunddienst laufen finden Sie die vollständige plist-Datei sowie die launchctl load- und launchctl start-Befehle. Bei einem Rechner, auf den niemand interaktiv zugreift, sollten Sie einen LaunchDaemon anstelle eines LaunchAgent verwenden – konsultieren Sie dazu die aktuellen Empfehlungen von Apple für Ihre macOS-Version, um festzustellen, welche Variante für Ihre Deployment-Konfiguration am besten geeignet ist.

​
Nutzen Sie ihn von überall aus

Sobald der Connector verbunden und ein Deployment registriert ist, richten Sie Ihren Client auf Tokios aus, statt auf die IP-Adresse oder den Hostnamen des Mac Studio.
Der Modellauswähler in Claude Code listet ausschließlich claude*-IDs auf; daher erscheint Ihr Tokios-Deployment dort nicht – geben Sie stattdessen --model studio-model explizit an.
Falls mehrere Modelle auf dem Mac Studio laufen – etwa LM Studio für ein Modell und Ollama für ein anderes –, nutzen Sie die Connector-Konfigurationsdatei, um mehrere Routen und Upstream-Modelle zu definieren, anstatt den Einzelmodell-Setup-Prozess zu verwenden. Im Artikel Modell-Routing erfahren Sie, wie man mehrere Deployments hinter einem einzigen Endpunkt registriert und wechselt.

​
Warum nur ein Endpunkt?

  • Teilen Sie den Mac Studio, ohne Ihr Netzwerk preiszugeben. Ein Teammitglied ruft https://api.tokios.com mit seinem eigenen, eingeschränkten API-Schlüssel auf – es muss weder Teil Ihres LAN noch Ihrer Tailscale-Netzwerkgruppe sein.
  • Wechseln Sie Modelle, ohne die Client-Konfiguration anzupassen. Richten Sie studio-model auf ein anderes Upstream-Modell oder eine andere Backend-Instanz aus; alle Agenten und Skripte, die bisher darauf zugriffen, funktionieren weiterhin einwandfrei.
  • Keine eingehenden Ports, kein 0.0.0.0. LM Studio und Ollama bleiben auf 127.0.0.1. Der Connector initiiert ausschließlich ausgehende Verbindungen zu Tokios.

​
Nächste Schritte

Schnellstart

Erstellen Sie in wenigen Schritten einen funktionierenden Connector, führen Sie eine Deployment aus und erhalten Sie einen API-Schlüssel.

Installation des Connectors

Ausführliche Anleitung zur Installation und Einrichtung des Connectors auf allen Plattformen.

Nutzung von Claude Code

Konfigurieren Sie ANTHROPIC_BASE_URL sowie ANTHROPIC_API_KEY im Detail.

Referenz zur Connector-Konfiguration

Betreiben Sie mehrere Modelle auf einem Mac mithilfe von tokios-connector.json und starten Sie sie als launchd-Dienst.