Machen Sie Ihren Mac Studio zu einem Modell-Endpunkt für Ihr Team

Der Unified Memory Ihres Mac Studio kann Modelle fassen, die ein Laptop nicht haelt, weshalb er als Headless-Inference-Box mit LM Studio, Ollama, MLX Studio oder MLX-LM Server endet. Der Teil, der nicht fuer Sie geloest wird, ist, dieses Modell von ausserhalb des Mac Studio selbst zu erreichen. Starten Sie den Tokios-Connector neben Ihrer Laufzeit, und Sie erhalten einen authentifizierten Endpunkt unter https://api.tokios.com – keine Bindung des Servers an 0.0.0.0, kein VPN, keine pro-Teammitglied-Netzwerkeinrichtung.

LAN ist nicht dasselbe wie Ihr Team

LM Studios eigene Dokumentation deckt serve on local network ab – den Server ueber 127.0.0.1 hinaus zu binden, sodass andere Geraete in Ihrem WLAN ihn erreichen koennen – mit einer Warnung, und die Request-Authentifizierung ist standardmaessig aus. Das bringt einen zweiten Rechner in Ihrem Heimnetz dazu, mit dem Mac Studio zu sprechen. Es bringt Ihnen nicht:

Ein Teammitglied, das nicht in Ihrem LAN ist. Jemand, der aus einem anderen Gebaeude, einer anderen Stadt oder seinem eigenen Heimnetzwerk arbeitet, kann keinen Server erreichen, der an Ihr lokales Subnetz gebunden ist.
Pro-Person-Zugriffskontrolle. LM Studios Netzwerk-Server hat keinen eingebauten API-Schluessel, sodass jeder, der den gebundenen Port und Pfad erreichen kann, ihn aufrufen kann – es gibt keine Moeglichkeit, einem Teammitglied Zugriff zu geben und einem anderen nicht, oder jemanden spaeter abzuschalten, ohne den Server neu zu starten.
Eine Adresse, die das Wechseln der Maschinen ueberlebt. Eine LAN-IP ist an Ihr Netzwerk gebunden. Verschieben Sie den Mac Studio, wechseln Sie Router oder uebergeben Sie den Job einem Mac mini, und die Konfiguration jedes Clients bricht.

Tokios aendert nicht, wie LM Studio, Ollama, MLX Studio oder MLX-LM Server laeuft – es fuegt einen Connector hinzu, der vom Mac Studio aus nach https://api.tokios.com waehlt, sodass Sie die Laufzeit nie ueber Loopback hinaus binden und nie einen eingehenden Port oeffnen.

Wollen Sie eine GUI ohne Terminal? MLX Studio ist eine native macOS-App, die die vMLX-Inferenz-Engine, einen Modell-Manager und einen OpenAI-kompatiblen API-Server buendelt – kein pip, kein venv, keine Befehlszeile. Laden Sie die App herunter, waehlen Sie ein Modell aus der mlx-community auf Hugging Face, und starten Sie den Server aus dem Tab Server. Er lauscht standardmaessig auf Port 8000.

Mac Studio Konfigurationen und was sie ausfuehren koennen

Der aktuelle Mac Studio wird mit M4 Ultra-, M5 Max- oder M5 Ultra-Chips ausgeliefert. Hier ist, was jede Konfiguration fuer lokale Inferenz mitbringt:

Chip	Unified Memory	Speicherbandbreite
M4 Ultra	bis zu 192 GB	~820 GB/s
M5 Max	bis zu 128 GB	460-614 GB/s
M5 Ultra	bis zu 256-512 GB	1,200 GB/s (50% ueber M3 Ultra)

Mit so viel Unified Memory bewaeltigt ein Mac Studio Modellgroessen, die auf anderen Plattformen einen Multi-GPU-Server brauchen:

70B-Modelle bei Q4- oder Q8-Quantisierung laufen komfortabel auf M4 Ultra (192 GB) und jeder M5-Konfiguration.
500B+ MoE-Modelle wie DeepSeek V4.1-Flash (552B) und Kimi K3 (2.8T bei niedrigerer Quant) benoetigen Multi-Device-Setups – siehe DeepSeek V4.1-Flash lokale Hardware.
DeepSeek V4-Flash bei nativer Praezision (155 GB) passt in die M5 Ultra 256 GB Konfiguration mit Platz fuer KV-Cache.
Mehrere kleinere Modelle gleichzeitig – betreiben Sie ein Coding-Modell auf Ollama und ein Allzweck-Modell auf MLX Studio zur selben Zeit, jedes hinter seinem eigenen Tokios-Deployment.

MLX-LM Server und MLX Studio sind fuer Apple Silicon optimiert. Die Neural Accelerators des M5 Ultra liefern bis zu 4x schnellere Prompt-Verarbeitung gegenueber vorherigen Generationen, sodass MLX-basierte Laufzeiten die groessten Gewinne auf M5-Hardware bekommen.

Die aktuelle Mac Studio-Preisgestaltung beginnt bei $2,499 fuer den M5 Max und $5,499 fuer den M5 Ultra.

Auf Ihrem Mac Studio einrichten

Starten Sie Ihre Laufzeit auf dem Mac Studio

Starten Sie den Modell-Server wie gewohnt auf Loopback.

# Developer (Local Server) tab → Start Server
# Listens on http://127.0.0.1:1234/v1 by default

ollama run gemma4:e4b
# Listens on http://127.0.0.1:11434/v1

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen-3.5-4B-8bit
# Listens on http://127.0.0.1:8080/v1

# Server tab → Start Server
# Listens on http://127.0.0.1:8000/v1 by default

Bestaetigen Sie, dass er ueber seine eigene OpenAI-kompatible /v1-API antwortet, bevor Sie den Connector hinzufuegen.

Holen Sie sich einen Pairing-Code und koppeln Sie den Connector

Oeffnen Sie im dashboard den Tab Setup und waehlen Sie Start pairing, um einen einmaligen Pairing-Code in der Form TKS-XXXX-XXXX zu erhalten (gueltig etwa 15 Minuten). Führen Sie auf dem Mac Studio aus:

curl -fsSL https://tokios.com/downloads/install/macos | sh -s -- --code TKS-XXXX-XXXX

Tokios liefert einen nativen Apple Silicon (arm64) Build von tokios-connector aus, der Mac Studio, Mac mini und MacBook Pro auf Apple Silicon abdeckt. Falls Gatekeeper das Binaerprogramm markiert, heben Sie die Markierung mit xattr -d com.apple.quarantine ./tokios-connector auf; der Install-Einzeiler oben vermeidet das.Zurueck im Dashboard approve Sie das Geraet auf dem Tab Setup oder Connectors. Das Token des Connectors wird ueber den Tunnel zugestellt – Sie sehen es nie auf dem Bildschirm oder fuegen es in eine Datei ein.

Richten Sie den Connector auf den /v1-Endpunkt Ihrer Laufzeit aus

Der Upstream des Connectors ist die eigene OpenAI-kompatible API Ihrer Laufzeit auf dem Mac Studio, immer noch auf Loopback – kein Port, den Sie dem Netzwerk freigeben. Standard-Ports: LM Studio 1234, Ollama 11434, MLX Studio 8000, MLX-LM Server 8080 (alle mit /v1 angehaengt). Keine eingehende Firewall-Regel, keine LAN-Bindung und keine extra Connector-Einstellungen werden fuer diesen Single-Machine-Pfad benoetigt.

Registrieren Sie ein Deployment

Auf dem Tab Models bilden Sie Ihre Upstream-Modell-ID (zum Beispiel das in LM Studio oder Ollama geladene Modell) auf einen oeffentlichen Deployment-Namen wie studio-model ab. Clients senden diesen Deployment-Namen im model-Feld, nicht die Upstream-ID.

Erstellen Sie einen API-Schluessel

Auf dem Tab Keys erstellen Sie einen Schluessel. Schluessel sind sk-tok-… Bearer-Tokens, die einmal angezeigt werden, und koennen auf bestimmte Deployment-Namen-Muster eingeschraenkt werden – sodass der Schluessel eines Teammitglieds auf genau dieses Deployment begrenzt werden kann.

Dauerhaft aktiv halten

Ein Terminalfenster reicht zum Testen, aber ein Mac Studio, der diese Aufgabe Vollzeit erledigt, sollte den Connector ueber Neustarts und Abmeldungen hinweg laufen lassen. Betreiben Sie ihn als launchd-Hintergrunddienst mit einem Agenten ~/Library/LaunchAgents/com.tokios.connector.plist, der ProgramArguments auf tokios-connector --config und Ihre tokios-connector.json verweist, mit RunAtLoad und KeepAlive, sodass er automatisch neu startet. Siehe Connector-Konfiguration: Als Hintergrunddienst ausfuehren fuer die vollstaendige plist und die launchctl load- / launchctl start-Befehle. Fuer eine Maschine, auf die sich nie jemand interaktiv einloggt, erwaegen Sie einen LaunchDaemon statt eines LaunchAgent – pruefen Sie Apples aktuelle Anleitung fuer Ihre macOS-Version, um zu bestaetigen, was fuer Ihr Setup vorzuziehen ist.

Von ueberall nutzen

Sobald der Connector gekoppelt und ein Deployment registriert ist, richten Sie Ihren Client auf Tokios statt auf die IP-Adresse oder den Hostnamen des Mac Studio.

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model studio-model

from openai import OpenAI

client = OpenAI(
    base_url="https://api.tokios.com/v1",
    api_key="sk-tok-YOUR_KEY",
)

response = client.chat.completions.create(
    model="studio-model",
    messages=[{"role": "user", "content": "Hello from the team"}],
)

Claude Codes Modellauswahl listet nur claude*-IDs auf, daher erscheint Ihr Tokios-Deployment nicht in der Liste – uebergeben Sie --model studio-model explizit.

Wenn Sie mehr als ein Modell auf dem Mac Studio betreiben – zum Beispiel LM Studio fuer ein Modell, Ollama fuer ein zweites, MLX Studio fuer ein drittes und MLX-LM Server fuer ein viertes – verwenden Sie die Connector-Konfigurationsdatei, um mehrere Routen und Upstreams zu definieren, statt den Single-Modell-Pairing-Flow zu nutzen. Siehe Modell-Routing fuer die Registrierung und den Wechsel zwischen mehreren Deployments hinter demselben Endpunkt.

Warum ein Endpunkt

Den Mac Studio teilen, ohne Ihr Netzwerk zu teilen. Ein Teammitglied ruft https://api.tokios.com mit seinem eigenen eingeschraenkten Schluessel auf – er muss nie in Ihrem LAN oder Tailscale-Tailnet sein.
Modelle tauschen, ohne die Client-Konfiguration anzufassen. Richten Sie studio-model auf ein anderes Upstream-Modell oder Backend, und jeder Agent und jedes Skript, das es bereits anvisiert, funktioniert weiter.
Keine eingehenden Ports, kein 0.0.0.0. LM Studio, Ollama, MLX Studio und MLX-LM Server bleiben auf 127.0.0.1. Der Connector stellt nur ausgehende Verbindungen zu Tokios her.

Naechste Schritte

Schnellstart

Von null zu einem funktionierenden Connector, Deployment und API-Schluessel.

Connector installieren

Vollstaendige Connector-Installations- und Pairing-Referenz fuer alle Plattformen.

Claude Code verwenden

Konfigurieren Sie ANTHROPIC_BASE_URL und ANTHROPIC_API_KEY im Detail.

Connector-Konfigurationsreferenz

Mehrere Modelle von einem Mac mit tokios-connector.json bereitstellen und als launchd-Dienst ausfuehren.

Hardware und Kompatibilität

Runtime bereitstellen und verbinden

Client oder App verbinden

Vergleich

Machen Sie Ihren Mac Studio zu einem Modell-Endpunkt für Ihr Team

LAN ist nicht dasselbe wie Ihr Team

Mac Studio Konfigurationen und was sie ausfuehren koennen

Auf Ihrem Mac Studio einrichten

Dauerhaft aktiv halten

Von ueberall nutzen

Warum ein Endpunkt

Naechste Schritte

Schnellstart

Connector installieren

Claude Code verwenden

Connector-Konfigurationsreferenz

​LAN ist nicht dasselbe wie Ihr Team

​Mac Studio Konfigurationen und was sie ausfuehren koennen

​Auf Ihrem Mac Studio einrichten

​Dauerhaft aktiv halten

​Von ueberall nutzen

​Warum ein Endpunkt

​Naechste Schritte

Schnellstart

Connector installieren

Claude Code verwenden

Connector-Konfigurationsreferenz

LAN ist nicht dasselbe wie Ihr Team

Mac Studio Konfigurationen und was sie ausfuehren koennen

Auf Ihrem Mac Studio einrichten

Dauerhaft aktiv halten

Von ueberall nutzen

Warum ein Endpunkt

Naechste Schritte