Zum Hauptinhalt springen
Unsloth Studio ist eine no-code-Weboberfläche mit offenem Quellcode zum Ausführen, Trainieren und Exportieren lokaler Modelle. Wenn Sie ein Modell in Studio ausführen, stellt es eine OpenAI-kompatible API auf Ihrem Computer bereit — standardmäßig unter http://127.0.0.1:8888. Das ist nur lokal. Halten Sie Studio auf Ihrem Computer und führen Sie den Tokios-Connector daneben aus: Der Connector wählt eine Verbindung zu https://api.tokios.com auf, und Ihre Tools, Teammitglieder oder Agenten rufen von überall einen authentifizierten Endpunkt auf.
Einsteigerfreundlich. Unsloth Studio ist eine Klick-Oberfläche — wählen Sie ein Modell aus, führen Sie es aus, und es ist bereit. Zusammen mit Ollama und LM Studio ist es einer der einfachsten Wege, ein lokales Modell hinter einem Tokios-Endpunkt zu betreiben.

Der ausgehende (outbound-only) Weg

1

Führen Sie ein Modell in Unsloth Studio aus

Starten Sie Studio und laden Sie ein Modell über die Oberfläche. Studio startet mit:
Sobald ein Modell läuft, stellt Studio eine OpenAI-kompatible API auf Port 8888 bereit. Lassen Sie es auf Ihrem Computer — Sie müssen es nicht für Ihr Netzwerk öffnen.
2

Tokios-Connector pairen

Melden Sie sich unter tokios.com/console an, öffnen Sie den Tab Setup und klicken Sie auf Start pairing. Tokios zeigt einen einmaligen Pairing-Code wie TKS-XXXX-XXXX an, der etwa 15 Minuten gültig ist.Führen Sie auf dem Computer, auf dem Studio läuft, den Installations-One-Liner für Ihr Betriebssystem aus:
Haben Sie tokios-connector bereits installiert? Übergeben Sie den Code direkt:
Kehren Sie in die Konsole zurück und klicken Sie auf approve im Tab Setup oder Connectors. Das Token des Connectors wird über den Tunnel übermittelt, sobald es genehmigt ist — Sie sehen es nie auf dem Bildschirm und fügen es nicht in eine Datei ein.
3

Richten Sie den Connector auf die /v1-API von Studio aus

Für den grundlegenden Pfad mit einem einzelnen Modell geben Sie den OpenAI-kompatiblen Endpunkt von Studio als Upstream ein: http://127.0.0.1:8888/v1. Wenn Sie mehrere Modelle über eine tokios-connector.json-Konfiguration bereitstellen, setzen Sie die Upstream-BaseUrl explizit:
Siehe Connector-Konfiguration für das vollständige Dateiformat für mehrere Modelle.
4

Ein Deployment registrieren

Registrieren Sie im Tab Models das Modell und wählen Sie einen öffentlichen Namen — zum Beispiel studio-tunnel. Dieser öffentliche Name, nicht die Modell-ID innerhalb von Studio, ist das, was Clients im Feld model senden.
5

Einen API-Schlüssel erstellen

Klicken Sie im Tab Keys auf Create key. Beschränken Sie ihn optional auf bestimmte Deployments mit Modellnamen-Mustern (kommagetrennte Globs, * für alle). Kopieren Sie den sk-tok-…-Schlüssel jetzt — er wird nur einmal angezeigt.

Von überall nutzen

Sobald Sie einen Deployment-Namen und einen API-Schlüssel haben, kann jeder OpenAI- oder Anthropic-kompatible Client das Modell erreichen, das Sie in Studio ausführen — von einem anderen Computer, dem Laptop eines Teammitglieds oder einem gehosteten Agenten.
Das Feld model ist immer Ihr registrierter Deployment-Name (studio-tunnel oben), niemals die Modell-ID innerhalb von Studio. Haben Sie ein Modell in Studio feinabgestimmt und als GGUF exportiert? Siehe Ein Fine-Tune bereitstellen für denselben Endpunkt-Flow.

FAQ

Ja. Setzen Sie "stream": true und Tokios gibt standardmäßige Server-Sent Events (SSE) im OpenAI- oder Anthropic-Format zurück, je nachdem, welche API-Oberfläche Sie aufgerufen haben.
Ja. Führen Sie es auf die gleiche Weise in Studio aus oder exportieren Sie es als GGUF und stellen Sie es über Ollama oder llama.cpp bereit — auf jeden Fall registrieren Sie es als Tokios-Deployment. Siehe Ein Fine-Tune bereitstellen.
Ja. Erstellen Sie einen separaten sk-tok-…-Schlüssel pro Teammitglied im Tab Keys und beschränken Sie jeden Schlüssel nur auf die Deployments, die sie benötigen. Wenn Sie einen Schlüssel widerrufen, wird die Authentifizierung sofort gestoppt, sodass Sie den Zugriff unterbrechen können, ohne Studio oder den Connector zu berühren.

Ihr Modell verlässt niemals Ihren Computer — Ihr Endpunkt funktioniert überall

Unsloth Studio läuft weiterhin auf Ihrem Computer, ohne eingehende Ports und ohne etwas, das dem Netzwerk ausgesetzt ist. Der Connector wählt nur eine Verbindung aus. Alles dahinter — Authentifizierung, Routing, Streaming — ist ein Endpunkt, den Sie von jedem Computer, jedem Teammitglied oder jedem Agenten aufrufen können, dem Sie einen Schlüssel geben möchten.

Quickstart

Pairen Sie einen Connector und registrieren Sie Ihr erstes Modell von Anfang bis Ende.

Ein Fine-Tune bereitstellen

Verwandeln Sie ein Modell, das Sie trainiert haben, in einen privaten API-Endpunkt.