Unsloth Studio depuis n'importe où, en toute sécurité

Unsloth Studio est une interface web sans code open-source pour exécuter, entraîner et exporter des modèles locaux. Lorsque vous exécutez un modèle dans Studio, il expose une API compatible OpenAI sur votre machine — par défaut à http://127.0.0.1:8888. Cela reste local. Gardez Studio sur votre machine et exécutez le connecteur Tokios à côté : le connecteur établit une connexion sortante vers https://api.tokios.com, et vos outils, collègues ou agents appellent un point de terminaison authentifié unique depuis n’importe où.

Accessible aux débutants. Unsloth Studio est une interface cliquable — choisissez un modèle, lancez-le, et il est prêt à servir. Avec Ollama et LM Studio, c’est l’un des moyens les plus simples de placer un modèle local derrière un point de terminaison Tokios.

La méthode sortante uniquement

Exécutez un modèle dans Unsloth Studio

Démarrez Studio et chargez un modèle via son interface. Studio se lance avec :

unsloth studio -H 0.0.0.0 -p 8888

Une fois le modèle en cours d’exécution, Studio expose une API compatible OpenAI sur le port 8888. Laissez-le sur votre machine — vous n’avez pas besoin de l’ouvrir à votre réseau.

Appariez le connecteur Tokios

Connectez-vous sur tokios.com/console, ouvrez l’onglet Setup, et cliquez sur Start pairing. Tokios affiche un code d’appairage unique comme TKS-XXXX-XXXX, valide pendant environ 15 minutes.Sur la machine exécutant Studio, exécutez la commande d’installation en une ligne pour votre système d’exploitation :

irm https://tokios.com/downloads/install/windows | iex; tokios-install -Code 'TKS-XXXX-XXXX'

curl -fsSL https://tokios.com/downloads/install/macos | sh -s -- --code TKS-XXXX-XXXX

curl -fsSL https://tokios.com/downloads/install/linux | sh -s -- --code TKS-XXXX-XXXX

Vous avez déjà tokios-connector installé ? Passez le code directement à la place :

tokios-connector TKS-XXXX-XXXX

De retour dans la console, approve l’appareil sur l’onglet Setup ou Connectors. Le jeton du connecteur est transmis via le tunnel une fois approuvé — vous ne le voyez jamais à l’écran ni ne le collez dans un fichier.

Pointez le connecteur vers l'API /v1 de Studio

Pour le chemin de base à modèle unique, entrez le point de terminaison compatible OpenAI de Studio comme upstream : http://127.0.0.1:8888/v1. Si vous servez plusieurs modèles via une configuration tokios-connector.json, définissez explicitement le BaseUrl upstream :

{
  "Upstream": {
    "BaseUrl": "http://127.0.0.1:8888/v1"
  }
}

Consultez Configuration du connecteur pour le format complet du fichier multi-modèles.

Enregistrez un déploiement

Dans l’onglet Models, enregistrez le modèle et choisissez un nom public — par exemple, studio-tunnel. Ce nom public, et non l’identifiant du modèle dans Studio, est ce que les clients envoient dans le champ model.

Créez une clé API

Dans l’onglet Keys, cliquez sur Create key. Vous pouvez éventuellement la limiter à des déploiements spécifiques avec des motifs de noms de modèles (glob séparés par des virgules, * pour tous). Copiez la clé sk-tok-… maintenant — elle n’est affichée qu’une seule fois.

Utilisez-le depuis n’importe où

Une fois que vous avez un nom de déploiement et une clé API, tout client compatible OpenAI ou Anthropic peut atteindre le modèle que vous exécutez dans Studio — depuis une autre machine, l’ordinateur portable d’un collègue, ou un agent hébergé.

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "studio-tunnel",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

from openai import OpenAI

client = OpenAI(
    base_url="https://api.tokios.com/v1",
    api_key="sk-tok-YOUR_KEY",
)

response = client.chat.completions.create(
    model="studio-tunnel",
    messages=[{"role": "user", "content": "Hello!"}],
    stream=True,
)

for chunk in response:
    print(chunk.choices[0].delta.content or "", end="")

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model studio-tunnel

Le champ model est toujours votre nom de déploiement enregistré (studio-tunnel ci-dessus), jamais l’identifiant du modèle dans Studio. Vous avez affiné un modèle dans Studio et l’avez exporté en GGUF ? Consultez Servir un modèle affiné pour le même flux de point de terminaison.

FAQ

Le streaming fonctionne-t-il ?

Oui. Définissez "stream": true et Tokios renvoie des événements envoyés par le serveur (SSE) standard au format OpenAI ou Anthropic, selon la surface API que vous avez appelée.

Puis-je utiliser un modèle que j'ai entraîné dans Studio ?

Oui. Exécutez-le dans Studio de la même manière, ou exportez-le en GGUF et servez-le via Ollama ou llama.cpp — dans les deux cas, enregistrez-le comme déploiement Tokios. Consultez Servir un modèle affiné.

Puis-je partager l'accès avec des collègues sans exposer Studio directement ?

Oui. Créez une clé sk-tok-… séparée par collègue dans l’onglet Keys, et limitez chaque clé aux seuls déploiements dont ils ont besoin. La révocation d’une clé arrête immédiatement son authentification, vous permettant ainsi de couper l’accès sans toucher à Studio ou au connecteur.

Votre modèle ne quitte jamais votre machine — votre point de terminaison fonctionne partout

Unsloth Studio continue de s’exécuter sur votre machine, sans ports entrants et rien d’exposé au réseau. Le connecteur n’établit que des connexions sortantes. Tout ce qui suit — authentification, routage, streaming — est un point de terminaison unique que vous pouvez appeler depuis n’importe quelle machine, collègue ou agent auquel vous choisissez de donner une clé.

Démarrage rapide

Appariez un connecteur et enregistrez votre premier modèle de bout en bout.

Servir un modèle affiné

Transformez un modèle que vous avez entraîné en un point de terminaison API privé.

Matériel et compatibilité

Servir et connecter votre runtime

Connecter un client ou une app

Comparer

Unsloth Studio depuis n'importe où, en toute sécurité

La méthode sortante uniquement

Utilisez-le depuis n’importe où

FAQ

Votre modèle ne quitte jamais votre machine — votre point de terminaison fonctionne partout

Démarrage rapide

Servir un modèle affiné

​La méthode sortante uniquement

​Utilisez-le depuis n’importe où

​FAQ

​Votre modèle ne quitte jamais votre machine — votre point de terminaison fonctionne partout

Démarrage rapide

Servir un modèle affiné

La méthode sortante uniquement

Utilisez-le depuis n’importe où

FAQ

Votre modèle ne quitte jamais votre machine — votre point de terminaison fonctionne partout