Passer au contenu principal
SillyTavern est l’interface avancée / de jeu de rôle pour les modèles locaux, offrant un contrôle fin sur les invites, l’échantillonnage et les personnages. Son backend Chat Completion peut pointer vers n’importe quel point de terminaison OpenAI-compatible personnalisé — définissez la source sur Custom (OpenAI-compatible), entrez https://api.tokios.com/v1 et votre clé sk-tok-…, et SillyTavern pilotera un modèle s’exécutant sur votre propre matériel.

​
Prérequis

Connecteur appairé

Installez et appairez tokios-connector à côté du modèle que vous souhaitez que SillyTavern atteigne.

Modèle enregistré

Enregistrez un déploiement (nom public) pour ce modèle.

Clé API créée

Créez une clé sk-tok-…, éventuellement limitée à ce déploiement.

Backends pris en charge

Confirmez que votre backend local (Ollama, llama.cpp, vLLM, LM Studio) est en cours d’exécution.

​
Connecter SillyTavern à Tokios

1

Ouvrir les connexions API

Cliquez sur l’icône plug pour ouvrir le panneau API Connections.
2

Choisir Chat Completion → Custom (OpenAI-compatible)

Définissez API sur Chat Completion, puis définissez Chat Completion Source sur Custom (OpenAI-compatible).
3

Définir le point de terminaison et la clé

Remplissez les champs du point de terminaison personnalisé :
Utilisez https://api.tokios.com/v1. SillyTavern ajoute /chat/completions lui-même, donc n’ajoutez pas ce chemin. Si une connexion échoue et que vous avez omis /v1, l’ajouter est la première chose à essayer.
4

Entrer votre déploiement comme modèle et connecter

Entrez le nom de déploiement public que vous avez enregistré dans l’onglet Models — par exemple, gemma-tunnel — comme identifiant de modèle, puis cliquez sur Connect. C’est la valeur que SillyTavern envoie dans le champ model, et non l’identifiant de modèle local de votre backend.
Remplacez gemma-tunnel par le nom de déploiement que vous avez enregistré, et sk-tok-YOUR_KEY par votre propre clé. Ne commettez jamais l’un ou l’autre dans un fichier de configuration partagé.

​
Interface avancée, modèle sur votre matériel

SillyTavern vous donne un contrôle approfondi sur les invites et l’échantillonnage ; Tokios donne à n’importe quel modèle que vous exécutez un point de terminaison stable et authentifié. Le connecteur à côté de votre modèle établit une connexion sortante vers Tokios, et SillyTavern — sur la même machine ou une autre — appelle https://api.tokios.com/v1 avec votre clé sk-tok-…. Vos invites et personnages restent les vôtres ; seul le tunnel sortant du connecteur touche Tokios.

​
Dépannage

La clé API envoyée par SillyTavern est manquante, mal formée ou a été révoquée. Confirmez que vous avez collé la clé complète sk-tok-… sans espace supplémentaire, et vérifiez son statut dans l’onglet Keys.
La valeur du modèle ne correspond pas à un déploiement enregistré, ou l’URL de base est incorrecte. Confirmez que le nom du modèle correspond au nom public dans l’onglet Models, que l’URL de base est https://api.tokios.com/v1, et que vous n’avez pas ajouté /chat/completions.
Le connecteur pour ce déploiement est hors ligne ou a atteint sa limite de concurrence. Vérifiez l’onglet Connectors — le connecteur doit afficher Online, et la machine qui l’exécute doit toujours être allumée et accessible.

​
Étapes suivantes

Clients compatibles

Consultez la configuration de l’URL de base et de la clé pour d’autres clients compatibles OpenAI et Anthropic.

Clés API

Créez, limitez et faites pivoter les clés sk-tok-… pour les membres de l’équipe et les agents.