https://api.tokios.com/v1 avec votre clé sk-tok-… comme clé API. Open WebUI appelle /v1/models pour vérifier la connexion et remplir sa liste déroulante de modèles — Tokios implémente ce point de terminaison, donc la vérification réussit et vos déploiements enregistrés apparaissent immédiatement.
Prérequis
Avant d’ajouter la connexion, préparez les éléments suivants :Connecteur appairé
Installez et appairez
tokios-connector à côté de votre modèle.Modèle enregistré
Enregistrez un déploiement (nom public) pour le modèle que vous souhaitez voir apparaître dans Open WebUI.
Clé API créée
Créez une clé
sk-tok-…, éventuellement limitée à ce déploiement.Backends pris en charge
Confirmez que votre backend local (Ollama, llama.cpp, vLLM, LM Studio) est en cours d’exécution.
Ajouter Tokios en tant que connexion OpenAI
1
Ouvrir les paramètres de connexion
Dans Open WebUI, accédez à Admin Settings → Connections. Le chemin exact du menu et les libellés peuvent varier légèrement selon la version d’Open WebUI — vérifiez par rapport à la version que vous exécutez.
2
Ajouter une connexion OpenAI
Sous la section OpenAI, cliquez sur Add Connection (parfois affiché sous forme de bouton +).
3
Saisir l'URL et la clé Tokios
Définissez les champs de connexion :Enregistrez la connexion.
- URL :
https://api.tokios.com/v1 - Key :
sk-tok-YOUR_KEY
Vos modèles apparaissent automatiquement
Open WebUI appelleGET /v1/models sur l’URL que vous avez saisie pour vérifier la connexion et remplir le sélecteur de modèles. Tokios implémente /v1/models, en renvoyant les déploiements auxquels votre clé est limitée — ainsi, la connexion est vérifiée avec succès et vos noms de déploiement (par exemple, gemma-tunnel) apparaissent dans la liste déroulante des modèles d’Open WebUI sans aucune saisie manuelle.
Cela mérite d’être souligné car ce n’est pas universel : certains points de terminaison personnalisés compatibles OpenAI ignorent complètement /v1/models, ce qui fait échouer la vérification de connexion d’Open WebUI ou laisse la liste des modèles vide même si les complétions de chat fonctionneraient autrement. Tokios évite ce mode de défaillance en implémentant /v1/models comme une partie à part entière de sa surface API.
Sélectionnez le déploiement souhaité dans la liste déroulante et commencez à discuter — chaque requête envoyée par Open WebUI est dirigée vers https://api.tokios.com/v1/chat/completions avec votre clé en tant que jeton Bearer, via le tunnel, vers votre backend local.
Interface utilisateur hébergée, modèle domestique
La configuration courante que cela résout : vous exécutez Open WebUI sur un VPS, un hôte de conteneurs, ou toute machine qui n’est pas celle exécutant votre modèle, et vous souhaitez qu’il accède au modèle sans exposer le port de ce modèle à Internet. Étant donné que le connecteur Tokios ne fait que composer vers l’extérieur depuis la machine exécutant votre modèle, vous n’avez pas besoin de :- Lier votre backend à
0.0.0.0(par exempleOLLAMA_HOST=0.0.0.0) simplement pour qu’un Open WebUI distant puisse y accéder. - Manipuler
host.docker.internalou des astuces de réseau de conteneurs pour connecter un Open WebUI conteneurisé à un modèle sur l’hôte ou sur une autre machine. - Ouvrir un port entrant ou configurer un VPN entre les deux machines.
https://api.tokios.com/v1, authentifié avec votre clé sk-tok-…. Tokios achemine la requête via le tunnel vers le connecteur exécuté à côté de votre modèle, qui reste sur localhost en permanence.
Dépannage
Open WebUI affiche "could not connect" ou échoue à vérifier la connexion
Open WebUI affiche "could not connect" ou échoue à vérifier la connexion
Vérifiez que l’URL inclut
/v1 (https://api.tokios.com/v1, pas le domaine nu) et que la clé commence par sk-tok-. Une erreur 401 signifie que la clé est manquante ou invalide ; une erreur 403 signifie que la clé n’est pas limitée au modèle que vous demandez. Consultez les points de terminaison API pour la liste complète des erreurs.La connexion est vérifiée, mais la liste déroulante des modèles est vide
La connexion est vérifiée, mais la liste déroulante des modèles est vide
La connexion est vérifiée mais les requêtes de chat échouent
La connexion est vérifiée mais les requêtes de chat échouent
Confirmez que le connecteur est en ligne sur l’onglet Connectors. Une réponse
503 signifie que le connecteur est hors ligne ou a dépassé sa limite de concurrence.Maintenant, mettez-le au travail partout ailleurs
Une fois qu’Open WebUI communique avec votre modèle via Tokios, le même déploiement et la même clé fonctionnent depuis n’importe quel autre client compatible OpenAI ou Anthropic — sans configuration supplémentaire par client.Clients compatibles
Consultez les paramètres d’URL de base et de clé pour d’autres clients.
Clés API
Créez des clés limitées séparées pour les membres de l’équipe utilisant la même instance Open WebUI.