Passer au contenu principal
Cette page traite des questions et problèmes les plus fréquents lors de l’installation et de l’utilisation de Tokios.

​
Installation et connectivité

Le code 503 indique que le passerelle Tokios ne parvient pas à établir de tunnel vers le connecteur pour le modèle demandé. Vérifiez ce qui suit :
  1. Le processus du connecteur est toujours actif et connecté.
  2. Le nom du modèle indiqué dans votre requête API correspond à un déploiement enregistré dans la console.
  3. L’appareil a été approuvé lors du jumelage et apparaît en ligne dans l’onglet Connectors de la console. (Si vous utilisez le fichier de configuration multi-modèles avancé, assurez-vous également que les paramètres ConnectorId et les ID de modèles amont définis dans tokios-connector.json correspondent au connecteur affiché dans la console.)
Non. Le connecteur émet uniquement des connexions sortantes vers Tokios via WebSockets (port 443). Aucune modification du pare-feu n’est nécessaire, et aucun processus sur votre machine n’écoute les connexions entrantes.
Oui. Indiquez l’adresse de l’autre machine dans l’ID de modèle amont BaseUrl, par exemple http://192.168.1.50:11434/v1. Aucune configuration supplémentaire n’est requise : le connecteur transmet les requêtes uniquement aux hôtes listés dans son propre fichier de configuration, jamais à une URL fournie par le passerelle. Pour limiter un modèle amont à un hôte précis, ajoutez cet hôte à AllowedHosts ; toute modification ultérieure de BaseUrl vers une autre adresse entraînera un échec au démarrage. Consultez Configuration du Connecteur.

​
Compatibilité API

Trois : les complétions de chat OpenAI (/v1/chat/completions), les messages Anthropic (/v1/messages) ainsi que les réponses OpenAI (/v1/responses), plus /v1/models et /v1/messages/count_tokens. Le passerelle traduit les formats Messages et Réponses en complétions de chat adaptées à votre modèle. Les fonctionnalités propres à chaque fournisseur qui nécessitent son propre backend (comme les assistants OpenAI, la gestion de fichiers ou le réglage fin) ne sont pas disponibles.
Oui. Définissez la valeur "stream": true dans le corps de votre requête. Tokios renvoie alors des événements envoyés par le serveur selon le format standard de streaming d’OpenAI ou d’Anthropic, quel que soit le type d’interface utilisée.
Oui. Pour les clients SDK, indiquez l’URL de base https://api.tokios.com/v1 en y ajoutant le suffixe /v1. Pour les clients Anthropic utilisant ANTHROPIC_BASE_URL, renseignez plutôt l’URL https://api.tokios.com sans y inclure /v1, car le client ajoute lui-même le chemin. Consultez la documentation de votre client pour connaître le format attendu.

​
Modèles locaux

Non, par défaut. Tokios transmet chaque requête via le tunnel vers votre modèle local puis renvoie la réponse. Le système de mesure associé au tableau de bord ne conserve que le nombre de jetons, la latence, l’état et les identifiants ; les contenus des réponses ne sont jamais stockés.Un administrateur d’espace de travail peut activer la journalisation des requêtes dans le tableau de bord sous Settings. Tokios conservera alors le corps de chaque appel API pendant 7 jours, en le chiffrant au repos, en supprimant les pièces jointes et en masquant les chaînes de caractères ressemblant à des secrets. Ce contenu apparaît sous l’intitulé Prompt lorsque vous consultez une requête dans le journal. Seuls les utilisateurs de votre espace de travail peuvent lire ces prompts : les administrateurs y accèdent en totalité, les membres uniquement ceux envoyés via leurs propres clés API, et les personnes avec qui vous avez partagé une clé ne peuvent les voir que si vous l’avez autorisé. Vous pouvez désactiver cette fonction ou supprimer tous les prompts stockés à tout moment. Consultez Journalisation des requêtes.
Tout serveur proposant une API Chat Completions compatible OpenAI : Ollama, llama.cpp, vLLM et LM Studio sont les plus utilisés. Définissez l’ID de modèle amont BaseUrl (y compris /v1) dans tokios-connector.json. Consultez Moteurs de modèles.
Oui. Un seul connecteur peut gérer plusieurs modèles grâce à Routes et Upstreams, et vous pouvez enregistrer un déploiement (nom public) pour chacun. Il est également possible de lancer un connecteur par modèle. Consultez Routage des modèles.

​
Compte et facturation

Oui — le forfait communautaire est gratuit et ne nécessite aucune carte de crédit, vous permettant ainsi d’utiliser et d’évaluer Tokios sur votre propre matériel.
Dans la console, rendez-vous sur API Keys, localisez la clé et cliquez sur Revoke. La clé cesse immédiatement d’être valide.