--config, et chaque paramètre peut être modifié à l’exécution grâce à un argument de la ligne de commande. Le connecteur ne consulte jamais les variables d’environnement et ne transmet les requêtes qu’aux modèles amont que vous avez définis ici — jamais à une URL fournie par le tableau de bord.
Vos identifiants
ConnectorId et Token sont générés par la console Tokios lors de la création du connecteur. La Clé API n’est affichée qu’une seule fois — copiez-la dans votre fichier de configuration et conservez-la en lieu sûr.Precedence:
CLI flags›TOKIOS_* env vars›tokios-connector.json›defaultsLe fichier de configuration
Une configuration minimale comporte une sectionConnector contenant vos identifiants ainsi qu’un seul modèle amont local.
tokios-connector.json
Connector fields
string
requis
managed by pairingrestart requiredL’identifiant du connecteur affiché dans la console (par exemple
con_...). Il sert à identifier ce connecteur auprès du tableau de bord Tokios.string
requis
managed by pairingsecret — redacted in logsLa Clé API attribuée lors de la création du connecteur (par exemple
ct-...), liée à votre compte client. Elle n’apparaît qu’une seule fois dans la console.string
L’adresse du tableau de bord
wss:// que le connecteur contacte. Par défaut, il s’agit du tableau de bord Tokios hébergé ; en général, il n’est pas nécessaire de modifier ce champ. (Dans les déploiements auto-hébergés, on le configure pour pointer vers son propre serveur, par exemple wss://your-server/connector/connect.)integer
défaut:"8"
Nombre maximal de requêtes en cours que le connecteur peut transmettre simultanément. Les requêtes excédant cette limite sont rejetées avec le code d’erreur
503 connector_busy jusqu’à ce qu’une place se libère.Définition de la fonctionnalité assurée par le connecteur
Choisissez un seul type parmi deux — la sélection de plusieurs types entraîne un rejet. Un seul modèle amont — un serveur local fournissant un ou plusieurs ID de modèle :tokios-connector.json
tokios-connector.json
Models et Routes[].Model correspondent aux ID de modèle utilisés par votre serveur local — ceux que vous lui transmettriez directement (par exemple gemma4:e4b dans Ollama). Vous exposez un de ces identifiants sous un nom d’API public (ex. gemma-tunnel) en créant un déploiement dans le tableau de bord ; ce nom public est celui que les clients indiquent dans le champ "model", et le passerelle le remplace par l’ID amont avant de le transmettre. Consultez Modèles de routage.
Champs relatifs aux modèles amont
Chaque modèle amont — que ce soit le seul élément deUpstream ou chaque entrée de Upstreams — accepte :
string
requis
requiredThe base URL of your model server, including the
/v1 segment — e.g. http://127.0.0.1:11434/v1. The connector appends the request path (/chat/completions) to it. Your server must expose an OpenAI-compatible Chat Completions API. See Backends.string[]
Paramètre optionnel de verrouillage d’hôte. Valeur vide (par défaut) : le connecteur accepte l’hôte indiqué dans
BaseUrl tel quel — aucune configuration supplémentaire n’est requise pour les modèles amont locaux ou distants. Valeur non vide : l’hôte défini dans BaseUrl doit figurer dans la liste, de sorte qu’une modification ultérieure de BaseUrl vers un autre hôte entraîne un échec au démarrage au lieu d’envoyer silencieusement le trafic (et l’ID de modèle ApiKey) vers ce nouvel hôte.string[]
Chemins de requête que le connecteur peut transmettre. Valeur par défaut :
["/chat/completions"].Pour accéder à un modèle situé sur un autre appareil de votre réseau, indiquez son adresse dans
BaseUrl — par exemple http://192.168.1.50:11434/v1. Aucune configuration supplémentaire n’est nécessaire : le connecteur ne transmet les requêtes qu’aux hôtes listés dans son propre fichier de configuration, jamais à une URL fournie par la passerelle. Les anciennes configurations peuvent encore contenir AllowLan ; le connecteur l’ignore.Authentification auprès d’un modèle amont distant
Pour rediriger les requêtes vers un fournisseur hébergé compatible OpenAI plutôt qu’un serveur local, indiquez l’adresse du fournisseur dansBaseUrl et fournissez les informations d’authentification nécessaires :
string
La clé à insérer dans la requête adressée au modèle amont.
string
défaut:"Authorization"
L’en-tête dans lequel cette clé doit être transmise. Utilisez
x-api-key pour les fournisseurs de type Anthropic, et api-key pour Azure OpenAI.string
défaut:"Bearer "
Préfixe à ajouter devant la clé. Laissez ce champ vide pour les schémas utilisant la clé brute (par exemple
x-api-key, api-key).object
En-têtes statiques à ajouter à chaque requête envoyée au modèle amont.
object
Paramètres de chaîne de requête statiques à ajouter à l’URL du modèle amont (par exemple
api-version pour Azure OpenAI).Options en ligne de commande
Toute valeur de configuration peut également être redéfinie en ligne de commande en utilisant son chemin de clé complet :
Il n’existe aucun indicateur
--log-level. Pour régler le niveau de verbosité, utilisez la section Logging ci-dessous ou l’option de redéfinition --Logging:LogLevel:Default=... mentionnée précédemment.Journalisation
Le connecteur envoie toujours ses messages à la console. Pour ajuster le niveau de verbosité et activer la création de fichiers journaliers, utilisez une section de niveau supérieur nomméeLogging, placée à côté de Connector :
tokios-connector.json
string
défaut:"Information"
Niveaux de verbosité :
Trace, Debug, Information, Warning ou Error. Choisissez Debug afin d’enregistrer les détails du routage des requêtes, l’cid ainsi que les informations relatives au modèle amont lors du dépannage.string
Active la création de fichiers journaliers quotidiens dans ce répertoire (créé si nécessaire). Laisser ce champ vide (valeur par défaut) signifie qu’il n’y aura que la console. Le chemin indiqué est relatif au binaire du connecteur, et non au répertoire de travail, ce qui garantit que les fichiers se trouvent toujours au même endroit même en cas de lancement par double-clic.
integer
défaut:"14"
Nombre de fichiers journaliers quotidiens à conserver.
logs/tokios-connector-YYYYMMDD.log.
Exemple complet
- macOS
- Linux
- Windows
Chemin de configuration :
~/Library/Application Support/tokios/tokios-connector.jsonExécution en tant que service en arrière-plan
- macOS (launchd)
- Linux (systemd)
- Windows (Service)
Créez un fichier plist à l’emplacement Chargez et lancez le service :
~/Library/LaunchAgents/com.tokios.connector.plist :~/Library/LaunchAgents/com.tokios.connector.plist
Erreurs associées
Consultez la section Dépannage afin de connaître les étapes de résolution.