Passer au contenu principal
Jan est une application de bureau locale-first qui exécute normalement des modèles sur l’appareil, mais elle peut également ajouter un fournisseur OpenAI-compatible personnalisé / distant. Pointez ce fournisseur vers https://api.tokios.com/v1, collez une clé sk-tok-…, et utilisez le nom de votre déploiement Tokios comme modèle — Jan communique alors avec un modèle exécuté sur une machine différente au lieu de se limiter aux modèles installés localement.

​
Prérequis

Connecteur appairé

Installez et appairez tokios-connector à côté du modèle que vous souhaitez que Jan atteigne.

Modèle enregistré

Enregistrez un déploiement (nom public) pour ce modèle.

Clé API créée

Créez une clé sk-tok-…, éventuellement limitée à ce déploiement.

Backends pris en charge

Confirmez que votre backend local (Ollama, llama.cpp, vLLM, LM Studio) est en cours d’exécution.

​
Ajouter Tokios en tant que fournisseur de modèles dans Jan

1

Ouvrir les paramètres des fournisseurs de modèles de Jan

Dans Jan, ouvrez Settings → Model Providers. Le chemin exact du menu et les libellés peuvent varier légèrement selon la version de Jan — vérifiez par rapport à la version que vous exécutez.
2

Ajouter un fournisseur OpenAI-compatible

Ajoutez un fournisseur personnalisé en utilisant l’option OpenAI-compatible de Jan.
3

Définir l'URL de base et la clé API

Entrez le point de terminaison Tokios et votre clé :
Enregistrez le fournisseur.
4

Ajouter votre déploiement en tant que modèle

Ajoutez une entrée de modèle en utilisant le nom de déploiement public que vous avez enregistré dans l’onglet Models — par exemple, gemma-tunnel. Il s’agit de la valeur que Jan envoie dans le champ model ; ce n’est pas l’identifiant de modèle local d’Ollama, llama.cpp, vLLM ou LM Studio.
Remplacez gemma-tunnel par le nom de déploiement que vous avez enregistré, et sk-tok-YOUR_KEY par votre propre clé. N’engagez jamais l’un ou l’autre dans un fichier de configuration partagé.

​
Interface sur ordinateur portable, modèle sur poste de travail

La configuration courante que cela résout : Jan est installé sur un ordinateur portable, mais le modèle que vous souhaitez réellement utiliser — plus volumineux que tout ce que cet ordinateur portable peut exécuter — réside sur un poste de travail ou un serveur ailleurs sur votre réseau ou dans un emplacement entièrement différent. Au lieu de vous limiter aux modèles sur l’appareil de Jan, ou d’essayer d’exposer directement le backend de votre poste de travail à l’ordinateur portable, le connecteur sur le poste de travail se connecte à Tokios, et Jan sur l’ordinateur portable appelle https://api.tokios.com/v1 avec votre clé sk-tok-…. Vous obtenez l’interface locale-first de Jan avec un modèle qui n’est pas local à la machine sur laquelle vous tapez.

​
Dépannage

La clé API envoyée par Jan est manquante, mal formée ou a été révoquée. Confirmez que vous avez collé la clé complète sk-tok-… sans espace supplémentaire, et vérifiez son statut dans l’onglet Keys.
La valeur du modèle envoyée par Jan ne correspond pas à un déploiement enregistré. Confirmez que le nom du modèle dans Jan correspond exactement au nom public dans l’onglet Models — et non à votre identifiant de modèle local Ollama/llama.cpp/vLLM/LM Studio.
Le connecteur pour ce déploiement est hors ligne ou a atteint sa limite de concurrence. Vérifiez l’onglet Connectors — le connecteur doit afficher Online, et la machine qui l’exécute doit toujours être allumée et accessible.

​
Étapes suivantes

Clients compatibles

Consultez la configuration de l’URL de base et de la clé pour d’autres clients compatibles OpenAI et Anthropic.

Clés API

Créez, limitez et faites pivoter les clés sk-tok-… pour les membres de l’équipe et les agents.