Passer au contenu principal
Chatbox est un client de chat multiplateforme disposant d’une application de bureau et d’applications mobiles. Sur le bureau (et Android), vous pouvez ajouter Tokios en tant que fournisseur compatible API OpenAI personnalisé. Pointez-le vers l’hôte nu https://api.tokios.com, collez une clé sk-tok-…, et utilisez le nom de votre déploiement Tokios comme modèle — Chatbox communique alors avec un modèle exécuté sur un matériel différent au lieu d’un fournisseur hébergé.
Cette page couvre Chatbox sur le bureau et Android. Chatbox sur iOS présente un bug connu où les points de terminaison compatibles OpenAI personnalisés avec une clé API Bearer échouent en raison d’un problème de pré-vol CORS dans son chemin de réseau WKWebView (chatboxai/chatbox#3516). Si vous utilisez un iPhone ou un iPad, consultez Utiliser un modèle local depuis votre téléphone pour des applications qui fonctionnent à la place.

Prérequis

Connecteur appairé

Installez et appairez tokios-connector à côté du modèle que vous souhaitez que Chatbox atteigne.

Modèle enregistré

Enregistrez un déploiement (nom public) pour ce modèle.

Clé API créée

Créez une clé sk-tok-…, éventuellement limitée à ce déploiement.

Backends pris en charge

Confirmez que votre backend local (Ollama, llama.cpp, vLLM, LM Studio) est en cours d’exécution.

Ajouter Tokios en tant que fournisseur personnalisé dans Chatbox

1

Ouvrir les paramètres du modèle de Chatbox

Dans Chatbox, ouvrez Settings → Model.
2

Ajouter un fournisseur personnalisé

Cliquez sur Add Custom Provider et choisissez OpenAI API Compatible comme mode API.
3

Définir l'hôte API, le chemin et la clé

Remplissez les champs du fournisseur. Chatbox ajoute lui-même le chemin des complétions, donc donnez-lui l’hôte nu sans /v1 :
C’est l’inverse de la plupart des clients compatibles OpenAI. La propre documentation de Chatbox indique que le chemin API est par défaut /v1/chat/completions et est ajouté à l’hôte que vous entrez — si vous collez https://api.tokios.com/v1 ici à la place, Chatbox appellera le mauvais chemin.
4

Ajouter votre déploiement en tant que modèle

Entrez le nom de déploiement public que vous avez enregistré dans l’onglet Models — par exemple, gemma-tunnel. Si Chatbox ne l’affiche pas automatiquement, tapez le nom du modèle manuellement. C’est la valeur que Chatbox envoie dans le champ model ; ce n’est pas l’identifiant de modèle local d’Ollama, llama.cpp, vLLM ou LM Studio.
Remplacez gemma-tunnel par le nom de déploiement que vous avez enregistré, et sk-tok-YOUR_KEY par votre propre clé. N’engagez jamais l’un ou l’autre dans un fichier de configuration partagé.

Même configuration sur Android

L’application Android de Chatbox utilise le même flux Add Custom Provider → OpenAI API Compatible, avec la même valeur d’hôte nu https://api.tokios.com et sans /v1. Le problème CORS iOS ci-dessus n’affecte pas Android.

Dépannage

La clé API envoyée par Chatbox est manquante, mal formée ou a été révoquée. Confirmez que vous avez collé la clé complète sk-tok-… sans espace supplémentaire, et vérifiez son statut dans l’onglet Keys.
La valeur du modèle envoyée par Chatbox ne correspond à aucun déploiement enregistré. Confirmez que le nom du modèle dans Chatbox correspond exactement au nom public dans l’onglet Models — et non à votre identifiant de modèle local Ollama/llama.cpp/vLLM/LM Studio. C’est aussi ce qui se passe si vous avez ajouté /v1 à l’hôte API et que Chatbox a fini par appeler le mauvais chemin.
Le connecteur pour ce déploiement est hors ligne ou a atteint sa limite de concurrence. Vérifiez l’onglet Connectors — le connecteur doit afficher Online, et la machine qui l’exécute doit toujours être allumée et accessible.
Cela correspond au bug connu de Chatbox iOS (#3516) où les points de terminaison compatibles OpenAI personnalisés avec une clé Bearer échouent lors d’une vérification de pré-vol CORS. Ce n’est pas un problème côté Tokios. Utilisez Chatbox sur le bureau ou Android, ou consultez Utiliser un modèle local depuis votre téléphone pour des clients compatibles iOS.

Étapes suivantes

Démarrage rapide

Configurez le connecteur, enregistrez un déploiement et créez votre première clé.

Clients compatibles

Consultez la configuration de l’URL de base et de la clé pour d’autres clients compatibles OpenAI et Anthropic.