Passer au contenu principal
big-AGI est une interface IA riche en fonctionnalités et multi-fournisseurs qui prend en charge l’ajout de jusqu’à cinq points de terminaison OpenAI-compatible personnalisés. Pointez-en un vers https://api.tokios.com/v1 avec votre clé sk-tok-…, et big-AGI communiquera avec un modèle exécuté sur votre propre matériel, aux côtés de tous les autres fournisseurs que vous avez configurés.

Prérequis

Connecteur appairé

Installez et appairez tokios-connector à côté du modèle que vous souhaitez que big-AGI atteigne.

Modèle enregistré

Enregistrez un déploiement (nom public) pour ce modèle.

Clé API créée

Créez une clé sk-tok-…, éventuellement limitée à ce déploiement.

Backends pris en charge

Confirmez que votre backend local (Ollama, llama.cpp, vLLM, LM Studio) est en cours d’exécution.

Ajouter Tokios en tant que point de terminaison personnalisé

1

Ouvrir la configuration des modèles

Ouvrez les paramètres Models de big-AGI et choisissez d’ajouter une source. Sélectionnez le fournisseur OpenAI-compatible (l’option pour un point de terminaison personnalisé de style OpenAI). Le chemin exact du menu et les libellés varient selon la version de big-AGI — vérifiez par rapport à la version que vous exécutez.
2

Définir l'hôte et la clé API

Entrez le point de terminaison Tokios et votre clé :
Incluez /v1 dans l’hôte.
3

Charger votre déploiement

big-AGI détecte automatiquement les modèles à partir du point de terminaison. Comme Tokios implémente GET /v1/models, vos déploiements enregistrés (par exemple gemma-tunnel) apparaissent pour sélection. Si un modèle n’est pas répertorié, confirmez que votre clé est limitée à ce déploiement sur l’onglet Keys.
Pour un big-AGI auto-hébergé, vous pouvez définir les mêmes valeurs avec des variables d’environnement — OPENAI_API_HOST=https://api.tokios.com/v1 et OPENAI_API_KEY=sk-tok-YOUR_KEY. Ne commettez jamais une clé réelle dans le contrôle de version ou une configuration partagée.

Une interface, des modèles d’ailleurs

big-AGI est conçu pour communiquer avec de nombreux fournisseurs simultanément. Ajouter Tokios en tant que l’un de ses points de terminaison OpenAI-compatible personnalisés intègre votre propre modèle local à côté de tout le reste — le connecteur à côté de ce modèle établit une connexion sortante vers Tokios, et big-AGI l’atteint à https://api.tokios.com/v1 sans port entrant ni VPN.

Dépannage

La clé API envoyée par big-AGI est manquante, mal formée ou a été révoquée. Confirmez que vous avez utilisé la clé complète sk-tok-… sans espace supplémentaire, et vérifiez son statut sur l’onglet Keys.
big-AGI peuple les modèles à partir de GET /v1/models. Assurez-vous d’avoir enregistré au moins un déploiement sur l’onglet Models et que la portée de votre clé l’inclut. Confirmez que l’hôte est https://api.tokios.com/v1.
Le connecteur pour ce déploiement est hors ligne ou a atteint sa limite de concurrence. Vérifiez l’onglet Connectors — le connecteur doit afficher Online, et la machine qui l’exécute doit toujours être active et accessible.

Étapes suivantes

Clients compatibles

Consultez la configuration de l’URL de base et de la clé pour d’autres clients compatibles OpenAI et Anthropic.

Clés API

Créez, limitez et faites pivoter des clés sk-tok-… pour les membres de l’équipe et les agents.