Utiliser des agents de codage avec des modèles locaux via Tokios

Tous les principaux agents de codage communiquent avec un backend de modèle via une API compatible OpenAI ou Anthropic. En orientant cette API vers Tokios, vos agents interagissent avec un modèle local exécuté sur votre propre matériel, depuis n’importe quelle machine, pas seulement celle hébergeant le serveur d’inférence. Pour changer de modèle, il suffit de modifier le champ 1 ; la configuration de l’agent demeure inchangée.

Mode de connexion des agents de codage aux backends

Les agents de codage envoient des requêtes de complétion de chat (et souvent des appels d’outils) via HTTP. Ils lisent l’URL du point de terminaison et la clé API dans des variables d’environnement ou un fichier de configuration. Tokios propose à la fois une interface compatible OpenAI et une interface compatible Anthropic sur la même URL, ce qui permet à la plupart des agents de fonctionner après un simple changement de configuration.

Agent	Format d’API	Variable d’environnement clé	URL de base
Claude Code	Anthropic	`ANTHROPIC_API_KEY`	`ANTHROPIC_BASE_URL`
OpenCode	OpenAI	`options.apiKey`	`options.baseURL`
Aide	OpenAI	`OPENAI_API_KEY`	`OPENAI_API_BASE`
Cline	OpenAI	Saisissez votre clé API dans le tableau de bord	Définissez un point de terminaison personnalisé
Procédez	OpenAI	Indiquez votre clé API dans les paramètres de configuration	`apiBase`
Roo Code	OpenAI	Clé API dans l’interface utilisateur	Point de terminaison personnalisé

Prérequis

Un connecteur Tokios en cours d’exécution associé à votre modèle local — consultez Installation du connecteur
Un nom de déploiement enregistré — consultez Enregistrer un modèle
Une clé API Tokios — consultez Clés API

Claude Code

Claude Code utilise l’API Messages d’Anthropic. Définissez les variables d’environnement 2 puis indiquez le nom de votre déploiement avec --model :

macOS et Linux
Windows CMD
Windows PowerShell

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model qwen3-coder

set ANTHROPIC_BASE_URL=https://api.tokios.com
set ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model qwen3-coder

$env:ANTHROPIC_BASE_URL = "https://api.tokios.com"
$env:ANTHROPIC_API_KEY = "sk-tok-YOUR_KEY"
claude --model qwen3-coder

Claude Code’s built-in model picker only lists claude-* ids. Always pass --model explicitly with your Tokios deployment name. See the full Claude Code guide for persistence and troubleshooting.

OpenCode

OpenCode utilise le SDK d’intelligence artificielle avec un fournisseur compatible OpenAI. Ajoutez Tokios à l’URL opencode.json :

opencode.json

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "tokios": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "Tokios",
      "options": {
        "baseURL": "https://api.tokios.com/v1",
        "apiKey": "sk-tok-YOUR_KEY"
      },
      "models": {
        "qwen3-coder": {
          "name": "qwen3-coder"
        }
      }
    }
  }
}

options.baseURL doit impérativement contenir /v1. OpenCode interprète les chemins de requête par rapport à cette URL ; par conséquent, l’absence de /v1 entraîne des erreurs de type 404.

Consultez le guide complet d’OpenCode pour obtenir des instructions détaillées sur la configuration et la résolution des problèmes.

Aider

Aider lit la configuration compatible OpenAI depuis les variables d’environnement :

export OPENAI_API_BASE=https://api.tokios.com/v1
export OPENAI_API_KEY=sk-tok-YOUR_KEY
aider --model openai/qwen3-coder

Le préfixe openai/ indique à Aider d’utiliser le format de complétion de chat d’OpenAI. Aider prend en charge l’appel d’outils avec la plupart des modèles respectant le schéma d’appel de fonctions d’OpenAI.

Cline

Cline se connecte à des points de terminaison personnalisés compatibles OpenAI via les paramètres de VS Code :

Ouvrez les paramètres de Cline dans VS Code.
Dans la section Configuration API, sélectionnez OpenAI Compatible.
Définissez Base URL sur la valeur https://api.tokios.com/v1.
Collez votre sk-tok-YOUR_KEY dans le champ API Key.
Saisissez le nom de votre déploiement (par exemple qwen3-coder) en tant que Model ID.

Cline fait largement appel à l’appel d’outils. Choisissez un modèle offrant un bon support de cet appel — consultez les Recommandations de modèles ci-dessous.

Continuer

Ajoutez Tokios en tant que fournisseur personnalisé dans ~/.continue/config.json :

~/.continue/config.json

{
  "models": [
    {
      "title": "Tokios - Qwen3 Coder",
      "provider": "openai",
      "model": "qwen3-coder",
      "apiBase": "https://api.tokios.com/v1",
      "apiKey": "sk-tok-YOUR_KEY"
    }
  ]
}

Continuer prend en charge à la fois les complétions de chat et l’appel d’outils grâce à cette configuration de fournisseur.

Roo Code

Roo Code utilise le même schéma d’endpoint compatible OpenAI :

Ouvrez les paramètres de Roo Code.
Sélectionnez OpenAI Compatible comme fournisseur API.
Définissez Base URL sur la valeur https://api.tokios.com/v1.
Saisissez votre clé API ainsi que le nom de votre déploiement.

Permutez les modèles sans avoir à reconfigurer quoi que ce soit.

Puisque chaque agent extrait le nom du modèle depuis un seul champ — le paramètre model dans la requête API — il est possible d’enregistrer plusieurs déploiements sur Tokios et d’en changer à volonté sans modifier la configuration des agents.

# Use Qwen3-Coder for code tasks
claude --model qwen3-coder

# Use GLM-4.5-Air for general reasoning
claude --model glm-4-chat

# Use Gemma for lightweight tasks
claude --model gemma-tunnel

Le point de terminaison et la clé API demeurent inchangés. Tokios oriente chaque requête vers le backend local approprié.

Recommandations de modèles pour le codage.

Tous les modèles locaux ne se montrent pas également performants pour les tâches de codage. L’appel de fonctions — c’est-à-dire la capacité à exécuter des commandes, lire des fichiers ou invoquer des outils — constitue un élément essentiel pour les flux de travail basés sur des agents.

Modèle	Nombre total de paramètres	Domaine d’application idéal	Appel de fonctions	Remarques
Muse Glimmer 30B	29.6B	Programmation assistée par agents et utilisation d’outils	Satisfaisant	Entraîné pour invoquer des outils selon des schémas précis tout en assurant la récupération en cas d’échec ; la version à 4 bits s’adapte à une seule carte graphique de 24 gigaoctets
Qwen3-Coder-30B	30B	Génération et refactorisation de code	Satisfaisant	Fonctionne correctement avec Cline et Aider
Qwen3-32B	32B	Usage général et programmation	Satisfaisant	Polyvalent de haute qualité ; délivre 43 jetons par seconde sur DGX Spark
GLM-4.5-Air	106B MoE	Raisonnement complexe	Satisfaisant	12B paramètres actifs ; connecteur très apprécié au sein de la communauté pour Spark
Qwen3.5-35B-A3B	35B MoE	Codage rapide	Satisfaisant	3B actif ; débit de 120 jetons par seconde avec Atlas sur Spark
Gemma-4-26B-A4B	26B MoE	Tâches légères	Modéré	4B actif ; rapide mais moins performant pour les éditions complexes

Le déploiement de vLLM sur les GPU AMD présente des problèmes connus concernant l’appel d’outils. Si vous utilisez du matériel AMD tel que Strix Halo, privilégiez llama.cpp avec le moteur Vulkan afin d’obtenir un meilleur support des appels d’outils.

Conseils pour coder en utilisant des modèles locaux

Privilégiez un modèle capable d’appeler des outils. Les agents tels que Claude Code, OpenCode et Cline reposent sur des appels de fonctions structurés. Si votre modèle ne prend pas en charge le schéma d’appel de fonctions d’OpenAI, l’agent bascule vers des invocations d’outils basées sur du texte, ce qui est plus lent et moins fiable. Réglez la longueur du contexte de façon appropriée. Les agents de programmation envoient des invites volumineuses contenant le contenu des fichiers et l’historique des conversations. Définissez --max-model-len sur votre serveur d’inférence à au moins 8192 tokens. Les modèles disposant de 32K tokens ou plus gèrent mieux les tâches impliquant plusieurs fichiers. Optez pour les modèles MoE afin d’obtenir un meilleur débit. Les modèles de type Mixture-of-Experts tels que Qwen3.5-35B-A3B n’activent qu’une partie de leurs paramètres par token, ce qui permet d’atteindre un débit supérieur à celui des modèles denses de taille similaire. Pour les tâches de programmation itératives où la latence est cruciale, les modèles MoE constituent souvent le meilleur choix. Testez les appels d’outils avant de les utiliser en production. Envoyez rapidement un test contenant un payload d’appel d’outils afin de vérifier que votre modèle et votre moteur gèrent correctement ces appels :

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3-coder",
    "messages": [{"role": "user", "content": "What is 2+2?"}],
    "tools": [{"type": "function", "function": {"name": "calculator", "parameters": {"type": "object", "properties": {"expression": {"type": "string"}}}}}]
  }'

Si la réponse contient un tableau tool_calls, l’appel d’outils fonctionne bien.

Un seul point de terminaison pour tous vos agents

Tokios attribue à chaque agent de programmation la même URL et la même clé API. Enregistrez vos modèles une seule fois, générez 1 clé API, puis configurez autant d’agents que nécessaire pour qu’ils pointent vers https://api.tokios.com. Vous pourrez changer de modèle, ajouter de nouveaux moteurs ou déplacer vos modèles sur d’autre matériel sans avoir à modifier les configurations des agents.

Routage des modèles

Découvrez comment enregistrer plusieurs modèles et orienter les requêtes selon le nom de déploiement.

Sélectionnez un modèle local

Comparez les connecteurs et les options de quantification avant de choisir un modèle pour vos flux de travail autonomes.

Matériel et compatibilité

Servir et connecter votre runtime

Connecter un client ou une app

Comparer

Utiliser des agents de codage avec des modèles locaux via Tokios

Mode de connexion des agents de codage aux backends

Prérequis

Claude Code

OpenCode

Aider

Cline

Continuer

Roo Code

Permutez les modèles sans avoir à reconfigurer quoi que ce soit.

Recommandations de modèles pour le codage.

Conseils pour coder en utilisant des modèles locaux

Un seul point de terminaison pour tous vos agents

Routage des modèles

Sélectionnez un modèle local

​Mode de connexion des agents de codage aux backends

​Prérequis

​Claude Code

​OpenCode

​Aider

​Cline

​Continuer

​Roo Code

​Permutez les modèles sans avoir à reconfigurer quoi que ce soit.

​Recommandations de modèles pour le codage.

​Conseils pour coder en utilisant des modèles locaux

​Un seul point de terminaison pour tous vos agents

Routage des modèles

Sélectionnez un modèle local

Mode de connexion des agents de codage aux backends

Prérequis

Claude Code

OpenCode

Aider

Cline

Continuer

Roo Code

Permutez les modèles sans avoir à reconfigurer quoi que ce soit.

Recommandations de modèles pour le codage.

Conseils pour coder en utilisant des modèles locaux

Un seul point de terminaison pour tous vos agents