Passer au contenu principal
Faites votre choix en fonction des critères de sélection, et non selon le nom le plus populaire du moment : prise en charge native des appels d’outils si vous utilisez un agent, taille de la fenêtre de contexte par rapport à votre capacité mémoire, licence, ainsi que la capacité du modèle à suivre les instructions. Pour DeepSeek, le checkpoint à tester actuellement est deepseek-ai/DeepSeek-V4-Flash-0731 ; n’utilisez la distillation R1 qu’en cas d’impossibilité d’exécuter le poids V4 sur votre matériel.
Les noms et numéros de version des modèles deviennent rapidement obsolètes — un modèle de pointe aujourd’hui pourrait être dépassé d’ici quelques mois. Considérez les tableaux ci-dessous comme un point de départ pour identifier les familles et critères ; consultez les liens sources et vérifiez régulièrement la meilleure version disponible dans chaque famille avant d’investir dans du matériel.

​
Associez chaque tâche à une famille de modèles

Actuellement, Tokios ne propose pas de fonctionnalités d’encodage vectoriel via son passerelle ; son interface API ne couvre que les points de terminaison de chat et de messagerie. La section consacrée aux encodages vectoriels ci-dessus sert uniquement à sélectionner un modèle à exécuter localement avec votre propre backend, sans passer par un déploiement Tokios.
Pour le point de contrôle DeepSeek-V4-Flash-0731, commencez par consulter le guide matériel local. La spécification de 1M jetons ne garantit pas pour autant qu’une configuration locale dispose de suffisamment de capacité de cache KV pour supporter cette longueur de contexte.

​
Sélection d’un modèle adapté aux agents

Les agents de codage et autres clients utilisant des outils sont plus exigeants qu’une interface de chat classique. Trois critères doivent être pris en compte :
  1. Appel natif d’outils/fonctions. Les boucles d’agents reposent sur la capacité du modèle à renvoyer des appels d’outils structurés que le client peut interpréter. Actuellement, DeepSeek-V4-Flash-0731 représente l’option DeepSeek recommandée pour ce type de charge de travail. Testez-le avec le moteur de service, le niveau de raisonnement et le format de codage de chat que vous comptez utiliser.
  2. Fenêtre de contexte d’au moins 32 à 64K jetons, de préférence 128K ou davantage. Les agents accumulent tour à tour le contenu des fichiers, les différences et les résultats d’outils ; une fenêtre de contexte réduite se remplit donc très vite. Prévoyez suffisamment de mémoire VRAM pour le cache KV à la longueur de contexte souhaitée, en plus des poids du modèle — consultez Adapter un modèle à votre GPU ou mémoire unifiée.
  3. Capacité à suivre les instructions, sortie structurée et licence permissive. Les familles de modèles sous licence Apache-2.0 telles que Qwen3 et gpt-oss facilitent grandement l’adoption sans contraintes juridiques.
Certains clients tels que Roo Code exigent impérativement un appel natif d’outils. Si le modèle sous-jacent ne le supporte pas, le client ne pourra pas interpréter ses réponses comme des actions et répétera sans cesse la même étape au lieu de progresser — il s’agit là d’une limite propre au modèle, et non d’un problème lié à Tokios ou au connecteur.

​
Adapter le modèle à votre matériel

Choisir la bonne famille de modèles ne suffit pas : le modèle doit également tenir dans la VRAM ou la mémoire unifiée disponible, à la longueur de contexte requise. Consultez Adapter un modèle à votre GPU ou mémoire unifiée pour obtenir des estimations selon le nombre de paramètres et le niveau de quantification. Pour les aspects liés au workflow, au backend et à la désignation du déploiement — c’est-à-dire quel backend exécuter et comment nommer le déploiement après enregistrement — reportez-vous à Choisir un modèle local et un backend.

​
Une fois le modèle sélectionné

Tokios ne sélectionne pas le modèle à votre place ; il vous fournit simplement un point de terminaison de déploiement stable que vous pouvez interroger depuis n’importe où.

Enregistrez votre déploiement

Transformez le modèle de votre choix en un déploiement Tokios doté d’un nom public et d’une clé API.

Comparez les candidats

Évaluez plusieurs déploiements simultanément afin de choisir celui qui convient le mieux à vos besoins.