Passer au contenu principal
Un LLM local (aussi appelé LLM auto-hébergé) est un modèle open-weight que vous exécutez sur votre propre matériel — ordinateur portable, GPU de workstation, Mac ou serveur domestique — au lieu d’appeler une API hébergée que vous ne contrôlez pas. Cette section couvre les familles open-weight qui tournent bien en local et comment choisir entre elles. Tokios ne choisit, n’héberge ni ne fine-tune le modèle. Vous le choisissez et l’exécutez localement ; Tokios transforme ce que vous exécutez en un point de terminaison stable et authentifié à https://api.tokios.com que tout client compatible OpenAI ou Anthropic peut atteindre — aucun port entrant, pas de VPN.

​
Comment choisir en trois étapes

1

Adapter à la tâche

Agent de codage, chat général, raisonnement, vision ou travail edge/CPU ? La tâche réduit rapidement la famille. Consultez Which local model for which task? pour une analyse tâche par tâche avec des critères spécifiques aux agents.
2

L'adapter à votre matériel

Un modèle n’est utile que s’il tient dans votre VRAM ou mémoire unifiée à la longueur de contexte dont vous avez besoin. Consultez What size model fits your GPU? pour les calculs de dimensionnement, et Quantization pour le compromis taille/qualité.
3

Vérifier la licence

Les licences varient largement — Apache-2.0 et MIT sont permissives ; d’autres (Llama Community, Gemma, NVIDIA Open Model License) comportent des conditions. Consultez How to read a model card pour ce qu’il faut vérifier avant de construire sur un modèle.

​
Les familles, et ce qui est actuel

Chaque famille ci-dessous a une page dédiée avec des tags, des tableaux de taille, d’adéquation matérielle et de configuration. Les versions de modèles évoluent vite — ce tableau est un point de départ ; suivez chaque page pour la version actuelle.
Dernière vérification : octobre 2026.
“Actuel” signifie la plus récente version open-weight que vous pouvez télécharger et exécuter vous-même. Certaines versions actuelles nécessitent encore du matériel multi-GPU, notamment DeepSeek-V4.1-Flash, GLM-5.3 et les MoE Kimi et MiniMax à l’échelle frontière. Chaque page de famille indique ce qui est téléchargeable maintenant, ce qui nécessite un serveur, et ce qui est encore en attente.
Besoin d’un modèle frontière actuel que vous pouvez toujours auto-héberger ? DeepSeek-V4.1-Flash local hardware compare les chemins 2× RTX PRO 6000, 2× DGX Spark et 2× Strix Halo, y compris leur maturité de support et leurs limites mémoire.

​
Choisir selon ce que vous faites

Chat général et agents

Qwen3.6, Llama, Gemma et gpt-oss sont de solides polyvalents. Qwen3.8-27B est la version Qwen la plus récente (vLLM/SGLang uniquement pour l’instant) ; Qwen3.6 est le chemin vérifié le plus simple, et Muse Glimmer est le choix orienté agents qui reste résident sur une carte de 24 GB.

Codage

Qwen3-Coder, Devstral de Mistral et GLM ciblent le codage agentique à l’échelle d’un dépôt.

Raisonnement et agents

Commencez par DeepSeek-V4.1-Flash pour la version actuelle de raisonnement, codage et appel d’outils de DeepSeek. Utilisez les distills R1 pour du matériel plus petit. Pour du codage agentique à l’échelle frontière sur du matériel de workstation, Muse Spark Open mène le champ open-weight.

Vision et multimodal

Qwen3-VL et Gemma 4 lisent du texte, des images et de la vidéo — commencez par Qwen3-VL. MiMo V2.6 ajoute l’entrée audio native sur ses 3 variantes.

Petit, edge et CPU

E2B de Gemma, Phi-4-mini, Granite et Ministral de Mistral tournent sur ordinateurs portables et boîtiers edge.

Formats et matériel

Quel format de poids — GGUF, MLX, NVFP4, AWQ — tourne sur votre GPU ou Mac.

​
Une fois votre choix fait

Tokios ne choisit pas le modèle pour vous ; il donne à ce que vous exécutez un point de terminaison stable et authentifié que vous pouvez appeler de n’importe où.

Démarrage rapide

Appairez un connecteur, enregistrez un déploiement et créez votre première clé de bout en bout.

Choisir un modèle et un backend

Associez un modèle à votre workflow, votre backend et votre nommage de déploiement.