Kimi K3 ne peut pas être exécuté — quels modèles sont envisageables selon votre matériel ?

Kimi K3 est le modèle recherché, mais il ne convient pas à votre matériel. Ses 2.8 trillions de paramètres nécessitent environ 1.4 téraoctets dans un format natif à 4 bits — même le système 8 DGX Spark (offrant 1 téraoctets en tout) manque de 376 gigaoctets. Moonshot vise quant à lui le modèle K3 via un supernœud doté de 64 accélérateurs ou plus. Consultez Exécuter Kimi K3 en local pour en savoir plus sur la faisabilité, ainsi que Les calculs mémoire de DGX Spark pour les détails techniques. La question pertinente n’est donc pas « comment exécuter K3 » mais plutôt « quel modèle le plus proche peut réellement tourner sur mon matériel, dès à présent ? » Cette page répond à cette interrogation en fonction de la catégorie matérielle.

​

Réponse concise selon le matériel

Chacun des modèles listés peut être téléchargé et mis en service dès à présent. Les lignes sont classées selon la quantité de mémoire requise, non selon leurs capacités ; choisissez donc votre matériel puis consultez la catégorie correspondante. Une précision concernant les serveurs à grande capacité RAM : Kimi K2.6 et K2.7-Code atteignent des vitesses interactives sur un serveur multi-GPU, mais sur un poste de travail ne disposant que du transfert RAM ils n’affichent qu’une dizaine de jetons par seconde ; cela convient aux traitements par lots, mais reste lent pour les agents de programmation.

​

Ce qui se rapproche le plus de K3 : Kimi K2.6 et K2.7-Code.

If you want K3 specifically because it is Kimi, the honest substitute is the rest of the Kimi family. Kimi K2.6 (general flagship) and Kimi K2.7-Code (coding-specialized, the default in Moonshot’s Kimi Code CLI) are 1T-parameter open-weight MoEs — one full hardware tier below K3. They ship at native INT4 (~595 GB on disk), so they need a multi-GPU server or a big-RAM workstation, not a desktop, but they are downloadable now. Il s’agit de la réponse la plus convaincante proposant un remplacement sur cette page, car il ne s’agit pas du tout d’un substitut : c’est un modèle de la même famille, doté des mêmes capacités d’appel d’outils autonomes et de prise en charge des entrées multimodales, et dont la taille permet de le déployer sur du matériel réel. Consultez Kimi models pour en savoir plus sur les options de déploiement via vLLM/SGLang ainsi que sur les méthodes de quantification.

​

Strix Halo (128 Go en mémoire unifiée)

Un processeur AMD Ryzen AI Max+ 395 libère environ 96 Go de mémoire pour le GPU après les réglages du BIOS et des pilotes. Les modèles MoE comptant entre 35B et 122B paramètres constituent le choix idéal : ils s’exécutent 3 à 14 fois plus rapidement qu’un modèle dense possédant le même nombre de paramètres.

• Programmation / agents : Qwen3-Coder-30B à Q4_K_M (~19 Go) est le modèle privilégié par la communauté pour Cline, Aider et OpenCode, avec une vitesse d’exécution d’environ 10 à 15 jetons par seconde.
• Général / raisonnement : GLM-4.5-Air (106B MoE, ~60 Go) est le choix de qualité ; Qwen3.5-122B-A10B (~70 Go) offre les capacités maximales. Tous deux atteignent une vitesse d’environ 10 à 15 jetons par seconde à Q4_K_M.

Les tableaux de compatibilité, les formats de quantification et les différences entre Vulkan et ROCm sont détaillés dans les pages Compatibilité des modèles avec Strix Halo et Déployer un modèle sur Strix Halo.

​

1 DGX Spark (128 Go en mémoire unifiée)

Une seule unité Spark met à disposition ~115 à 120 Go de mémoire après déduction des besoins système. Elle permet d’exécuter des modèles denses jusqu’à ~70B paramètres à Q4, ainsi que des modèles MoE atteignant ~120B paramètres au total en utilisant NVFP4. NVFP4 est la configuration recommandée par défaut pour la carte graphique SM121.

• Programmation / agents : Le modèle Qwen3.5-35B-A3B sur NVFP4 (~18 Go) maintient un débit de 47 à 50 jetons par seconde ; le modèle plus récent Qwen3.6-35B-A3B atteint jusqu’à ~120 jetons par seconde grâce au moteur Atlas. Le modèle Qwen3-Coder-30B constitue quant à lui une variante spécialement adaptée à la programmation.
• Général / raisonnement : Le modèle GLM-4.5-Air (106B MoE, ~53 Go) est largement reconnu comme le meilleur choix en termes de qualité ; le modèle Qwen3.5-122B-A10B (~61 Go) est le plus grand modèle MoE utilisable, offrant un débit d’environ 30 jetons par seconde.

Consultez la page Compatibilité des modèles avec DGX Spark pour obtenir la liste complète des modèles, ainsi que vLLM sur DGX Spark pour les commandes de déploiement.

​

2 DGX Sparks (256 Go au total)

A second Spark does not unlock a “bigger Kimi.” It does unlock DeepSeek-V4-Flash-0731: 2 nodes provide 256 GB of aggregate unified memory for its roughly 162–167 GB weight floor. The route is community-tested rather than vendor-verified for 0731, so start at 32K context and revalidate model load, tool calls, and sustained generation. A 405B dense model at FP8 needs roughly 405 GB for weights alone and does not fit in 2 Sparks. If your goal is a large coding model rather than more concurrency, skip to 4 Sparks — Qwen3-Coder-480B needs a ~250 GB+ memory floor and only gets real KV-cache headroom at 512 GB. See One vs two DGX Sparks for the decision framework and worked throughput numbers.

​

4 DGX Sparks (512 Go au total)

4 nodes is NVIDIA’s documented maximum Spark cluster, positioned for models up to about 700B parameters. This is the tier that makes the K3 verdict concrete: even doubling past 4 Sparks to 8 still falls 376 GB short of K3 — so 4 Sparks is where you run the largest models that do fit.

• Programmation / agents : Le modèle Qwen3-Coder-480B (modèle de programmation MoE volumineux, nécessitant plus de ~250 Go de mémoire) fonctionne ici grâce à l’espace tampon KV disponible, absent à 256 Go.
• Général / raisonnement : Commencez avec DeepSeek-V4-Flash-0731, la version officielle actuelle prenant en charge les appels d’outils et un contexte de 1M. Le modèle DeepSeek-R1 671B à Q4_K_M (~404 Go) convient également si vous avez besoin spécifiquement de la famille R1 plus ancienne.

Le dépôt ne fournit pas de mesures précises du débit en jetons pour cette taille de cluster ; considérez donc tous les chiffres indiqués ici comme des estimations tant que vous n’aurez pas effectué vos propres tests. Consultez Compatibilité des modèles avec DGX Spark ainsi que Analyse approfondie du matériel pour Kimi K3 pour les calculs relatifs au cluster.

​

Serveur doté d’une grande quantité de mémoire ou de plusieurs GPU (256 Go et plus)

Ce niveau correspond aux meilleures alternatives à K3, car c’est là que se trouvent les autres modèles de la famille Kimi. Sur un serveur de datacenter doté de 8×80 Go de mémoire, on peut exécuter Kimi K2.6 ou K2.7-Code via vLLM à une vitesse interactive, soit --tensor-parallel-size 8. Sur une station de travail disposant de plus de 256 Go de RAM et d’une accélération GPU, un fichier GGUF fourni par la communauté fonctionne en quantisation à faible précision, mais à un rythme très lent — quelques tokens par seconde seulement, donc pas adapté à une utilisation interactive.

• Programmation / agents : Kimi K2.7-Code, le modèle MoE de Moonshot spécialisé dans la programmation, doté de 1 milliards de paramètres.
• Général / raisonnement : Kimi K2.6 convient aux tâches mixtes impliquant des agents ; MiniMax M3 (avec 428B et 23B d’unités actives) ou GLM-5.2 représentent d’autres options pertinentes dans cette catégorie, sans être des modèles Kimi.

Les commandes de déploiement et les options de quantisation sont détaillées sur la page Modèles Kimi ; le guide Serveur GPU pour laboratoire domestique explique comment monter son propre matériel, tandis que Quel modèle local pour quelle tâche ? aide à faire le bon choix.

​

Une seule carte graphique grand public (de 8 à 24 Go)

Une carte de 24 Go appartient à une catégorie différente de celle de K3 ; il convient donc d’ajuster ses attentes. Elle convient parfaitement pour obtenir une aide rapide en programmation et pour des échanges de conversation, mais ne suffit pas pour des tâches de raisonnement avancées.

• Programmation / agents : Qwen3-Coder-30B-A3B, version Q4_K_M (19 Go), s’intègre aisément sur une carte de 24 Go.
• Général / raisonnement : gpt-oss-20b, en format MXFP4 natif (14 Go), s’adapte parfaitement et permet de régler le niveau de raisonnement sur faible, moyen ou élevé.

Pour vérifier la compatibilité d’un autre modèle avec votre carte, utilisez le calculateur de compatibilité ; le guide Station de travail RTX décrit l’ensemble de la configuration requise.

​

Connectez votre choix via Tokios

Une fois le modèle sélectionné en cours d’exécution sur un environnement local — Ollama, llama.cpp, vLLM ou SGLang fournissant un point de terminaison compatible OpenAI /v1 — le connecteur Tokios établit la liaison et vous attribue un point de terminaison authentifié à l’adresse https://api.tokios.com, sans nécessiter de ports entrants ni de VPN. Chaque page de modèle mentionnée ci-dessus contient un tutoriel complet ; voici la version abrégée :

​

FAQ