Last verified: 2026-10-14
La gamme Kimi en un coup d’œil
Vous vous demandez si vous pouvez exécuter Kimi K3 en local ? Les poids sont disponibles (publiés le 27 juillet 2026), mais le plancher est d’environ 1.4 TB de mémoire. Le reste de cette page couvre les modèles Kimi que vous pouvez télécharger aujourd’hui.
Si vous voulez simplement les réponses de Kimi et peu importe où il s’exécute, l’API hébergée par Moonshot (platform.kimi.com) est le chemin facile. Tokios est pour le cas où vous voulez les poids sur votre matériel — un rig sérieux multi-GPU ou à grande RAM — et un point de terminaison privé et authentifié devant.
Pouvez-vous exécuter Kimi en local ?
Honnêtement : pas sur un bureau normal. Kimi K2.6 est déjà distribué en INT4 natif — c’est le format réduit — et il fait tout de même environ 595 GB répartis sur 64 shards de checkpoints. Il n’existe aucun GPU grand public, ni aucun GPU de datacenter unique, qui puisse le contenir. Les options réalistes :
Les re-quantifications communautaires échangent de la qualité contre de la taille mais ne changent pas la conclusion :
bartowski/moonshotai_Kimi-K2.6-GGUF va d’un IQ1_S extrême à environ 207 GB jusqu’à Q4_0 à environ 584 GB, et la construction dynamique 2-bit d’Unsloth (~340–350 GB) exige toujours un budget combiné VRAM/RAM de 350 GB+. En règle générale, prévoyez RAM + VRAM approximativement égales à la taille du quant. Pour la plupart des gens, Kimi est un modèle cloud/API — et c’est une réponse valable. Ne l’exécutez en local que si vous avez le rig pour.
« Kimi sur Ollama » est du cloud, pas du local
Les modèles Kimi K2.x sont dans la bibliothèque Ollama —kimi-k2.6, kimi-k2.7-code, kimi-k2.5 — mais chacun d’eux n’expose qu’un tag :cloud. Les modèles cloud d’Ollama ne se téléchargent pas ; les requêtes sont proxyifiées vers l’infrastructure hébergée d’Ollama tant que vous restez connecté. Donc ollama run kimi-k2.6:cloud est pratique, mais ce n’est pas de l’auto-hébergement — les poids ne touchent jamais votre machine, et il n’y a rien de local vers lequel pointer un connecteur.
Si votre objectif est Kimi sur du matériel que vous contrôlez, ignorez le tag :cloud et auto-hébergez les poids avec un runtime serveur, ci-dessous. Tokios frontalise alors votre déploiement, pas le cloud de quelqu’un d’autre.
Exécutez-le sur votre propre matériel
La documentation de déploiement de Moonshot cible des runtimes de qualité production — vLLM, SGLang, et KTransformers — pas des stacks mono-GPU. Sur un serveur multi-GPU, servez les poids INT4 natifs et exposez un point de terminaison compatible OpenAI :- vLLM (official path, multi-GPU server)
- Community GGUF (big-RAM rig)
http://127.0.0.1:8000/v1 — c’est vers cela que pointe le connecteur Tokios. Consultez la fiche du modèle pour les paramètres recommandés actuels et tout parseur d’appels d’outils avant de servir.Variantes et spécifications
Toutes les valeurs ci-dessous proviennent des fiches de modèles Moonshot sur Hugging Face et de la documentation de la plateforme Moonshot. Vérifiez sur la fiche du modèle avant de standardiser sur l’un d’eux — Moonshot publie de nouvelles versions de Kimi approximativement chaque mois.
Sources :
moonshotai/Kimi-K2.6, moonshotai/Kimi-K2.7-Code, platform.kimi.com/docs/models, ollama.com/library/kimi-k2.6.
La licence Modified MIT de Kimi est permissive pour la plupart des utilisations, mais ajoute une clause d’attribution pour les déploiements commerciaux de très grande envergure (afficher « Kimi K2.6 » dans l’interface de votre produit au-delà d’un seuil élevé d’MAU/chiffre d’affaires). Lisez le fichier
LICENSE sur la fiche du modèle avant de construire un produit commercial dessus.Capacités
- Appel d’outils agentique — K2.x est entraîné pour l’utilisation d’outils et les boucles d’agents multi-étapes. Lorsque vous le servez avec vLLM ou SGLang, activez le parseur d’appels d’outils que la fiche du modèle recommande afin que les requêtes
toolsfonctionnent via votre point de terminaison. - Entrée multimodale native — compréhension de texte, image et vidéo sur toute la gamme K2.x.
- Raisonnement — K2.x expose la réflexion via le paramètre
thinkingde l’API de Moonshot. Kimi K3 le remplace par unreasoning_effortde niveau supérieur — ne mélangez pas les deux conventions ; consultez la page Kimi K3 pour les détails du protocole de K3. - Contexte 256K — assez long pour des sessions de codage à l’échelle d’un dépôt, mais budgétez de la mémoire KV-cache en plus des poids lorsque vous dimensionnez un déploiement à contexte long.
Quel Kimi devez-vous exécuter ?
- K2.6 est le flagship téléchargeable polyvalent de Moonshot — utilisez-le pour la rédaction, l’analyse, la conversation et le travail agentique mixte.
- K2.7-Code est dédié au codage et aux tâches agentiques — consultez la section dédiée ci-dessous.
- K2.5 est le flagship précédent, toujours disponible si vous l’avez déjà standardisé.
- K3 est le flagship frontier (poids publiés le 27 juillet 2026), mais il déplace d’un niveau matériel complet — consultez Kimi K3 pour les exigences matérielles, ou quoi exécuter à la place s’il ne rentre pas dans votre matériel.
Kimi K2.7-Code pour les agents de codage
Kimi K2.7-Code (juin 2026) est le frère spécialisé en codage de K2.6 : même architecture 1T-MoE, même taille et mêmes exigences matérielles, mais ajusté pour l’ingénierie agentique. Il réduit l’utilisation de tokens de raisonnement d’environ 30% par rapport à K2.6 et est le modèle par défaut dans le CLI Kimi Code de Moonshot. Si le codage est le travail, c’est le Kimi à servir. Il partage exactement le même déploiement que K2.6 — la même taille de poids INT4, le même chemin de service vLLM/SGLang (échangez l’id de modèle pourmoonshotai/Kimi-K2.7-Code), et la même situation :cloud-uniquement sur Ollama. Une fois derrière votre point de terminaison Tokios, il s’associe naturellement aux agents de codage : consultez Utiliser Claude Code et Utiliser OpenAI Codex pour la configuration des clients.
Connectez-le avec Tokios
Une fois Kimi en cours d’exécution sur votre propre serveur — vLLM ou SGLang exposant un/v1 compatible OpenAI — appariez le connecteur Tokios pour pouvoir y accéder en tant que https://api.tokios.com depuis Claude Code, Cline ou tout autre client compatible, au lieu de seulement depuis votre LAN.
1
Appariez le connecteur Tokios
Connectez-vous sur tokios.com/console, ouvrez l’onglet Setup, et cliquez sur Start pairing pour obtenir un code d’appairage unique (Puis approve l’appareil dans l’onglet Setup ou Connectors.
TKS-XXXX-XXXX). Installez et exécutez le connecteur sur le serveur hébergeant Kimi :Windows
macOS
Linux
2
Pointez le connecteur vers l'API /v1 de votre runtime
vLLM et SGLang exposent une surface compatible OpenAI — typiquement
http://127.0.0.1:8000/v1. Définissez cela comme upstream dans tokios-connector.json — consultez Connector config.3
Enregistrez un déploiement
Dans l’onglet Models, enregistrez le modèle et choisissez un nom de déploiement public, par exemple
kimi-tunnel. Ce nom — pas l’id de modèle upstream — est ce que les clients envoient dans le champ model.4
Créez une clé API
Dans l’onglet Keys, cliquez sur Create key. Copiez la clé
sk-tok-… maintenant — elle n’est affichée qu’une seule fois.Appelez-le depuis n’importe où
Mises en garde
- Kimi K2.x est un MoE de 1T paramètres — tous les billions de paramètres doivent tenir en mémoire même si seuls ~32B sont actifs par token. C’est un modèle pour serveur multi-GPU ou station de travail à grande RAM, pas pour un seul GPU.
- Les tags
kimi-*d’Ollama sont:cloud-uniquement — ils s’exécutent sur l’infrastructure d’Ollama, pas la vôtre. Il n’y a rien de local pour un connecteur ; auto-hébergez avec vLLM/SGLang si vous voulez Kimi sur votre propre matériel. - Kimi est distribué en INT4 natif ; ne convertissez pas vers BF16 pour l’exécuter.
- Les poids de Kimi K3 sont disponibles (publiés le 27 juillet 2026) — la page Kimi K3 couvre les exigences matérielles et ce qu’il faut vérifier avant de l’auto-héberger.
- Moonshot publie fréquemment des versions de Kimi et déprécie les anciennes préversions — confirmez l’id de modèle actuel sur platform.kimi.com/docs/models avant de standardiser.
Kimi K3
Le fleuron frontier de 2.8T : ce qui est disponible maintenant et la réalité matérielle.
Quoi exécuter à la place de K3
K3 ne rentre pas ? Le meilleur modèle pour votre matériel exact, avec le guide de déploiement.
Quelle taille de modèle rentre dans votre GPU ?
Le calcul de dimensionnement derrière pourquoi un MoE de 1T a besoin d’un serveur, pas d’un bureau.
Serveur GPU de homelab
Construire le rig multi-GPU dont un modèle comme Kimi a réellement besoin.
Quel modèle local pour quelle tâche ?
Des modèles plus légers qui s’exécutent sur le matériel que vous possédez déjà.