Dernière vérification : 2026-07-21
9B pouvant s’exécuter sur une seule carte graphique grand public, un modèle de type mélange d’experts comptant 106B composants (GLM-4.5-Air) nécessitant une configuration dotée d’une grande quantité de mémoire vidéo ou d’une mémoire unifiée, le modèle GLM-4.6 — un modèle phare de type mélange d’experts totalisant 357B composants et doté d’un contexte de 200K tokens, requérant un déploiement multi-GPU — ainsi que le modèle de pointe actuel GLM-5.2, un modèle de type mélange d’experts comptant 753B composants et doté d’un contexte de 1M tokens, destiné en réalité à un environnement cloud ou à un serveur multi-GPU, et non à une simple station de travail. Cette page présente d’abord les modèles réellement exécutables en local, puis aborde les modèles plus volumineux destinés à ceux qui souhaitent bénéficier des meilleures capacités de Z.ai, que ce soit via un point de terminaison hébergé ou en auto-hébergeant le modèle. Associez Tokios à l’un de ces modèles afin d’y accéder depuis n’importe quel appareil, collaborateur ou agent hébergé via https://api.tokios.com, sans avoir besoin d’ouvrir de ports entrants ni de recourir à un VPN.
Vous recherchez GLM-5.3 ? Ce modèle a été lancé le 2026-08-14 via l’API de Z.ai ; il repose sur le même modèle de base que GLM-5.2, et ses poids devraient être disponibles environ deux semaines plus tard. Cette page décrit ses caractéristiques matérielles ainsi que les modifications importantes de l’API ; la présente page traite quant à elle des modèles GLM que vous pouvez télécharger et exécuter dès à présent.
Exécutez-le en local via Ollama.
Pour un téléchargement local en une seule commande, optez pour le modèle classique et de petite taille GLM-4.glm4:9b (désigné également sous le nom :latest), soit le modèle dense de Z.ai d’environ 9B poids — c’est le seul identifiant GLM permettant d’installer directement les poids sur votre machine. Consultez la page de la bibliothèque Ollama pour obtenir la liste complète des identifiants.
GLM-4.5-Air and GLM-5.2 are not Ollama local pulls. GLM-5.2 is listed on Ollama only as glm-5.2:cloud, which routes to Z.ai’s hosted infrastructure rather than downloading weights. To run GLM-4.5-Air yourself, use a GGUF build with llama.cpp or LM Studio — see below.Variantes et identifiants
Chacune des valeurs ci-dessous provient de la configuration Hugging Face de chaque modèle ainsi que de la bibliothèque Ollama. Les étiquettes et les tailles de téléchargement évoluent à mesure que de nouvelles quantisations sont publiées — vérifiez les pages liées avant de choisir définitivement un modèle.
Sources : ollama.com/library/glm4, ollama.com/library/glm-5.2, fiche du modèle zai-org/GLM-4.5-Air, fiche du modèle zai-org/GLM-4.6, fiche du modèle zai-org/GLM-5.2, unsloth/GLM-4.5-Air-GGUF, blog Z.ai sur GLM-4.6 (données de juillet 2026).
Quantification et formats
Le modèleglm4:9b d’Ollama est distribué sous forme de GGUF. Pour GLM-4.5-Air, unsloth/GLM-4.5-Air-GGUF propose une gamme complète de niveaux de quantification — allant de Q2_K (environ 45 Go) jusqu’à Q8_0, ainsi que les quantifications dynamiques « UD » d’Unsloth (par exemple UD-Q4_K_XL, d’environ 68 Go) qui offrent une meilleure qualité à même largeur de bits en acceptant un léger accroissement de la taille. Le modèle GLM-4.6 est distribué en version à précision complète safetensors pour l’inférence côté serveur sur plusieurs GPU (vLLM/SGLang) ; sur Hugging Face on trouve également des quantifications communautaires GGUF et AWQ (par exemple bullpoint/GLM-4.6-AWQ, d’environ 176 Go) mais elles restent trop volumineuses pour une utilisation sur une seule station de travail. Le modèle GLM-5.2 est actuellement distribué en version à précision complète safetensors pour l’inférence côté serveur (vLLM/SGLang) ou accessible via un service cloud ; il n’est pas encore possible de le télécharger en version GGUF. Consultez les formats de quantification et leurs exigences matérielles pour en connaître tous les détails, ainsi que ce qu’est la quantification afin de savoir interpréter les noms de type Q4_K_M.
Compatibilité matérielle
Considérez chaque valeur comme une estimation ; la taille réelle correspond à la taille deGGUF plus la mémoire du cache KV nécessaire à votre contexte. Consultez quel modèle convient à votre GPU ? pour les calculs de dimensionnement.
Mise en œuvre — pour débutants comme pour experts
- Ollama (le plus simple)
- LM Studio (interface graphique)
- vLLM (pour experts)
- SGLang (version avancée)
- Ollama Cloud / version hébergée (GLM-5.2)
http://127.0.0.1:11434 par défaut. Il s’agit de glm4:9b — pour GLM-4.5-Air ou GLM-5.2, sélectionnez l’onglet correspondant.Fonctionnalités
- Raisonnement :
GLM-4.5-Air,GLM-4.6etGLM-5.2sont des modèles de raisonnement hybrides ; ils disposent d’un mode de réflexion pour le raisonnement complexe et l’utilisation d’outils, ainsi que d’un mode non réflexif pour des réponses immédiates.GLM-5.2propose en outre des niveaux d’effort de réflexion réglables afin de concilier latence et qualité. Le petit modèleGLM-4(glm4:9b) ne propose pas ce mode de raisonnement hybride. - Appel d’outils natif : Oui, pour
GLM-4.5-Air,GLM-4.6etGLM-5.2. Avec vLLM/SGLang, il faut définir--tool-call-parser glm45(en l’associant à--reasoning-parser glm45) ; Ollama applique automatiquement les modèles appropriés lorsqu’un tag local est présent. - Saisie visuelle :
GLM-4.6accepte à la fois le texte et les images en tant qu’entrées (en juillet 2026, selon le blog de Z.ai). Les autres variantes de GLM ne prennent en charge que le texte. - Programmation et tâches d’agents : C’est là l’objectif principal de cette famille de modèles : Z.ai a conçu GLM pour l’ingénierie d’agents, et la sortie de GLM-5.2 met l’accent sur les flux de travail d’agents de programmation à long terme.
- Contexte étendu :
glm4:9betGLM-4.5-Airgèrent nativement 131,072 tokens (128K).GLM-4.6gère nativement 200,000 tokens (200K). Enfin,GLM-5.2gère nativement 1,048,576 tokens (1M), ce qui le rend adapté aux contextes d’ingénierie à l’échelle de projets ainsi qu’aux séquences d’actions d’agents de longue durée.
Connectez-le à Tokios
Une fois votre modèle GLM en marche — que ce soit localement via Ollama ou en autohébergement pourGLM-4.5-Air/GLM-5.2 — associez le connecteur Tokios afin de pouvoir y accéder sous l’identifiant https://api.tokios.com depuis Claude Code, Cline ou tout autre client compatible, et non uniquement depuis localhost.
1
Associez le connecteur Tokios
Connectez-vous à tokios.com/console, ouvrez l’onglet Setup puis cliquez sur Start pairing pour obtenir un code d’activation unique (Then approve the device on the Setup or Connectors tab.
TKS-XXXX-XXXX). Installez et lancez ensuite le connecteur sur l’ordinateur où votre modèle est exécuté.Windows
macOS
Linux
2
Indiquez au connecteur l’adresse de l’API de votre modèle
Ollama propose une interface compatible OpenAI à l’adresse
/v1. Dans le cas d’un déploiement à un seul modèle, l’assistant de configuration du tableau de bord renseigne automatiquement cette adresse sous la forme http://127.0.0.1:11434/v1. Le serveur local de LM Studio utilise quant à lui http://127.0.0.1:1234/v1. Pour vLLM/SGLang ou plusieurs modèles, il faut définir manuellement l’adresse dans tokios-connector.json — consultez Configuration du connecteur.3
Enregistrez un déploiement
Dans l’onglet Models, enregistrez votre modèle et choisissez un nom de déploiement public, tel que
glm-tunnel. Ce nom — et non l’ID de modèle amont défini par Ollama — est celui que les clients transmettent dans le champ model.4
Créez une clé API
Dans l’onglet Keys, cliquez sur Create key. Copiez alors la clé
sk-tok-… — elle ne s’affiche qu’une seule fois.Appelez ce modèle depuis n’importe quel endroit
Avertissements
GLM-5.2is not a consumer-GPU model, and it is not a single-DGX-Spark model either: at 753B stored parameters the weight floor is roughly 377 GB at INT4 and 753 GB at FP8, against 128 GB per Spark. On Ollama it’sglm-5.2:cloudonly (no weight download), so self-hosting means a multi-GPU server or a 4-Spark cluster. See the DGX Spark compatibility guide for memory sizing. For anything smaller, use a hosted/cloud endpoint.GLM-4.6at 357B total parameters does not fit on a single 128 GB machine (DGX Spark, Strix Halo, or Apple Silicon). AtQ4-class quantization it needs ~178 GB — plan on at least 2 high-VRAM GPUs or a multi-GPU server. For 128 GB hardware, useGLM-4.5-Airinstead.GLM-4.5-Air’sGGUFbuilds need a big-VRAM GPU or a large-unified-memory machine (Apple Silicon, Strix Halo) even atQ4-class quantization — it isn’t a fit for a single 24 GB consumer card.- Le traitement des appels d’outils et du raisonnement dans les modèles
GLM-4.5-Air,GLM-4.6etGLM-5.2dépend du parseurglm45appliqué par le moteur d’exécution. Si vous effectuez un auto-hébergement via vLLM ou SGLang, saisissez impérativement les paramètres indiqués ci-dessus, sinon les appels d’outils et les résultats de raisonnement ne seront pas correctement séparés. - Le modèle petit
glm4:9bne propose pas le mode de raisonnement hybride ni les appels d’outils natifs présents dans les modèlesGLM-4.5-Air,GLM-4.6etGLM-5.2; choisissez donc le niveau adapté à vos besoins fonctionnels, et non uniquement en fonction de la capacité de votre GPU.
Démarrage rapide
Associez un connecteur et enregistrez votre premier modèle dans un processus complet.
Quelle taille de modèle convient à votre GPU ?
Associez la variante GLM à la quantité de mémoire VRAM dont vous disposez avant de procéder au téléchargement.
Quantification et matériel
Quel format parmi
GGUF, safetensors et AWQ proposés par GLM convient le mieux à votre matériel ?Quel modèle local choisir pour quelle tâche ?
Découvrez comment GLM se compare aux autres modèles locaux selon les tâches.
Compatibilité avec DGX Spark
Dimensionnement de la mémoire et configuration du cluster pour GLM-5.2 sur DGX Spark.
GLM-5.3 release watch
Quels éléments de la prochaine version de GLM peuvent être vérifiés, et quels sont les simples rumeurs ?