Skip to main content
Dernière vérification : 2026-08-14
Qwen3.8-27B is released. The weights went live on 2026-08-14 at Hugging Face and ModelScope under Apache-2.0, alongside an official FP8 build. It is a dense 27B native vision-language model — text, image, and video input — with a switchable thinking mode, tunable reasoning depth, and a 262K-token native context extensible to about 1M. This page covers its download, hardware requirements, and local deployment.
Les versions GGUF sont également parues le même jour : unsloth/Qwen3.8-27B-GGUF propose l’ensemble de la gamme de quantifications ainsi que le projecteur visuel, toujours sous licence Apache-2.0. Qwen n’a pas encore publié ses propres fichiers GGUF, et aucune étiquette Ollama n’existe pour le moment.

Qwen3.8-27B release date and status

La période annoncée initialement — la semaine commençant le 2026-08-10 — s’est écoulée sans autre sortie que le modèle phare 2.4T ; le modèle 27B est arrivé le 2026-08-14. Qwen3.8-27B succède localement à Qwen3.6, et conserve sa licence Apache-2.0. Si vous souhaitez utiliser un parcours entièrement validé par Tokios, Qwen3.6 reste le modèle recommandé jusqu’à ce que les commandes testées pour Qwen3.8 soient publiées ici ; si vous préférez vLLM ou SGLang, rien ne vous empêche d’exécuter Qwen3.8-27B dès à présent.

Qwen3.8-27B hardware requirements

Chaque valeur indiquée ci-dessous correspond à une taille de fichier mesurée, et non à une estimation. La version BF16 pèse 55.6 gigaoctets, tandis que la version FP8 officielle pèse 30.9 gigaoctets. Le format Unsloth GGUF propose quant à lui les différentes versions quantifiées, dont la version Q4_K_M qui pèse 17.11 gigaoctets. Ajoutez 0.93 Go pour le connecteur mmproj si vous souhaitez utiliser des images ou des vidéos en entrée — consultez ci-dessous la section sur la vision dans llama.cpp.

Adaptation selon le périphérique

Chaque conclusion ci-dessous suppose un assemblage de type Q4_K_M.

Un DGX Spark peut-il exécuter Qwen3.8-27B ?

Oui, sans aucun problème — un DGX Spark dispose de 128 Go de mémoire unifiée ainsi que d’un GPU Blackwell ; ainsi, même la version non quantifiée de 55.6 Go en format BF16 s’y installe sans difficulté. La version officielle de 30.9 Go en format FP8 laisse quant à elle environ 90 Go disponibles pour le cache KV, indispensable pour gérer un contexte long et plusieurs sessions simultanées. Vous disposez désormais de plusieurs formats parmi lesquels choisir. Le format FP8 via vLLM ou SGLang préserve au mieux la qualité, tandis que le format GGUF de 17.11 Go Q4_K_M généré par llama.cpp laisse plus de 100 Go de mémoire disponible pour le cache KV. Le format NVFP4 serait encore plus efficace, mais aucune version NVFP4 n’a encore été publiée pour ce modèle. Consultez la page Compatibilité des modèles avec DGX Spark pour des réglages adaptés à chaque machine.

Le Strix Halo peut-il exécuter Qwen3.8-27B ?

Yes. AMD Strix Halo can allocate up to 96 GB to the GPU, so even the 55.6 GB BF16 release fits, and the 17.11 GB Q4_K_M GGUF leaves plenty for context. La contrainte principale ici est la bande passante mémoire, et non la capacité totale. Les poids du modèle se chargent sans problème, mais le décodage est plus lent qu’avec une puce graphique dédiée utilisant le même modèle, et le traitement des invites est encore plus lent. Il convient d’utiliser ROCm ou Vulkan ; les articles exécution de vLLM sur Strix Halo et compatibilité des modèles sur Strix Halo décrivent la configuration et les performances mesurées.

Une puce graphique de 24 Go peut-elle exécuter Qwen3.8-27B ?

Oui, et c’est précisément la catégorie de taille pour laquelle ce modèle a été conçu. Une carte RTX 3090 ou 4090 accueille le fichier GGUF de 17.11 Go et Q4_K_M, avec environ 7 Go restants pour le cache KV ; cela convient aux longueurs de contexte courantes, mais devient insuffisant au-delà. Aucune version officielle au format safetensors ne convient à une carte de 24 Go, car le format FP8 occupe 30.9 Go ; le format GGUF reste donc la solution privilégiée. Une carte de 16 Go fonctionne également désormais, que ce soit en configuration Q3_K_M (13.82 Go) ou IQ4_XS (15.71 Go), mais il ne reste guère de marge pour le contexte ou le module de projection visuelle. En dessous de ces seuils, le transfert de données entre CPU et GPU ralentit les performances ; consultez mémoire et transfert de données pour plus de détails. Pour deux cartes ou plus, une configuration en 8 bits sur 48 Go offre de bonnes performances et préserve mieux la qualité qu’une seule carte en Q4 bits. L’article partitionnement des modèles explique comment les moteurs d’exécution répartissent les poids entre les cartes.

Le contexte constitue un budget mémoire distinct.

Les chiffres indiqués ci-dessus concernent uniquement la taille des poids du modèle. Le cache KV s’ajoute ensuite et augmente en fonction de la longueur du contexte et du nombre de requêtes simultanées ; un contexte long peut donc nécessiter plus de mémoire que les poids seuls. Utilisez quel modèle convient à votre puce graphique ? pour dimensionner votre système, et consultez cache KV et contexte pour en comprendre le fonctionnement.
Les tailles indiquées correspondent aux fichiers publiés ; vous pouvez donc vous en servir directement. Elles ne tiennent pas compte du cache KV, qui varie selon la longueur du contexte et le nombre de requêtes, ni du module de projection visuelle de 0.93 Go si vous avez besoin de fonctions d’image.
Pour comparer les cartes entre elles, consultez le guide matériel. Pour savoir comment les formats de poids s’adaptent aux différentes puces, lisez quantification et matériel.

Téléchargement de Qwen3.8-27B et utilisation avec Ollama

Les téléchargements officiels sont disponibles en deux précisions différentes : Les deux versions sont disponibles sur ModelScope. La fiche du modèle décrit son utilisation avec Transformers, vLLM, SGLang et TokenSpeed. Le mode de raisonnement peut être activé ou désactivé selon chaque requête (enable_thinking) ; reasoning_effort accepte les paramètres xhigh, medium ou low. Qwen recommande d’utiliser temperature=1.0, top_p=0.95, top_k=20 avec le raisonnement activé, et temperature=0.7, top_p=0.8, top_k=20, presence_penalty=1.5 lorsqu’il est désactivé.

Format GGUF pour llama.cpp et LM Studio

Qwen n’a pas publié de version GGUF, mais unsloth/Qwen3.8-27B-GGUF est sorti le même jour sous licence Apache-2.0. Cette version propose toute la gamme de quantifications, de IQ2_XXS (9.01 Go) à Q8_0 (29.05 Go), ainsi que le format BF16. Unsloth fournit également les commandes d’exécution correspondantes.
Cette étiquette correspond à la version dynamique de 17.92 Go recommandée ; la version classique Q4_K_M occupe quant à elle 17.11 Go. LM Studio peut charger ces mêmes fichiers.
Aucune étiquette Ollama n’est encore disponible. Une commande telle que ollama run qwen3.8:27b ne fonctionnera pas. Il convient d’utiliser llama.cpp ou LM Studio avec le fichier GGUF mentionné en attendant la sortie d’une version Ollama.

Le traitement d’images requiert le fichier mmproj.

Image and video input is not part of the main weights file. The GGUF repository publishes a separate mmproj-F16.gguf (0.93 GB) projector, and llama.cpp needs it loaded alongside the model for any multimodal request — without it you get a text-only model. Budget that extra gigabyte on top of whichever quantization you pick, and note that the official FP8 and BF16 safetensors releases carry the vision encoder inline instead, so they need no separate file.

Mettez en place un déploiement local

  1. Vérifiez que votre machine dispose de suffisamment d’espace pour les poids et la mémoire contextuelle : 55.6 Go pour BF16, 30.9 Go pour FP8, ou 17.11 Go à Q4_K_M ; ajoutez enfin 0.93 Go si vous comptez utiliser le projecteur d’images.
  2. Choisissez un environnement d’exécution : vLLM, SGLang, TokenSpeed ou Transformers pour les versions safetensors, et llama.cpp ou LM Studio pour le format GGUF. Ollama ne propose pas encore d’étiquette pour ce modèle.
  3. Associez le connecteur Tokios à votre point de terminaison local compatible OpenAI une fois le modèle lancé.
  4. Enregistrez un nom de déploiement dans le tableau de bord. Les clients API utilisent ce nom de déploiement plutôt que l’ID de modèle amont.

Qwen3.8-27B et Qwen3.8-Max

The same announcement covered a second, far larger model — and that one has now shipped. Qwen3.8-2.4T-A95B, the open-weight model behind the hosted Qwen3.8-Max, is live on Hugging Face and ModelScope with a model card, BF16 safetensors, and an official FP8 variant. The model card settles what community reporting could only estimate: a mixture-of-experts model with 2.4T total parameters and 95B activated, a 262K-token native context extensible to about 1M, and — unlike the 27B — text-only input with thinking always on. Vision input, a non-thinking mode, and 1M default context are features of the hosted Qwen3.8-Max API, not of the open weights. The license is Qwen’s custom qwen3.8-max license, not Apache-2.0, so read its terms before commercial use. Il s’agit là de la toute première publication à poids ouverts au niveau Max de Qwen, après les sorties de Qwen3.7-Max et Qwen3.6-Max-Preview, disponibles uniquement via l’API. Ce modèle ne convient toutefois pas à un usage en laboratoire personnel. La répartition des poids est cruciale pour déterminer les besoins matériels. Un modèle dense charge l’ensemble de ses paramètres pour chaque token, de sorte que 27B suit un comportement prévisible : la mémoire utilisée correspond au nombre total de paramètres, tout comme la vitesse de décodage. Pour le modèle 2.4T, seuls 95B de ses paramètres s’activent par token, ce qui limite la charge de calcul malgré la présence de l’ensemble des poids en mémoire. Alibaba propose également ce modèle via ses services hébergés Token Plan, Qoder et QoderWork — consultez l’annonce d’Alibaba lors de la WAIC. Ce type d’accès ne constitue pas un déploiement Tokios ; Tokios sert simplement d’interface pour un modèle que vous exécutez vous-même.

Une unité DGX Spark ou Strix Halo peut-elle exécuter Qwen3.8-Max ?

Non, il ne s’agit pas d’une seule machine, ni même d’un petit cluster. Dans un modèle MoE, tous les poids des experts doivent rester en mémoire, même si seule une fraction s’active par jeton — ici 95B sur 2.4T. Ainsi, la consommation mémoire dépend du nombre total de paramètres et non de ceux actifs. À 4 bits, 2.4T paramètres exigent environ 1.2 téraoctets rien que pour les poids. Il s’agit là uniquement des limites liées au poids des modèles. Le cache KV, les tampons d’exécution et la réserve système s’ajoutent à ces contraintes ; par conséquent, les configurations jugées négligeables sont en pratique inutilisables. Si vous souhaitez déployer un modèle Qwen3.8 chez vous, c’est le 27B qu’il vous faut.
Souhaitez-vous le plus grand modèle Qwen que l’on puisse actuellement exécuter sur une seule machine ? Qwen3.6-35B-A3B est un modèle MoE déjà publié, compatible avec tout système doté d’une mémoire unifiée de 128 Go. Calculez ses dimensions en fonction de la taille totale des poids, et non du nombre de paramètres actifs.

Ce qui reste en attente

La version publiée comprenait la fiche technique du modèle, la licence, les dépôts de code et les tailles de fichiers ; en quelques heures, la communauté a également fourni les versions quantifiées au format GGUF. Deux éléments manquent encore :
  • une étiquette Ollama, qui constitue la voie d’accès la plus simple pour la plupart des installations locales.
  • Des commandes d’exécution testées par Tokios ainsi que des exemples de connecteur seront ajoutés une fois vérifiés.

Questions fréquentes

Tout dépend du format. Le fichier Unsloth GGUF pèse 17.11 Go à Q4_K_M, ce qui permet à une carte mémoire de 24 Go d’en accueillir suffisamment pour le traitement quotidien. Les cartes de 16 Go peuvent quant à elles exécuter le modèle Q3_K_M (13.82 Go) ou le modèle IQ4_XS (15.71 Go). Les versions officielles au format safetensors sont plus volumineuses : 30.9 Go en précision FP8 et 55.6 Go en précision BF16. Il convient d’ajouter 0.93 Go supplémentaires pour le projecteur de vision lorsqu’on utilise le format GGUF.
Les deux modèles sont désormais disponibles. Le modèle phare 2.4T (Qwen/Qwen3.8-2.4T-A95B, ainsi que les versions FP8) a été publié en premier, la semaine du 2026 au 08 et du 10. Le modèle Qwen3.8-27B est arrivé ensuite le 2026-08-14, les dépôts BF16 et FP8 étant désormais accessibles sur Hugging Face et ModelScope.
Size, and therefore who can run it — but also modality and licensing, in the direction you might not expect. The 27B is a dense vision-language model (image and video input, switchable thinking) under Apache-2.0, sized for a single desktop GPU or unified-memory machine. The open-weight Max-class model, Qwen3.8-2.4T-A95B, is a mixture-of-experts model at 2.4T total parameters (95B active) that is text-only with thinking always on, released under a custom license, with a 4-bit weight floor around 1.2 TB — cluster hardware, not homelab. Vision input and 1M default context on the big model belong to the hosted Qwen3.8-Max API built on it.
Le 27B est distribué sous la licence Apache-2.0, une licence très permissive identique à celle de Qwen3.6, parfaitement adaptée à un usage commercial. En revanche, le modèle phare 2.4T utilise la licence personnalisée qwen3.8-max de Qwen, laquelle comporte des conditions différenciées selon l’échelle d’utilisation ; il convient donc de la consulter avant tout déploiement commercial. Deux modèles issus de la même génération mais soumis à des licences distinctes — vérifiez bien celui que vous comptez utiliser.
Non — au moment de la rédaction, ollama run qwen3.8:27b ne fonctionne pas. Des fichiers GGUF sont effectivement disponibles via unsloth/Qwen3.8-27B-GGUF, ce qui permet à llama.cpp et LM Studio d’exécuter le modèle dès à présent. Les versions officielles de Qwen s’exécutent quant à elles sur vLLM ou SGLang. Si vous souhaitez utiliser Ollama, optez pour Qwen3.6 en attendant la publication d’une version Qwen3.8.
Déployez-le localement sur n’importe quel environnement compatible OpenAI, puis associez le connecteur Tokios afin que l’appareil doté de la carte graphique n’ait pas besoin d’ouvrir de ports entrants. Vous appelez https://api.tokios.com en indiquant une clé API sk-tok-… via n’importe quel client compatible OpenAI ou Anthropic, en spécifiant le nom de votre déploiement dans le champ model au lieu de l’ID de modèle amont.

Qwen3.6

Exécutez dès à présent un modèle Qwen local et vérifié.

Adéquation du modèle

Déterminez le modèle ainsi que la taille du contexte que votre matériel peut supporter.

Démarrage rapide

Associez le connecteur et enregistrez un déploiement local.

Quantification et matériel

Comprenez ce que les différents formats de publication d’un modèle impliquent pour votre matériel.