Skip to main content
Letzte Überprüfung: 2026-08-14
Qwen3.8-27B ist nun verfügbar. Die Gewichte wurden am 2026-08-14 auf Hugging Face sowie ModelScope unter der Apache-2.0-Lizenz veröffentlicht; zudem liegt ein offizieller FP8-Build vor. Es handelt sich dabei um ein dichtes 27B natives Vision-Sprach-Modell, das Text, Bilder und Videos verarbeiten kann. Es bietet einen umschaltbaren Denkmodus, eine anpassbare Tiefe der Schlussfolgerungen sowie einen nativen Kontextumfang von 262K Token, der sich auf etwa 1M erweitern lässt. Auf dieser Seite erfahren Sie alles zu dessen Download, den Hardware-Anforderungen sowie der lokalen Deployment-Möglichkeit.
Am selben Tag erschienen auch die GGUF-Versionen: Auf unsloth/Qwen3.8-27B-GGUF finden sich sämtliche Quantisierungsstufen samt dem Bildprojektor – ebenfalls unter Apache-2.0. Qwen selbst hat bislang keine eigenen GGUF-Dateien veröffentlicht; ein Ollama-Tag existiert nach wie vor nicht.

​
Qwen3.8-27B release date and status

Der ursprünglich angekündigte Zeitraum – die Woche ab 2026-08-10 – verging, wobei lediglich das 2.4T-Flaggschiff veröffentlicht wurde; das 27B folgte am 2026-08-14. Qwen3.8-27B ist der lokale Nachfolger von Qwen3.6; die Apache-2.0-Lizenz bleibt bestehen. Falls Sie einen von Tokios vollständig getesteten Weg benötigen, bleibt Qwen3.6 das gewählte Modell, bis die geprüften Befehle für Qwen3.8 hier verfügbar sind. Wer mit vLLM oder SGLang vertraut ist, kann Qwen3.8-27B bereits heute einsetzen.

​
Qwen3.8-27B hardware requirements

Jede der unten aufgeführten Angaben bezieht sich auf gemessene Dateigrößen und nicht auf Schätzwerte. Die BF16-Version umfasst 55.6 GB, während der offizielle FP8-Build 30.9 GB groß ist; das Unsloth GGUF stellt die quantisierten Varianten bereit, wobei die Größe von Q4_K_M bei 17.11 GB liegt. Fügen Sie 0.93 GB für den mmproj-Projektor hinzu, falls Sie Bild- und Videoeingabe benötigen – siehe dazu unten Vision in llama.cpp.

​
Anpassung pro Gerät

Alle nachfolgenden Bewertungen setzen eine Q4_K_M-Version voraus.

​
Kann ein DGX Spark Qwen3.8-27B ausführen?

Ja, sogar mit viel Spielraum – ein DGX Spark verfügt über 128 GB einheitlichen Speicher sowie einen Blackwell-GPU, wodurch selbst die unquantisierte 55.6 GB große BF16-Version problemlos läuft. Die offizielle 30.9 GB große FP8-Version lässt zudem noch etwa 90 GB für den KV-Cache übrig, der für lange Kontexte sowie gleichzeitige Sitzungen erforderlich ist. Nun stehen mehrere Formate zur Auswahl. FP8 über vLLM oder SGLang bewahrt die höchste Qualität, während die 17.11 GB große Q4_K_M GGUF-Version via llama.cpp über 100 GB des gemeinsamen Speichers für den KV-Cache nutzen kann. NVFP4 wäre noch effizienter, doch bislang existiert keine NVFP4-Version für dieses Modell. Weitere Informationen zu maschinenbezogener Optimierung finden Sie unter DGX Spark Modellkompatibilität.

​
Kann Strix Halo Qwen3.8-27B ausführen?

Ja. AMD Strix Halo kann bis zu 96 GB an den GPU-Speicher zuweisen; somit passt sogar die 55.6 GB große BF16-Version sowie die 17.11 GB große Q4_K_M GGUF-Datei, wobei noch ausreichend Speicher für den Kontext verbleibt. Die entscheidende Einschränkung ist hier die Speicherbandbreite, nicht die Kapazität. Die Gewichte laden problemlos, doch die Decodierung verläuft langsamer als bei einer dedizierten GPU mit demselben Modell; ebenso ist die Verarbeitung von Eingaben langsamer. Nutzen Sie ROCm oder Vulkan – die Artikel vLLM auf Strix Halo ausführen sowie Kompatibilität von Modellen mit Strix Halo erläutern die Einrichtung und gemessenen Leistungswerte.

​
Kann eine GPU mit 24 GB Speicher Qwen3.8-27B betreiben?

Ja, und genau für diese Größenklasse wurde das Modell entwickelt. Eine RTX 3090 oder 4090 verarbeitet problemlos die 17.11 GB große Q4_K_M GGUF-Datei, wobei noch etwa 7 GB für den KV-Cache übrig bleiben – ausreichend für übliche Kontextlängen, darüber hinaus wird es knapp. Keine der offiziellen safetensors-Versionen passt direkt auf eine Karte mit 24 GB Speicher, da FP8 bereits 30.9 GB beansprucht; daher ist GGUF die geeignete Wahl. Auch eine Karte mit 16 GB Speicher funktioniert mittlerweile, und zwar bei Q3_K_M (13.82 GB) bzw. IQ4_XS (15.71 GB); allerdings bleibt kaum noch Speicher für Kontext oder den Vision-Connector übrig. Bei geringerer Kapazität sinkt die Leistung durch Offloading; siehe dazu Speicherverwaltung und Offloading. Bei zwei oder mehr Grafikkarten ist eine 8-Bit-Deployment über 48 GB Speicherplatz ideal; dabei bleibt die Bildqualität höher als bei einer einzelnen Karte mit Q4. Unter Model sharding wird erläutert, wie Laufzeiten die Modellgewichte aufteilen.

​
Der Kontextspeicher stellt ein eigenständiges Ressourcenbudget dar.

Die oben genannten Speicherwerte beziehen sich ausschließlich auf das Modell. Der KV-Cache kommt zusätzlich hinzu und wächst mit der Kontextlänge sowie der Anzahl paralleler Anfragen; ein langer Kontext kann somit mehr Speicher benötigen als die Gewichte selbst. Ermitteln Sie die passende Größe mittels Welches Modell passt zu meiner GPU? und lesen Sie KV-Cache und Kontext zu den zugrundeliegenden Mechanismen.
Es handelt sich um veröffentlichte Dateigrößen, die Sie direkt nutzen können. Nicht berücksichtigt werden der KV-Cache, der mit Kontextlänge und Parallelität wächst, sowie der optional erforderliche 0.93 GB große Vision-Connector.
Für detaillierte Hardware-Vergleiche siehe die Hardware-Referenz. Wie Gewichtsformate auf Hardware abgebildet werden, erläutert Quantisierung und Hardware.

​
Download von Qwen3.8-27B sowie Nutzung mit Ollama

Die offiziellen Downloads stehen in zwei Präzisionsvarianten zur Verfügung: Beide Versionen sind auf ModelScope verfügbar. Die Modellbeschreibung erläutert die Nutzung mittels Transformers, vLLM, SGLang sowie TokenSpeed. Die Denkfunktion lässt sich pro Anfrage aktivieren bzw. deaktivieren (enable_thinking); dabei akzeptiert reasoning_effort die Formate xhigh, medium oder low. Qwen empfiehlt temperature=1.0, top_p=0.95, top_k=20 bei aktivierter Denkfunktion sowie temperature=0.7, top_p=0.8, top_k=20, presence_penalty=1.5 bei deaktivierter Funktion.

​
GGUF-Format für llama.cpp und LM Studio

Qwen stellte kein eigenes GGUF bereit; stattdessen erschien am selben Tag unsloth/Qwen3.8-27B-GGUF unter der Apache-2.0-Lizenz. Es umfasst alle Varianten von IQ2_XXS (9.01 GB) bis Q8_0 (29.05 GB) sowie BF16. Unsloth stellt zudem die Ausführbefehle für diese Builds bereit.
Dieses Tag bezeichnet den dynamischen Build mit 17.92 GB Speicherplatz, den sie empfehlen; der gewöhnliche Build mit Q4_K_M und 17.11 GB ist die übliche Wahl. LM Studio kann ebenfalls diese Dateien laden.
Es existiert noch kein Ollama-Tag. Ein manuell erstellter Befehl wie ollama run qwen3.8:27b funktioniert nicht. Bitte verwenden Sie bis zur Verfügbarkeit eines Ollama-Builds llama.cpp oder LM Studio mit dem oben genannten GGUF-Format.

​
Für die Bildverarbeitung ist die mmproj-Datei erforderlich.

Bild- und Videodaten gehören nicht zum Hauptgewichtungsdatei-Set. Im GGUF-Repository ist ein separates mmproj-F16.gguf (0.93 GB)-Projektor-Modul verfügbar; llama.cpp benötigt dieses zusätzlich zum Hauptmodell bei jeder multimodalen Anfrage – andernfalls erhalten Sie lediglich ein Textmodell. Planen Sie also zusätzlichen Speicherplatz ein; die offiziellen FP8- und BF16-Safetensors-Versionen enthalten den Vision-Encoder bereits, sodass kein separates Modul nötig ist.

​
Richten Sie eine lokale Deployment-Umgebung ein.

  1. Prüfen Sie, ob Ihr System genügend Speicherplatz bietet: 55.6 GB für BF16, 30.9 GB für FP8 oder 17.11 GB bei Q4_K_M; zusätzlich sind 0.93 GB erforderlich, falls der Vision-Projector genutzt werden soll.
  2. Wählen Sie eine Laufzeitumgebung: vLLM, SGLang, TokenSpeed oder Transformers für Safetensors-Dateien; für GGUF-Dateien eignen sich llama.cpp und LM Studio. Ollama bietet bislang keinen Tag für dieses Modell an.
  3. Verknüpfen Sie nach dem Start des Modells den Tokios Connector mit Ihrem lokalen OpenAI-kompatiblen Endpunkt.
  4. Tragen Sie einen Namen für die Deployment im Dashboard ein. API-Clients nutzen diesen Deployment-Namen statt der Upstream-Modell-ID.

​
Qwen3.8-27B im Vergleich zu Qwen3.8-Max

The same announcement covered a second, far larger model — and that one has now shipped. Qwen3.8-2.4T-A95B, the open-weight model behind the hosted Qwen3.8-Max, is live on Hugging Face and ModelScope with a model card, BF16 safetensors, and an official FP8 variant. The model card settles what community reporting could only estimate: a mixture-of-experts model with 2.4T total parameters and 95B activated, a 262K-token native context extensible to about 1M, and — unlike the 27B — text-only input with thinking always on. Vision input, a non-thinking mode, and 1M default context are features of the hosted Qwen3.8-Max API, not of the open weights. The license is Qwen’s custom qwen3.8-max license, not Apache-2.0, so read its terms before commercial use. Damit handelt es sich um die erste offen zugängliche Veröffentlichung aus Qwens Max-Kategorie; zuvor erschienen lediglich Qwen3.7-Max sowie Qwen3.6-Max-Preview ausschließlich als API-Versionen. Dennoch eignet sich dieses Modell nicht für Heimlabor-Einsätze. Die Aufteilung ist entscheidend für die Dimensionierung. Ein dichtes Modell lädt bei jedem Token alle Parameter; daher verhält sich 27B vorhersagbar: Der Speicherbedarf entspricht der Anzahl der Parameter, ebenso die Decodiergeschwindigkeit. Beim 2.4T ist es genau umgekehrt – pro Token aktivieren sich lediglich 95B der Parameter, wodurch der Rechenaufwand überschaubar bleibt, obwohl das gesamte Gewichtsset im Speicher vorhanden sein muss. Alibaba stellt das Modell zudem über seine gehosteten Produkte Token Plan, Qoder sowie QoderWork bereit – siehe Alibabas WAIC-Ankündigung. Der gehostete Zugriff stellt jedoch keine Tokios-Deployment dar; Tokios dient lediglich als Schnittstelle für ein von Ihnen betriebenes Modell.

​
Können DGX Spark oder Strix Halo das Modell Qwen3.8-Max ausführen?

Nein – weder handelt es sich um ein einzelnes Gerät noch um ein kleines Cluster. Bei einem MoE-Modell müssen alle Expertengewichte stets im Speicher verfügbar sein, obwohl pro Token nur ein Bruchteil aktiv wird – in diesem Fall 95B von insgesamt 2.4T. Folglich wächst der Speicherbedarf mit der Gesamtzahl der Parameter und nicht mit der Anzahl der aktiven Parameter. Bei einer Speicherbreite von 4 Bit benötigen 2.4T Parameter allein für die Gewichte etwa 1.2 Terabyte. Es handelt sich dabei lediglich um Mindestanforderungen hinsichtlich der Modellgewichte. Der KV-Cache, Laufzeit-Puffer sowie Systemreserven kommen zusätzlich hinzu; daher sind die unbedeutenden Angaben in der Praxis nicht nutzbar. Falls Sie ein Qwen3.8-Modell suchen, das Sie zu Hause betreiben können, ist dies die Wahl mit 27B.
Möchten Sie das größte Qwen-Modell, das heutzutage auf einem einzigen Rechner laufen kann? Qwen3.6-35B-A3B ist ein bereits veröffentlichtes MoE-Modell, das auf einem System mit insgesamt 128 GB gemeinsamem Speicher läuft. Berechnen Sie die Größe anhand der Gesamtgewichtsmenge, nicht der aktiven Parameter.

​
Was noch aussteht

Das Release lieferte die Modellbeschreibung, Lizenz, Repositories sowie Dateigrößen; die Community erstellte innerhalb weniger Stunden die Quantisierungsstufen im GGUF-Format. Zwei Punkte bleiben jedoch offen:
  • Ein Ollama-Tag, welches für die meisten lokalen Deployment-Szenarien der einfachste Einstiegspunkt ist.
  • Hier finden Sie getestete Laufzeitbefehle für Tokios sowie Beispiele für den Connector; diese werden nach erfolgter Prüfung hinzugefügt.

​
Häufig gestellte Fragen

Depends on the format. The Unsloth GGUF is 17.11 GB at Q4_K_M, which a 24 GB card holds with room for everyday context, and 16 GB cards can run Q3_K_M (13.82 GB) or IQ4_XS (15.71 GB). The official safetensors releases are larger: 30.9 GB at FP8 and 55.6 GB at BF16. Add 0.93 GB for the vision projector when using GGUF.
Beide Versionen sind bereits erhältlich. Das 2.4T-Flaggschiff-Modell (Qwen/Qwen3.8-2.4T-A95B sowie FP8) erschien zuerst in der Woche vom 2026-08-10. Qwen3.8-27B folgte am 2026-08-14; die Repositories für BF16 und FP8 sind nun auf Hugging Face sowie ModelScope verfügbar.
Size, and therefore who can run it — but also modality and licensing, in the direction you might not expect. The 27B is a dense vision-language model (image and video input, switchable thinking) under Apache-2.0, sized for a single desktop GPU or unified-memory machine. The open-weight Max-class model, Qwen3.8-2.4T-A95B, is a mixture-of-experts model at 2.4T total parameters (95B active) that is text-only with thinking always on, released under a custom license, with a 4-bit weight floor around 1.2 TB — cluster hardware, not homelab. Vision input and 1M default context on the big model belong to the hosted Qwen3.8-Max API built on it.
Das 27B wird unter Apache-2.0 veröffentlicht – derselbe liberale Lizenztyp wie bei Qwen3.6, der auch kommerzielle Nutzung erlaubt. Das 2.4T-Flaggschiff-Modell unterliegt hingegen Qwen’s eigenem qwen3.8-max-Lizenzsystem mit skalierbaren Bedingungen; lesen Sie diese vor einer kommerziellen Deployment sorgfältig durch. Zwei Modelle derselben Generation, zwei unterschiedliche Lizenzen – prüfen Sie stets, welches Modell Sie einsetzen wollen.
No — ollama run qwen3.8:27b will not work at the time of writing. GGUF files do exist via unsloth/Qwen3.8-27B-GGUF, so llama.cpp and LM Studio can run the model today, and Qwen’s own releases run on vLLM or SGLang. If you specifically want Ollama, use Qwen3.6 until a Qwen3.8 tag lands.
Starten Sie eine lokale Deployment-Instanz auf einem beliebigen OpenAI-kompatiblen Runtime-System und verknüpfen Sie anschließend den Tokios Connector. Dadurch benötigt der Rechner mit der GPU keine eingehenden Ports. Sie rufen https://api.tokios.com mithilfe eines sk-tok-…-API-Schlüssels über jeden OpenAI- oder Anthropic-kompatiblen Client auf und geben dabei den Namen Ihrer Deployment-Instanz im Feld model an, anstatt die Upstream-Modell-ID zu verwenden.

Qwen3.6

Starten Sie noch heute ein überprüftes lokales Qwen-Modell.

Modellkompatibilität

Ermitteln Sie, welche Modell- und Kontextgrößen Ihre Hardware verarbeiten kann.

Schnellstart

Verknüpfen Sie den Connector und registrieren Sie eine lokale Deployment-Instanz.

Quantisierung und Hardware

Erfahren Sie, welche Bedeutung die veröffentlichten Modellformate für Ihre Hardware haben.