Skip to main content
最終確認日:2026-08-14
Qwen3.8-27B is released. The weights went live on 2026-08-14 at Hugging Face and ModelScope under Apache-2.0, alongside an official FP8 build. It is a dense 27B native vision-language model — text, image, and video input — with a switchable thinking mode, tunable reasoning depth, and a 262K-token native context extensible to about 1M. This page covers its download, hardware requirements, and local deployment.
同日にGGUF版も公開されました。unsloth/Qwen3.8-27B-GGUF では各種量子化レベルやビジョンプロジェクターも含めたモデルがApache-2.0ライセンスの下で提供されています。ただしQwen側が独自に公開したGGUF版はまだ存在せず、Ollama用のタグも現時点では存在しません。

Qwen3.8-27Bのリリース日と状況

当初予定されていた期間は 2026月08日から10日までだったが、実際にリリースされたのは 2.4Tフラッグシップ版のみであった。その後 27B版が 2026月08日から14日にかけて公開された Qwen3.8-27B is the local successor to Qwen3.6, and its Apache-2.0 license carries over. If you need a path this site has already verified end-to-end with Tokios, Qwen3.6 remains that model until the tested Qwen3.8 commands land here; if you are comfortable with vLLM or SGLang, nothing blocks running Qwen3.8-27B today.

Qwen3.8-27Bのハードウェア要件

以下に記載されている数値はすべて実測されたファイルサイズであり、推定値ではありません。BF16リリース版のサイズは 55.6 GB で、公式のFP8ビルド版は 30.9 GB となります。また Unsloth GGUF では量子化済みのモデル群が提供されており、その中でQ4_K_Mのサイズは 17.11 GB です。 Add 0.93 GB for the mmproj projector if you want image and video input — see vision in llama.cpp below.

デバイスごとの適合性

以下の各評価結果はすべて Q4_K_M ビルドを前提としています。

DGX SparkでQwen3.8-27Bを実行することは可能か?

はい、十分な余裕があります。DGX Spark は 128 GBの統合メモリとブラックウェルGPUを備えており、量子化処理を行っていない 55.6 GBサイズのBF16版モデルでも問題なく収まります。また公式の 30.9 GB FP8版モデルでも、長文コンテキスト処理や複数セッションの同時実行に必要となるKVキャッシュ用に約 90 GBの空き容量が確保されます。 今ではフォーマットを選べるようになった。FP8形式を使ってvLLMやSGLangでデプロイすれば品質を最大限に保てる。一方で 17.11 GBのサイズを持つ Q4_K_M GGUF形式をllama.cppで利用すれば、KVキャッシュ用に 100 GBものメモリ領域が残る。NVFP4形式はさらに効率的だが、このモデル向けのNVFP4ビルドはまだ公開されていない。各マシンに合わせた最適化については DGX Sparkモデル互換性 を参照されたい。

Strix HaloではQwen3.8-27Bを実行可能か?

可能です。AMD Strix Haloでは最大で96ギガバイトをGPU用に割り当てられるため、55.6ギガバイトのBF16版でも問題なく動作しますし、17.11ギガバイト版のQ4_K_M GGUFファイルでも十分な余裕が生まれます。 ここでの制約要因はメモリ容量ではなく帯域幅です。重みデータの読み込み自体は問題なく行えますが、同じモデルを搭載した独立型GPUと比べるとデコード速度やプロンプト処理速度は劣ります。ROCmまたはVulkan経由で利用することを推奨します。Strix Halo上でのvLLM実行およびStrix Haloとモデルの互換性のページに設定方法や実測値が記載されています。

Can a 24 GB GPU run Qwen3.8-27B?

はい、これがこのモデルが設計されたサイズクラスです。RTX 3090または4090であれば、17.11ギガバイトのQ4_K_M GGUFファイルを保持でき、さらに7ギガバイトほどの余裕がKVキャッシュ用に確保されます。通常のコンテキスト長であれば問題ありませんが、それ以上になると厳しくなります。公式のSafetensors版はどちらも24ギガバイトのグラフィックカードに直接収まらないため、FP8形式のサイズが30.9ギガバイトにもなることを考えると、ここではGGUF形式が最適な選択肢となります。 現在では16ギガバイトのカードでも利用可能です。Q3_K_M(13.82ギガバイト)またはIQ4_XS(15.71ギガバイト)の構成が可能ですが、コンテキスト用やビジョンプロジェクター用の余裕はほとんどありません。それ以下の容量ではオフロード処理により処理速度が低下します。詳細はメモリとオフロード処理をご覧ください。 複数のカードを使用する場合、8ビット精度で総容量48ギガバイトの構成が最適です。これにより単体カードでQ4ビット精度を実現する場合よりも品質維持が可能です。モデルシャーディングのページにランタイム側での重みデータ分割方法が記載されています。

コンテキスト用メモリは別途確保する必要がある

上記の重みデータ容量はモデル本体のみを対象としています。KVキャッシュはこれに加算され、コンテキスト長や同時処理数に応じて増加します。そのため長いコンテキストを扱う場合、重みデータよりも多くのメモリを消費する可能性があります。ご使用のGPUに適したモデルサイズは?で適切なサイズを確認し、KVキャッシュとコンテキストで仕組みを学んでください。
ここに記載されているのは公開されているファイルサイズです。これらを基に容量を判断してください。ただしKVキャッシュや、ビジョン機能が必要な場合の0.93ギガバイト分のプロジェクター用容量は含まれていません。
各デバイス間の比較についてはハードウェアリファレンスをご覧ください。重みデータ形式とハードウェアの対応関係については量子化とハードウェアを参照してください。

Qwen3.8-27Bのダウンロード方法およびOllamaの利用法

公式ダウンロード用ファイルは二種類の精度で提供されています: 両モデルとも ModelScope 上で公開されている。モデル説明書には Transformers、vLLM、SGLang、TokenSpeed を使ったサービング方法が記載されている。推論時の思考モードはリクエストごとに切り替え可能で、enable_thinking では reasoning_effort が xhigh、medium、low のいずれかを受け付ける。Qwen 側では思考モード有効時は temperature=1.0, top_p=0.95, top_k=20 を、無効時は temperature=0.7, top_p=0.8, top_k=20, presence_penalty=1.5 を利用することを推奨している。

llama.cpp および LM Studio 向けの GGUF 形式

Qwen 側からは GGUF 版が公開されていないが、unsloth/Qwen3.8-27B-GGUF が同日に Apache-2.0 ライセンス下でリリースされた。そこでは IQ2_XXS GB の 9.01 から Q8_0 GB の 29.05 までの各種量子化レベルに加え BF16 版も用意されている。Unsloth ではビルド用の実行コマンドも公開している。
推奨されるのは 17.92 GB サイズの動的ビルド版であり、通常は Q4_K_M GB サイズの 17.11 版が一般的に使われる。LM Studio でも同様のファイルを読み込める。
There is no Ollama tag yet. A guessed command such as ollama run qwen3.8:27b will not work. Use llama.cpp or LM Studio with the GGUF above until an Ollama build appears.

ビジョン機能利用時には mmproj ファイルが必要となる。

画像や動画の入力データはメインの重みファイルには含まれていません。GGUFリポジトリでは mmproj-F16.gguf (0.93 GB) サイズの別途プロジェクターが公開されており、多モーダル処理を行う際にはllama.cppでこのファイルをモデルと共に読み込む必要があります。そうしないとテキストのみ対応のモデルとなってしまいます。ご自身で選んだ量子化レベルに加えてこの余分なギガバイト分の容量も見積もっておきましょう。なお公式のFP8およびBF16形式のSafetensorsリリース版にはビジョンエンコーダーが同梱されているため、別ファイルは不要です。

ローカルでのデプロイ設定を行う

  1. Check that your machine has room for the weights plus context memory — 55.6 GB BF16, 30.9 GB FP8, or 17.11 GB at Q4_K_M, plus 0.93 GB if you need the vision projector.
  2. 実行環境を選択する。safetensors 版では vLLM、SGLang、TokenSpeed、Transformers から選べ、GGUF 版では llama.cpp または LM Studio が利用可能だ。Ollama 用のタグはまだ用意されていない。
  3. モデルが稼働したら Tokios コネクター をローカルの OpenAI 互換エンドポイントと連携させる。
  4. ダッシュボード内で任意のデプロイ名を登録します。 APIクライアントはアップストリームモデルIDではなくこのデプロイ名を利用します。

Qwen3.8-27B と Qwen3.8-Maxの比較

The same announcement covered a second, far larger model — and that one has now shipped. Qwen3.8-2.4T-A95B, the open-weight model behind the hosted Qwen3.8-Max, is live on Hugging Face and ModelScope with a model card, BF16 safetensors, and an official FP8 variant. The model card settles what community reporting could only estimate: a mixture-of-experts model with 2.4T total parameters and 95B activated, a 262K-token native context extensible to about 1M, and — unlike the 27B — text-only input with thinking always on. Vision input, a non-thinking mode, and 1M default context are features of the hosted Qwen3.8-Max API, not of the open weights. The license is Qwen’s custom qwen3.8-max license, not Apache-2.0, so read its terms before commercial use. これにより Qwen3.7-Maxおよび Qwen3.6-Max-Previewが API専用としてリリースされた後、 Qwenの Maxティアで初めて公開されるオープンウェイトモデルとなりました。 ただしホームラボ用途向けのモデルというわけではありません。 各モデルの適切なサイズ選定にはこの違いが重要です。密な構造のモデルでは各トークンごとに全パラメータが読み込まれるため、27Bの場合はメモリ使用量やデコード速度がパラメータ数に比例して予測可能です。一方で2.4Tの場合は各トークンごとに働くパラメータが95B程度しかなく、計算負荷は抑えられますが全重みセットは常にメモリ上に存在する必要があります。 アリババではホスティング型の Token Plan、Qoder、QoderWork製品を通じてもこのモデルを提供しています。詳細は アリババのWAIC発表内容 をご覧ください。ただしホスティング型サービスはTokiosのデプロイメントではなく、Tokiosはあくまで利用者が自ら実行するモデルを支援する仕組みです。

DGX SparkやStrix Halo環境で Qwen3.8-Maxを動かすことは可能でしょうか?

いいえ、単一のマシンでもなければ小規模なクラスターでもありません。MoEモデルでは各エキスパートの重みはすべて常にメモリ上に存在する必要があり、各トークン処理時に活性化するのはごく一部に過ぎません。ここでは 95B が 2.4T の中のごく一部に相当します。そのためメモリ消費量は実際に使用されるパラメータ数ではなく総パラメータ数に比例します。4ビット精度で 2.4T個のパラメータを扱う場合、重みデータだけで 1.2テラバイト ものメモリが必要になります。 これらはあくまで重みデータのみの必要容量だ。KVキャッシュやランタイム用バッファー、システム予約領域も加わるため、実際にはごく限定的な行のみが実用可能と見なせる。自宅で実際に稼働させられるQwen3.8を求めるなら、該当するのは27Bだ。
現在、一台のマシンで稼働可能な最大規模のQwenモデルをお探しですか? Qwen3.6-35B-A3B は公開済みのMoEモデルで、わずか 128 GBの統合メモリしか必要としません。モデルの規模は有効なパラメータ数ではなく総重量で決定されます。

未解決の課題

今回のリリースではモデルカードやライセンス、リポジトリ情報、ファイルサイズの詳細が公開され、コミュニティのメンバーが作成した GGUF 形式のファイルにより量子化バージョン群も数時間以内に揃った。ただし依然として二つの課題が残っている:
  • まずOllama用タグの提供だ。これがほとんどのローカル環境での導入に最も簡単な手段となる。
  • Tokiosで検証済みのランタイムコマンドやコネクターの使用例です。検証が完了次第追加される予定です。

よくある質問

Depends on the format. The Unsloth GGUF is 17.11 GB at Q4_K_M, which a 24 GB card holds with room for everyday context, and 16 GB cards can run Q3_K_M (13.82 GB) or IQ4_XS (15.71 GB). The official safetensors releases are larger: 30.9 GB at FP8 and 55.6 GB at BF16. Add 0.93 GB for the vision projector when using GGUF.
Both are out. The 2.4T flagship (Qwen/Qwen3.8-2.4T-A95B, plus FP8) shipped first, in the week of 2026-08-10. Qwen3.8-27B followed on 2026-08-14, with BF16 and FP8 repositories live on Hugging Face and ModelScope.
Size, and therefore who can run it — but also modality and licensing, in the direction you might not expect. The 27B is a dense vision-language model (image and video input, switchable thinking) under Apache-2.0, sized for a single desktop GPU or unified-memory machine. The open-weight Max-class model, Qwen3.8-2.4T-A95B, is a mixture-of-experts model at 2.4T total parameters (95B active) that is text-only with thinking always on, released under a custom license, with a 4-bit weight floor around 1.2 TB — cluster hardware, not homelab. Vision input and 1M default context on the big model belong to the hosted Qwen3.8-Max API built on it.
The 27B ships under Apache-2.0 — the same permissive license as Qwen3.6, fine for commercial use. The 2.4T flagship instead uses Qwen’s custom qwen3.8-max license with scale-tiered terms, so read it before commercial deployment. Same generation, two different licenses — check the model you actually plan to run.
No — ollama run qwen3.8:27b will not work at the time of writing. GGUF files do exist via unsloth/Qwen3.8-27B-GGUF, so llama.cpp and LM Studio can run the model today, and Qwen’s own releases run on vLLM or SGLang. If you specifically want Ollama, use Qwen3.6 until a Qwen3.8 tag lands.
任意のOpenAI互換ランタイム上でローカルにサービスをデプロイし、Tokiosコネクターを設定すれば、GPUを搭載したマシン側で受信用ポートを開く必要がなくなります。任意のOpenAIまたはAnthropic互換クライアントからhttps://api.tokios.comを呼び出す際には、sk-tok-…というAPIキーを使用し、アップストリームモデルIDの代わりにmodelフィールドにデプロイ名を指定します。

Qwen3.6

今すぐ検証済みのローカルQwenモデルを実行してみましょう。

モデルの適合性

ご使用のハードウェアで扱えるモデルとコンテキストサイズを見積もります。

クイックスタート

コネクターを設定し、ローカルデプロイを登録します。

量子化とハードウェア

モデルのリリース形式がご使用のハードウェアに与える影響について学びましょう。