Skip to main content
最后验证日期：2026-08-14
Qwen3.8-27B is released. The weights went live on 2026-08-14 at Hugging Face and ModelScope under Apache-2.0, alongside an official FP8 build. It is a dense 27B native vision-language model — text, image, and video input — with a switchable thinking mode, tunable reasoning depth, and a 262K-token native context extensible to about 1M. This page covers its download, hardware requirements, and local deployment.
同期发布的还有 GGUF 格式版本：unsloth/Qwen3.8-27B-GGUF 提供了完整的量化版本序列以及视觉投影模块，同样采用 Apache-2.0 许可协议。目前 Qwen 官方尚未发布专属的 GGUF 版本，且 目前仍无 Ollama 相关标签。

​
Qwen3.8-27B的发布日期与当前状态

最初公布的发布窗口为 2026 月 08 日至 10 日，期间仅推出了 2.4T旗舰版本；随后 27B 版本于 2026 月 08 日至 14 日期间发布。 Qwen3.8-27B is the local successor to Qwen3.6, and its Apache-2.0 license carries over. If you need a path this site has already verified end-to-end with Tokios, Qwen3.6 remains that model until the tested Qwen3.8 commands land here; if you are comfortable with vLLM or SGLang, nothing blocks running Qwen3.8-27B today.

​
Qwen3.8-27B的硬件配置要求

下文所列数值均为实际测量所得的文件大小，并非预估值。BF16版本的文件大小为 55.6 GB，官方FP8版本则为 30.9 GB；Unsloth提供的GGUF版本包含多种量化等级，其中 Q4_K_M 量化等级对应的文件大小是 17.11 GB。 Add 0.93 GB for the mmproj projector if you want image and video input — see vision in llama.cpp below.

​
依据设备适配

下文中的所有结论均基于 Q4_K_M 版本的构建环境。

​
DGX Spark 平台能否运行 Qwen3.8-27B 模型呢？

完全可以且还有富余空间——DGX Spark 平台整合了 128 GB 的统一内存与 Blackwell GPU，即便是未经过量化处理的 55.6 GB BF16 版本模型也能顺利运行；而官方发布的 30.9 GB FP8 版本模型也预留了约 90 GB 的显存空间供 KV 缓存使用，这正是处理超长上下文及多任务并发场景所必需的资源。 目前您可自由选择模型格式：选用 FP8 格式并通过 vLLM 或 SGLang 工具部署可最大程度保留模型质量；若选择 17.11 GB 容量的 Q4_K_M GGUF 格式并通过 llama.cpp 工具部署，则仍有超过 100 GB 的显存空间可供 KV 缓存使用。NVFP4 格式效率更高，但目前尚未发布适用于该模型的 NVFP4 版本。关于各硬件平台的适配细节，请参阅 DGX Spark 模型兼容性说明。

​
Strix Halo 能够运行 Qwen3.8-27B 吗？

可以。AMD Strix Halo 最多可为 GPU 分配 96 GB 内存，因此即便是需要 55.6 GB 内存的 BF16 版本也能顺利运行；而 17.11 GB 大小的 Q4_K_M 格式文件也留有充足空间供上下文处理使用。 此处的主要限制因素是内存带宽而非容量。模型权重可正常加载，但解码速度略逊于搭载相同模型的独立 GPU，提示词处理速度差距则更为明显。建议通过 ROCm 或 Vulkan 接口运行相关程序；关于具体设置与实测表现，可参阅 在 Strix Halo 上运行 vLLM 以及 Strix Halo 的模型兼容性说明。

​
仅有 24 GB 显存的 GPU 能够运行 Qwen3.8-27B 吗？

没错，这正是该模型所适配的尺寸规格。一块 RTX 3090 或 4090 显卡能够承载容量约为 17.11 GB 的 Q4_K_M GGUF 文件，还能留出约 7 GB 的空间用于 KV 缓存，这足以应对常规长度的上下文处理需求；若上下文更长则会有些吃力。目前官方发布的 safetensors 格式文件均无法直接运行在 24 GB 显存的显卡上，因为 FP8 格式的模型体积高达 30.9 GB，因此使用 GGUF 格式才是最佳选择。 如今 16 GB 显存的显卡也能运行相关模型，在配置为 Q3_K_M（即 13.82 GB 显存）或 IQ4_XS（即 15.71 GB 显存）的情况下效果尚可，不过留给上下文处理或视觉投影模块的空间已所剩无几。若显存容量低于此数值，则会导致运行效率显著下降，详情可参阅 内存与显存卸载机制说明。 若需使用两块或更多显卡，配置 8 位量化格式且总显存容量达 48 GB 的方案效果更佳，其模型还原度也优于仅使用单块显卡且采用 Q4 位量化格式的方案。关于运行时环境如何分配模型权重，可参阅 模型分片机制说明。

​
上下文处理所需的内存资源属于独立的预算范畴。

上文提及的模型文件体积仅指模型本身的大小，实际使用时还需额外分配空间用于 KV 缓存，该缓存容量会随上下文长度及并发处理量增加而上升，因此处理长上下文时所需内存可能超出模型本身的体积。可借助 如何根据显卡配置选择适配的模型？ 工具确定合适的模型规格，也可查阅 KV 缓存与上下文处理机制说明 以深入了解相关原理。
上述数值均为公开公布的模型文件体积，可直接作为参考依据。不过这些数据并未计入随上下文长度及并发量增加的 KV 缓存体积，若需启用视觉功能，还需额外预留 0.93 GB 空间用于视觉投影模块的运行。
如需了解各硬件设备的性能对比情况，可查阅 硬件参考指南；关于不同模型权重格式与硬件的适配关系，可参阅 量化技术及其硬件适配说明。

​
Qwen3.8-27B 的下载方式及 Ollama 相关说明

官方下载包现已提供两种精度版本： 这两个模型均已在 ModelScope 上架。相关模型说明文档详细介绍了如何通过 Transformers、vLLM、SGLang 以及 TokenSpeed 来部署这些模型。每次请求均可单独开启或关闭思考模式（enable_thinking），其中 reasoning_effort 支持 xhigh、medium 或 low 格式；Qwen 建议开启思考模式时选用 temperature=1.0, top_p=0.95, top_k=20，关闭时则使用 temperature=0.7, top_p=0.8, top_k=20, presence_penalty=1.5。

​
适用于 llama.cpp 与 LM Studio 的 GGUF 格式

虽然 Qwen 官方并未发布 GGUF 版本，但 unsloth/Qwen3.8-27B-GGUF 在同日以 Apache-2.0 许可发布了相应文件。该版本包含从 IQ2_XXS（大小为 9.01 GB）到 Q8_0（大小为 29.05 GB）的全系列量化版本，还包含 BF16 格式。Unsloth 还提供了对应的运行指令说明。
该标签对应的即为 Unsloth 推荐的 17.92 GB 动态构建版本；而普通的 Q4_K_M 版本大小为 17.11 GB，属于常规选择。LM Studio 同样能够加载这些文件。
目前尚未发布 Ollama 专用标签。 自行尝试输入类似 ollama run qwen3.8:27b 的命令是无法运行的。在 Ollama 发布对应版本之前，请使用 llama.cpp 或 LM Studio 配合上述 GGUF 文件进行部署。

​
视觉功能需要搭配 mmproj 文件方可使用

Image and video input is not part of the main weights file. The GGUF repository publishes a separate mmproj-F16.gguf (0.93 GB) projector, and llama.cpp needs it loaded alongside the model for any multimodal request — without it you get a text-only model. Budget that extra gigabyte on top of whichever quantization you pick, and note that the official FP8 and BF16 safetensors releases carry the vision encoder inline instead, so they need no separate file.

​
进行本地部署设置

  1. 请确认您的设备具备足够的存储空间来容纳模型权重及上下文内存：需要 55.6 GB 的 BF16 格式存储容量、30.9 GB 的 FP8 格式存储容量，或者 17.11 GB 的 Q4_K_M 格式存储容量；若还需使用视觉投影功能，则另需 0.93 GB 的存储空间。
  2. 请根据需求选择运行环境：若使用 safetensors 格式文件，可选取 vLLM、SGLang、TokenSpeed 或 Transformers；若选用 GGUF 格式，则推荐 llama.cpp 或 LM Studio。目前 Ollama 尚未发布该模型的专用标签。
  3. 待模型成功运行后，将 Tokios 连接器 与您本地的 OpenAI 兼容端点进行配对即可。
  4. Register a deployment name in the dashboard. API clients use that deployment name, not the upstream model id.

​
Qwen3.8-27B 与 Qwen3.8-Max 的对比

The same announcement covered a second, far larger model — and that one has now shipped. Qwen3.8-2.4T-A95B, the open-weight model behind the hosted Qwen3.8-Max, is live on Hugging Face and ModelScope with a model card, BF16 safetensors, and an official FP8 variant. The model card settles what community reporting could only estimate: a mixture-of-experts model with 2.4T total parameters and 95B activated, a 262K-token native context extensible to about 1M, and — unlike the 27B — text-only input with thinking always on. Vision input, a non-thinking mode, and 1M default context are features of the hosted Qwen3.8-Max API, not of the open weights. The license is Qwen’s custom qwen3.8-max license, not Apache-2.0, so read its terms before commercial use. 继 Qwen3.7-Max 与 Qwen3.6-Max-Preview 仅以 API 形式发布后，该模型成为 Qwen 旗下首个在 Max 层级发布的开放权重模型。不过它并不适合个人实验室环境使用。 这种区分对确定所需资源规模至关重要。密集型模型在处理每个令牌时都会加载全部参数，因此 27B 的表现十分稳定：内存占用与参数数量成正比，解码速度也受其影响。而 2.4T 则相反——每个令牌仅激活 95B 比例的参数，这样既能控制计算量，又能确保完整权重集始终驻留在内存中。 Alibaba also serves the model through its hosted Token Plan, Qoder, and QoderWork products — see Alibaba’s WAIC announcement. Hosted access is not a Tokios deployment; Tokios fronts a model you run.

​
DGX Spark 或 Strix Halo 能否运行 Qwen3.8-Max？

不行——既无法仅靠单台机器实现，小集群也做不到。在混合专家模型中，即便每个令牌仅激活部分专家，所有专家的权重都必须常驻内存——此处激活比例仅为 95B 占 2.4T。因此内存需求取决于模型总参数量而非实际活跃参数。以 4 比特精度计算，拥有 2.4T 参数的模型仅权重部分就需要约 1.2 TB 的存储空间。 上述数值仅为权重占用空间。实际使用时还需考虑键值缓存、运行时缓冲区以及系统预留空间，因此那些信息极少的条目实际上不可使用。若想在家中部署 Qwen3.8 模型，选择 27B 版本最为合适。
想要在当前单台机器上部署规模最大的 Qwen 模型吗？Qwen3.6-35B-A3B 是一款已发布的混合专家模型，能够适配单台 128 GB 统一内存的设备。计算所需容量时应依据权重总大小而非活跃参数数量。

​
尚待完善之处

此次发布提供了模型说明文档、许可证、代码仓库及文件大小信息，社区也迅速制作出了对应的 GGUF 量化版本。目前仍有两个缺口：
  • 缺少 Ollama 标签，而该标签是大多数本地部署用户最简便的入门途径。
  • 经过 Tokios 测试的运行命令与连接器示例，待验证后会予以添加。

​
常见问题

Depends on the format. The Unsloth GGUF is 17.11 GB at Q4_K_M, which a 24 GB card holds with room for everyday context, and 16 GB cards can run Q3_K_M (13.82 GB) or IQ4_XS (15.71 GB). The official safetensors releases are larger: 30.9 GB at FP8 and 55.6 GB at BF16. Add 0.93 GB for the vision projector when using GGUF.
Both are out. The 2.4T flagship (Qwen/Qwen3.8-2.4T-A95B, plus FP8) shipped first, in the week of 2026-08-10. Qwen3.8-27B followed on 2026-08-14, with BF16 and FP8 repositories live on Hugging Face and ModelScope.
Size, and therefore who can run it — but also modality and licensing, in the direction you might not expect. The 27B is a dense vision-language model (image and video input, switchable thinking) under Apache-2.0, sized for a single desktop GPU or unified-memory machine. The open-weight Max-class model, Qwen3.8-2.4T-A95B, is a mixture-of-experts model at 2.4T total parameters (95B active) that is text-only with thinking always on, released under a custom license, with a 4-bit weight floor around 1.2 TB — cluster hardware, not homelab. Vision input and 1M default context on the big model belong to the hosted Qwen3.8-Max API built on it.
该 27B 遵循 Apache-2.0 许可协议发布，此协议与 Qwen3.6 所用许可相同且十分宽松，允许商业用途。而 2.4T 旗舰版则采用 Qwen 定制的 qwen3.8-max 许可协议，其中规定了不同使用规模下的条款限制，因此在进行商业部署前务必详细阅读。两款模型虽属同一代产品，却适用不同许可协议，请务必确认你计划实际运行的模型类型。
No — ollama run qwen3.8:27b will not work at the time of writing. GGUF files do exist via unsloth/Qwen3.8-27B-GGUF, so llama.cpp and LM Studio can run the model today, and Qwen’s own releases run on vLLM or SGLang. If you specifically want Ollama, use Qwen3.6 until a Qwen3.8 tag lands.
Serve it locally on any OpenAI-compatible runtime, then pair the Tokios connector so the machine holding the GPU needs no inbound ports. You call https://api.tokios.com with an sk-tok-… key from any OpenAI- or Anthropic-compatible client, sending your deployment name in the model field rather than the upstream model id.

Qwen3.6

即刻在本地运行经过验证的 Qwen 模型吧。

模型适配性

评估您的硬件能够承载的模型规模与上下文长度上限。

快速入门

配置连接器并注册本地部署实例。

量化处理与硬件适配

了解不同模型发布格式对硬件配置的具体要求。