Skip to main content
최종 확인일: 2026-08-14
Qwen3.8-27B is released. The weights went live on 2026-08-14 at Hugging Face and ModelScope under Apache-2.0, alongside an official FP8 build. It is a dense 27B native vision-language model — text, image, and video input — with a switchable thinking mode, tunable reasoning depth, and a 262K-token native context extensible to about 1M. This page covers its download, hardware requirements, and local deployment.
GGUF 빌드들이 같은 날 공개되었습니다: unsloth/Qwen3.8-27B-GGUF에서는 다양한 양자화 단계와 비전 프로젝터까지 포함된 내용이 Apache-2.0 라이선스 하에 제공되고 있습니다. 하지만 Qwen 측에서는 자체적인 GGUF 버전을 공개하지 않았으며, 현재까지도 Ollama 태그가 존재하지 않습니다.

​
Qwen3.8-27B의 출시일 및 현황

원래 예정되었던 기간인 2026-08-10 주간에는 2.4T 플래그십 모델만 출시되었으며, 27B 모델은 2026-08-14에 출시되었습니다. Qwen3.8-27B is the local successor to Qwen3.6, and its Apache-2.0 license carries over. If you need a path this site has already verified end-to-end with Tokios, Qwen3.6 remains that model until the tested Qwen3.8 commands land here; if you are comfortable with vLLM or SGLang, nothing blocks running Qwen3.8-27B today.

​
Qwen3.8-27B의 하드웨어 요구 사양

아래 수치들은 모두 실제 측정된 파일 크기이며 추정치가 아닙니다. BF16 버전의 크기는 55.6 GB, 공식 FP8 빌드의 크기는 30.9 GB입니다. Unsloth GGUF에서는 양자화된 여러 버전이 제공되며, 그중 Q4_K_M 버전의 크기는 17.11 GB입니다. Add 0.93 GB for the mmproj projector if you want image and video input — see vision in llama.cpp below.

​
기기별로 적합한 사양 확인

아래의 모든 평가 내용은 Q4_K_M 버전을 기준으로 작성되었습니다.

​
DGX Spark에서 Qwen3.8-27B 모델을 실행할 수 있나요?

물론입니다. 충분한 여유 공간도 남습니다. DGX Spark는 128 GB의 통합 메모리와 Blackwell GPU를 갖추고 있어서 양자화되지 않은 55.6 GB 크기의 BF16 버전도 무리 없이 실행됩니다. 공식 30.9 GB FP8 버전 역시 KV 캐시용으로 약 90 GB 정도를 남겨주는데, 이는 긴 컨텍스트 처리나 여러 세션을 동시에 운영할 때 꼭 필요한 공간입니다. 이제 원하는 형식을 선택할 수 있습니다. FP8 형식은 vLLM이나 SGLang을 통해 가장 높은 품질을 유지해주며, 17.11 GB 크기의 Q4_K_M GGUF 형식은 llama.cpp를 이용할 때 전체 메모리 중 100 GB 이상을 KV 캐시용으로 활용할 수 있게 해줍니다. NVFP4 방식이 더 효율적이겠지만 현재 이 모델에 대한 NVFP4 빌드는 공개되지 않았습니다. 각 기기별 최적화 정보는 DGX Spark 모델 호환성 페이지를 참고하시기 바랍니다.

​
Strix Halo에서 Qwen3.8-27B을 실행할 수 있나요?

가능합니다. AMD Strix Halo는 GPU에 최대 96 GB의 메모리를 할당할 수 있어서 55.6 GB 크기의 BF16 버전도 문제없이 작동하며, 17.11 GB 크기의 Q4_K_M GGUF 파일 역시 충분한 여유 공간을 제공합니다. 여기서 핵심 제약 요소는 메모리 용량이 아니라 대역폭입니다. 모델 가중치는 정상적으로 로드되지만 디코딩 속도는 동일 모델을 탑재한 개별 GPU보다 느리며 프롬프트 처리 속도 역시 더 느립니다. ROCm이나 Vulkan을 통해 실행하시면 되는데, Strix Halo에서 vLLM 실행하기와 Strix Halo 모델 호환성 문서에서 설정 방법과 실제 성능 데이터를 확인할 수 있습니다.

​
Can a 24 GB GPU run Qwen3.8-27B?

Yes, and this is the size class the model was built for. An RTX 3090 or 4090 holds the 17.11 GB Q4_K_M GGUF with roughly 7 GB spare for KV cache — fine for everyday context lengths, tight beyond that. Neither official safetensors release fits a 24 GB card directly, since FP8 is 30.9 GB, so the GGUF is the path here. 현재 16 GB 크기의 카드도 Q3_K_M (13.82 GB) 혹은 IQ4_XS (15.71 GB) 설정에서 작동 가능하지만 컨텍스트 처리나 비전 프로젝터용 공간은 거의 남지 않습니다. 그보다 작은 용량에서는 오프로딩으로 인해 처리 속도가 저하됩니다. 자세한 내용은 메모리 및 오프로딩 문서를 참고하세요. 두 개 이상의 카드를 사용할 경우 8비트 형식으로 48 GB 용량을 할당하는 것이 안정적이며 단일 카드에서 Q4 비트를 사용하는 경우보다 품질 유지에 유리합니다. 모델 샤딩 문서에서 런타임이 가중치를 어떻게 분배하는지 확인할 수 있습니다.

​
컨텍스트 처리에 필요한 메모리는 별도의 예산으로 간주됩니다.

위에 명시된 가중치 크기는 모델 자체만을 의미합니다. KV 캐시는 여기에 추가되며 컨텍스트 길이와 동시 실행 횟수에 따라 증가하므로 긴 컨텍스트 처리 시 메모리 소모가 더 커질 수 있습니다. GPU에 적합한 모델 크기는? 문서로 적절한 크기를 결정하고 KV 캐시와 컨텍스트 문서에서 관련 메커니즘을 알아보세요.
위 수치는 공개된 파일 크기이므로 이를 기준으로 계산하시면 됩니다. 다만 컨텍스트 길이와 동시 실행 횟수에 따라 증가하는 KV 캐시나 비전 기능을 활용하려면 0.93 GB 크기의 프로젝터도 필요할 수 있습니다. 이 부분은 명시되어 있지 않습니다.
각 기기별 비교 정보는 하드웨어 참고 자료를 확인하시고 가중치 형식과 하드웨어 간의 관계는 양자화와 하드웨어 문서를 참조하세요.

​
Qwen3.8-27B 다운로드 및 Ollama

공식 다운로드 파일은 두 가지 정밀도로 제공됩니다: 두 모델 모두 ModelScope에 업로드되어 있습니다. 해당 모델 설명서에는 Transformers, vLLM, SGLang, TokenSpeed를 통한 서비스 방법이 기재되어 있습니다. 요청별로 사고 기능을 활성화할 수 있으며, enable_thinking에서는 reasoning_effort이 xhigh, medium, 혹은 low을 지원합니다. Qwen 측에서는 사고 기능을 켤 때는 temperature=1.0, top_p=0.95, top_k=20을, 끌 때는 temperature=0.7, top_p=0.8, top_k=20, presence_penalty=1.5을 사용할 것을 권장합니다.

​
llama.cpp 및 LM Studio용 GGUF 포맷

Qwen 측에서는 GGUF 포맷을 공개하지 않았으나, unsloth/Qwen3.8-27B-GGUF가 같은 날 Apache-2.0 라이선스 하에 공개되었습니다. 이 버전에는 IQ2_XXS 기준 9.01 GB부터 Q8_0 기준 29.05 GB에 이르는 다양한 크기의 모델과 BF16 포맷도 포함되어 있습니다. Unsloth 측에서는 해당 빌드에 대한 실행 명령어도 함께 제공합니다.
해당 태그는 Unsloth에서 권장하는 17.92 GB 크기의 동적 빌드입니다. 일반적인 Q4_K_M 크기의 모델은 17.11 GB 수준이며 가장 흔히 사용되는 버전입니다. LM Studio 역시 위 파일들을 불러올 수 있습니다.
There is no Ollama tag yet. A guessed command such as ollama run qwen3.8:27b will not work. Use llama.cpp or LM Studio with the GGUF above until an Ollama build appears.

​
비전 기능 사용 시 mmproj 파일이 필요합니다.

이미지 및 영상 입력 데이터는 기본 가중치 파일에 포함되어 있지 않습니다. GGUF 저장소에서는 별도의 mmproj-F16.gguf (0.93 GB) 크기의 프로젝터 파일을 제공하고 있으며, llama.cpp에서는 멀티모달 요청을 처리하려면 이 파일을 모델과 함께 로드해야만 합니다. 그렇지 않으면 텍스트 전용 모델로만 작동합니다. 선택한 양자화 수준에 따라 추가로 필요한 저장 공간을 계산할 때 이 GB 수치도 반드시 고려해야 합니다. 참고로 공식 FP8 및 BF16 safetensors 버전에는 비전 인코더가 내장되어 있어 별도 파일이 필요하지 않습니다.

​
로컬 배포 환경을 설정합니다.

  1. 사용 중인 기기에 모델 가중치와 컨텍스트 메모리를 저장할 충분한 공간이 있는지 확인하세요 — 55.6 GB 크기의 BF16 형식, 30.9 GB 크기의 FP8 형식, 혹은 17.11 GB 크기의 Q4_K_M 형식이 필요하며, 비전 프로젝터 기능을 사용하려면 0.93 GB의 추가 공간도 필요합니다.
  2. 실행 환경을 선택합니다. safetensors 버전의 경우 vLLM, SGLang, TokenSpeed, 혹은 Transformers를 사용할 수 있으며, GGUF 포맷의 경우에는 llama.cpp와 LM Studio가 적합합니다. Ollama 측에서는 아직 이 모델용 태그가 제공되지 않고 있습니다.
  3. 모델 실행 후 Tokios 커넥터를 로컬에 구축한 OpenAI 호환 엔드포인트와 연동해주시면 됩니다.
  4. 대시보드에서 원하는 배포 이름을 등록하세요. API 클라이언트들은 업스트림 모델 ID 대신 이 배포 이름을 사용하게 됩니다.

​
Qwen3.8-27B과 Qwen3.8-Max의 비교

The same announcement covered a second, far larger model — and that one has now shipped. Qwen3.8-2.4T-A95B, the open-weight model behind the hosted Qwen3.8-Max, is live on Hugging Face and ModelScope with a model card, BF16 safetensors, and an official FP8 variant. The model card settles what community reporting could only estimate: a mixture-of-experts model with 2.4T total parameters and 95B activated, a 262K-token native context extensible to about 1M, and — unlike the 27B — text-only input with thinking always on. Vision input, a non-thinking mode, and 1M default context are features of the hosted Qwen3.8-Max API, not of the open weights. The license is Qwen’s custom qwen3.8-max license, not Apache-2.0, so read its terms before commercial use. 이로써 Qwen3.7-Max와 Qwen3.6-Max-Preview가 API 전용으로만 출시된 이후, Max 등급에서 최초로 공개된 오픈 웨이트 모델이 되었습니다. 하지만 이 모델이 홈랩용 모델이라는 의미는 아닙니다. 모델별 메모리 요구량을 결정할 때 이 차이가 중요합니다. 밀집형 모델은 모든 토큰 처리 시 모든 파라미터를 불러오므로 27B의 경우 메모리 사용량과 디코딩 속도가 파라미터 수에 비례합니다. 반면 2.4T은 각 토큰 처리 시 파라미터의 95B만 활성화되므로 전체 가중치 집합이 메모리에 상주해야 함에도 불구하고 연산 부하는 관리 가능한 수준입니다. 알리바바 역시 자사의 호스팅형 서비스인 Token Plan, Qoder, QoderWork를 통해 해당 모델을 제공하고 있습니다. 자세한 내용은 알리바바의 WAIC 발표 자료를 참고하시기 바랍니다. 호스팅형 서비스는 Tokios 배포 방식이 아니며, Tokios는 사용자가 직접 실행하는 모델을 지원합니다.

​
DGX Spark나 Strix Halo에서 Qwen3.8-Max를 실행할 수 있나요?

아닙니다. 단일 머신도 아니고 소규모 클러스터도 아닙니다. MoE 모델에서는 각 토큰 처리 시 활성화되는 가중치는 전체의 일부분에 불과하지만 — 여기서는 95B 대비 2.4T 수준입니다 — 모든 전문가 가중치가 반드시 메모리에 상주해야 합니다. 따라서 메모리 요구량은 활성화된 가중치가 아니라 전체 파라미터 수에 따라 결정됩니다. 4 비트 단위에서 2.4T 개의 파라미터를 처리하려면 가중치만을 위해서도 1.2 TB 정도의 메모리가 필요합니다. 위 수치들은 오직 가중치만을 기준으로 한 최소값일 뿐입니다. KV 캐시와 런타임 버퍼, 그리고 시스템 예약 공간까지 고려해야 하므로 실제로는 사용이 불가능한 수준입니다. 집에서 실제로 Qwen3.8을 배포하고 싶다면 27B 모델이 적합합니다.
현재 한 대의 컴퓨터에서 배포할 수 있는 가장 큰 규모의 Qwen 모델을 원하신다면? Qwen3.6-35B-A3B은 이미 출시된 MoE 모델로, 단일 128 GB 통합 메모리 시스템에도 적합합니다. 활성 파라미터 수가 아닌 전체 가중치 크기를 기준으로 용량을 결정하시기 바랍니다.

​
아직 해결되지 않은 사항들

이번 배포에서는 모델 설명서와 라이선스, 저장소 정보 및 파일 크기 정보가 제공되었으며, 커뮤니티에서 제작한 GGUF 파일들도 몇 시간 내에 양자화된 버전으로 공개되었습니다. 다만 두 가지 문제가 남아 있습니다.
  • 대부분의 로컬 환경에서 가장 손쉽게 활용할 수 있는 Ollama 태그가 아직 제공되지 않고 있습니다.
  • Tokios에서 테스트를 거친 런타임 명령어와 커넥터 예시들이며, 검증이 완료되는 대로 추가될 예정입니다.

​
자주 묻는 질문

Depends on the format. The Unsloth GGUF is 17.11 GB at Q4_K_M, which a 24 GB card holds with room for everyday context, and 16 GB cards can run Q3_K_M (13.82 GB) or IQ4_XS (15.71 GB). The official safetensors releases are larger: 30.9 GB at FP8 and 55.6 GB at BF16. Add 0.93 GB for the vision projector when using GGUF.
두 모델 모두 출시되었습니다. 2.4T 플래그십 모델(Qwen/Qwen3.8-2.4T-A95B 및 FP8 포함)이 2026월 08일부터 10일까지의 기간에 먼저 배포되었죠. 그 뒤를 이어 Qwen3.8-27B 모델이 2026-08-14에 출시되었으며, BF16 및 FP8 저장소들은 Hugging Face와 ModelScope에 공개되었습니다.
Size, and therefore who can run it — but also modality and licensing, in the direction you might not expect. The 27B is a dense vision-language model (image and video input, switchable thinking) under Apache-2.0, sized for a single desktop GPU or unified-memory machine. The open-weight Max-class model, Qwen3.8-2.4T-A95B, is a mixture-of-experts model at 2.4T total parameters (95B active) that is text-only with thinking always on, released under a custom license, with a 4-bit weight floor around 1.2 TB — cluster hardware, not homelab. Vision input and 1M default context on the big model belong to the hosted Qwen3.8-Max API built on it.
The 27B ships under Apache-2.0 — the same permissive license as Qwen3.6, fine for commercial use. The 2.4T flagship instead uses Qwen’s custom qwen3.8-max license with scale-tiered terms, so read it before commercial deployment. Same generation, two different licenses — check the model you actually plan to run.
No — ollama run qwen3.8:27b will not work at the time of writing. GGUF files do exist via unsloth/Qwen3.8-27B-GGUF, so llama.cpp and LM Studio can run the model today, and Qwen’s own releases run on vLLM or SGLang. If you specifically want Ollama, use Qwen3.6 until a Qwen3.8 tag lands.
어떤 OpenAI 호환 런타임에서든 로컬로 모델을 배포한 뒤 Tokios 커넥터를 연결하면 GPU가 탑재된 컴퓨터에 인바운드 포트가 필요하지 않게 됩니다. OpenAI나 Anthropic 호환 클라이언트를 이용해 https://api.tokios.com를 호출할 때는 sk-tok-… API 키를 사용하며, 업스트림 모델 ID 대신 model 필드에 배포 이름을 입력하면 됩니다.

Qwen3.6

지금 바로 검증된 로컬 Qwen 모델을 실행해 보세요.

모델 적합성

사용 중인 하드웨어가 수용 가능한 모델 및 컨텍스트 크기를 예측해 보세요.

빠른 시작 가이드

커넥터를 연결하고 로컬 배포를 등록하는 방법을 알아보세요.

양자화와 하드웨어

모델 배포 형식이 하드웨어에 어떤 영향을 미치는지 자세히 살펴보세요.