메인 콘텐츠로 건너뛰기
Last verified: 2026-08-10
Muse Glimmer는 Meta Superintelligence Labs의 오픈 웨이트 에이전트 모델로, 2026년 Apache 2.0로 출시되었습니다. dense 29.6B 파라미터 인과 트랜스포머로, 내장 1.8B ViT-G/14 퍼셉션 인코더, 131,072 토큰 컨텍스트 윈도우, 텍스트+이미지 입력을 지원합니다. Meta는 항상 작동하는 로컬 에이전트를 위해 구축했습니다: 정밀한 스키마의 도구 호출, 다단계 추론, 실패 후 재시도 — 소비자 GPU 한 대 또는 Mac에서. 자체 호스팅에서 중요한 숫자는 18 GB입니다. 이것이 4-bit 다운로드 크기이며, 이 모델이 이미 보유한 하드웨어에 적합합니다.
Already running this model? Register it with Tokios to reach it as https://api.tokios.com from any client.

한눈에 보는 Muse Glimmer

Sources: Meta’s Muse Glimmer announcement and the model card.
Muse Spark Open, the teacher model, is now released. Meta published the 816B/42B-active MoE weights on October 15, 2026 under the Muse Model License — see Muse Spark Open. Glimmer remains the consumer-GPU option; Spark Open is the frontier workstation option.

변형 및 태그

Ollama는 13개의 빌드를 게시합니다. -dflash 변형은 추측 디코딩 드래프터를 번들하며, 약 2 GB의 비용으로 큰 속도 향상을 제공합니다. 아래의 DFlash 추측 디코딩을 참조하세요. 모든 태그는 전체 131,072 토큰 컨텍스트를 지원하며 텍스트와 이미지를 허용합니다. Meta의 자체 GGUF 저장소인 meta-models/Muse-Glimmer-30B-GGUF는 두 개의 K-quant 빌드를 muse-glimmer-30B-kquant-17gb.gguf(24 GB VRAM 타겟)와 muse-glimmer-30B-kquant-dynamic.gguf(32 GB 타겟)로 명명하며, 드래프터는 dflash-kquant.gguf입니다. 하나로 표준화하기 전에 ollama.com/library/muse-glimmer에서 크기를 확인하세요. 양자화는 다시 제작될 수 있습니다.

여기서 Dense가 중요한 이유

최근 프론티어 릴리스는 거의 모두 혼합 전문가 모델이며, MoE에는 메모리 함정이 있습니다. 라우팅은 토큰당 파라미터의 일부만 활성화하지만, 모든 전문가 가중치가 상주합니다. Llama 4 Scout는 17B 파라미터를 활성화하지만 여전히 ~67 GB가 필요합니다. 메모리는 전체 파라미터에 비례하여 증가하며 활성 파라미터가 아닙니다. Muse Glimmer는 전체 모델이 적합하도록 30B에서 dense로 설계되었습니다. 산수는 평범하며, 그것이 바로 요점입니다.
  • 29.6B parameters × ~0.5 bytes at 4-bit ≈ 15 GB of weights
  • ~18 GB as shipped, once the vision encoder, embeddings, and metadata are included
  • Add KV cache for your context on top — see KV cache and context
계획해야 할 오프로딩 티어는 없으며 설계해야 할 전문가 병렬 토폴로지 또한 없습니다. 24 GB가 있다면 모델이 상주합니다. 가중치가 GPU를 벗어나면 무엇이 변하는지는 메모리 및 오프로딩을 참조하세요.

하드웨어 적합성

평가는 적당한 컨텍스트 길이의 4-bit 빌드를 가정합니다. Meta는 MacBook M4 Max, M5 Max, RTX 5090에서 테스트를 보고했습니다. 24 GB 카드에서 -dflash 빌드가 적합하지만, 드래프터와 긴 컨텍스트가 동일한 여유 공간을 경쟁합니다. 적당한 컨텍스트에서 시작하여 측정한 다음 높이세요. 사이징 방법은 어떤 크기의 모델이 GPU에 적합한가?를 참조하세요.

Picked a model? Connect it

인증된 엔드포인트 하나 — https://api.tokios.com — 인바운드 포트 없음, 약 5분 소요.

실행 — 초급부터 고급까지

메모리가 부족하면 -dflash를 제거하세요. Ollama의 라이브러리 빌드 대신 Meta의 GGUF 저장소를 직접 가져오려면:
Ollama를 기본 http://127.0.0.1:11434에 두고 num_ctx를 작은 기본값에서 사용 가능한 여유 메모리가 허용하는 범위까지만 높이세요. Ollama 원격 액세스를 참조하세요.

샘플링 설정

Meta는 temperature = 1.0, top_p = 0.95, top_k = 64를 권장합니다. 1.0의 temperature는 많은 로컬 모델이 원하는 것보다 높습니다 — 다른 체크포인트에 맞는 0.6–0.7 범위로 낮추는 것이 여기서 출력 저하의 일반적인 원인입니다.

DFlash 추측 디코딩

DFlash는 경량 동반 모델로, 한 번에 엄격하게 한 개씩 토큰을 생성하는 대신 16개 토큰의 블록을 제안하여 메인 모델이 한 번의 패스로 검증합니다. Meta의 보고: 여기서 주목할 점은 참신함이 아니라 패키징입니다. 추측 디코딩은 일반적으로 호환되는 드래프트 모델을 구하고 페어링을 직접 튜닝하는 것을 의미합니다. 여기서는 드래프터가 웨이트와 함께 제공되고 -dflash Ollama 태그가 pull 시 활성화합니다 — 대략 2 GB로 오후를 투자해 구성했을 속도 향상을 얻습니다. 속도 향상은 decoding에 적용되므로 출력이 긴 곳에서 가장 도움이 됩니다: 에이전트 루프, 코드 생성, high 또는 xhigh에서의 확장 추론. 짧은 답변에는 거의 효과가 없습니다. 메커니즘과 자체 하드웨어에서 이득을 측정하는 방법은 추측 디코딩을 참조하세요.

기능

  • 제어 가능한 추론. 시스템 프롬프트에서 Reasoning strength: low(medium, high, xhigh도 가능)로 강도를 설정하세요. 높은 설정은 답변 전 더 많은 토큰을 소비합니다 — 어려운 작업에는 높이고, 지연 시간을 줄이려면 낮추세요.
  • 비전. 퍼셉션 인코더는 모델의 일부이지 별도 추가가 아니므로, 이미지 입력은 모든 빌드에서 작동합니다. 출력은 텍스트만 가능합니다.
  • 에이전트 사용. Meta는 엔드투엔드 작업 완성을 위해 학습하고 평가했습니다: 계획, 정밀한 스키마에 대한 도구 호출, 결과 확인, 실패로부터의 복구. 이것은 범용 채팅 모델과는 다른 목표입니다 — 로컬 모델로 코딩 에이전트를 참조하세요.
  • 다국어. 100+개 언어.

벤치마크

Meta가 오늘 출시된 모델에 대해 보고한 것입니다. 독립적인 재현은 아직 없습니다 — 서드파티 평가가 나올 때까지 벤더의 주장으로 취급하세요. Meta는 Muse Glimmer를 Gemma 4 31B 및 Qwen3.6 27B와 에이전트, 코딩, 멀티모달, 안전성, 추론 작업에서 비교합니다 — 동일한 크기 등급이므로, 전환 전에 자체 워크로드에서 비교해 보세요.

Tokios로 연결하기

항상 켜져 있는 로컬 에이전트는 사용자가 그 머신 앞에 없을 때 액세스하고 싶은 것입니다. Tokios는 런타임 뒤에 위치합니다: 모델을 다운로드하거나 Ollama를 대체하지 않습니다.
1

Keep your local runtime running

Ollama, LM Studio, llama.cpp, 또는 vLLM에서 Muse Glimmer를 시작하고 루프백에 바인딩된 상태로 두세요.
2

Pair the Tokios connector

로그인: tokios.com/console — Setup 탭을 연 다음, Start pairing를 클릭하여 일회용 페어링 코드(TKS-XXXX-XXXX)를 받으세요. 모델을 실행하는 머신에서 설치 프로그램을 실행하세요:
Windows
macOS
Linux
그런 다음 디바이스를 approve하세요 — Setup 또는 Connectors 탭에서.
3

Register a deployment

이동: Models 탭 — 업스트림 모델 ID(예: muse-glimmer:30b-q4_K_M-dflash)를 muse-glimmer와 같은 공개 배포 이름으로 등록하세요. 클라이언트는 model 필드에 배포 이름을 전송하며 로컬 ID는 사용하지 않습니다 — 나중에 재양자화해도 클라이언트 측에서는 아무것도 변하지 않습니다.
4

Create an API key

이동: Keys 탭 — Create key를 클릭하세요. sk-tok-… 키를 지금 복사하세요 — 한 번만 표시됩니다.

어디서나 호출하기

주의사항

  • 벤치마크는 벤더 보고입니다. Meta가 출시일에 게시했습니다. 코딩 점수를 확정으로 취급하기 전에 독립 평가를 기다리세요.
  • 131,072 토큰은 상한이지 목표가 아닙니다. 긴 컨텍스트는 18 GB 웨이트 위에 KV-캐시 메모리를 추가하며, 24 GB 카드에서 그것은 정확히 DFlash 드래프터도 원하는 여유 공간입니다.
  • Temperature 1.0이 권장값입니다. 테스트 없이 다른 로컬 모델의 샘플링 설정을 그대로 가져오지 마세요.
  • 비전과 도구 호출은 런타임에 의존합니다. Tokios는 이미지 콘텐츠와 도구 호출 필드를 업스트림 엔드포인트로 전달합니다 — 런타임이나 양자화가 부족한 기능을 추가하지 않습니다. 지원되는 백엔드를 확인하세요.
  • Apache 2.0은 Meta에게 실질적인 변화입니다. Llama 4는 허용 사용 정책과 대형 제품에 대한 임계값이 있는 Llama 4 Community License로 제공됩니다. Muse Glimmer는 둘 다 없지만, 구축 전에 라이선스를 직접 읽어보세요.

FAQ

18 GB — q4_K_M 4-bit 빌드 기준, DFlash 드래프터 포함 시 20 GB. 따라서 24 GB 카드(RTX 3090 또는 4090)로 실행 가능하며, 나머지 여유 공간은 KV 캐시에 사용됩니다. 8-bit 빌드는 31 GB가 필요하고 BF16은 57 GB가 필요합니다. 투명한 계산: 29.6B 파라미터 × ~0.5 bytes at 4-bit ≈ 15 GB of weights, 퍼셉션 인코더, 임베딩, 오버헤드 포함.
예. 이것이 릴리스의 핵심입니다 — 30B dense 에이전트 모델이 4-bit에서 소비자 GPU 한 대에 완전히 상주합니다. 18 GB의 muse-glimmer:30b-q4_K_M을 사용하거나, 추측 디코딩 드래프터를 원하고 여유 공간을 확보할 수 있으면 20 GB의 muse-glimmer:30b-q4_K_M-dflash를 사용하세요.
웨이트는 Apache 2.0으로 게시되며, 허용 사용 정책이나 사용자 수 임계값이 없는 허용적 라이선스입니다. 이것은 Llama 4에서 사용되는 Llama Community License와 벗어난 것입니다. 오픈 웨이트와 오픈 소스는 같은 것이 아님을 유의하세요 — 학습 데이터와 파이프라인은 공개되지 않습니다.
Muse Glimmer와 함께 제공되는 경량 드래프터 모델. 한 번에 한 개씩 토큰을 디코딩하는 대신, 16개 토큰의 블록을 제안하여 메인 모델이 단일 패스로 검증합니다. 3.1x 속도 향상(RTX 5090), 1.8x(M5 Max), 1.5x(M4 Max)를 Meta가 보고합니다. -dflash로 끝나는 Ollama 태그를 pull하면 됩니다 — 별도 구성 불필요.
Meta의 자체 벤치마크는 Gemma 4 31B 및 Qwen3.6 27B와 비교하여 Muse Glimmer를 선호하지만, 출시일의 벤더 실행 숫자입니다. 3개 모두 동일한 크기 등급에 속하고 같은 하드웨어에서 실행되므로, 실용적인 답변은 각각을 서비스하고 실제 워크로드를 테스트하는 것입니다 — Qwen3.6 및 Gemma를 참조하세요.
아니요. Meta Superintelligence Labs의 새로운 패밀리로, Muse Spark라는 더 큰 교사 모델에서 증류되었으며, Llama 4와 다른 아키텍처와 다른 라이선스를 가집니다. Llama 라인은 별개이며 여전히 Llama Community License를 사용합니다.
시스템 프롬프트에 Reasoning strength: low, medium, high, xhigh를 넣으세요. 높은 설정은 답변 전 추론에 더 많은 토큰을 소비하며, 어려운 작업의 품질과 지연 시간 모두를 높입니다. 이것은 Tokios를 통해서도 전달됩니다 — API 호출의 system 메시지에서 설정하세요.
예 — 정밀한 스키마에 대한 도구 호출과 다단계 워크플로우에서의 실패 복구를 갖추어 이를 위해 구축되었습니다. 특정 에이전트가 작동하는지는 런타임이 도구 호출을 어떻게 노출하는지에 달려있습니다 — 매트릭스는 코딩 에이전트 호환성을, 설정은 로컬 모델로 코딩 에이전트를 참조하세요.

Speculative decoding

DFlash 스타일 드래프터가 작동하는 방식과 직접 속도 향상을 측정하는 방법.

Coding agents with local models

Claude Code, Cline, Aider를 직접 호스팅하는 모델로 연결.

What fits your GPU?

모델과 컨텍스트를 VRAM 또는 통합 메모리에 맞게 사이징.

Llama 4

Meta의 혼합 전문가 라인, 17B 활성에도 67 GB가 필요한 이유.

Reach it from your phone

머신에서 떨어져 있을 때 항상 켜져 있는 로컬 에이전트 사용.

Quickstart

커넥터를 페어링하고 첫 모델을 엔드투엔드로 등록.