Last verified: 2026-08-10
Muse Glimmer auf einen Blick
Sources: Meta’s Muse Glimmer announcement and the model card.
Muse Spark Open, das Lehrermodell, ist jetzt veröffentlicht. Meta hat die 816B/42B-aktiven MoE-Gewichte am 15. Oktober 2026 unter der Muse Model License veröffentlicht — siehe Muse Spark Open. Glimmer bleibt die Consumer-GPU-Option; Spark Open ist die Frontier-Workstation-Option.
Varianten und Tags
Ollama veröffentlicht 13 Builds. Die-dflash-Varianten bündeln den Speculative-Decoding-Drafter, der etwa 2 GB kostet und einen großen Geschwindigkeitszuwachs bringt — siehe DFlash Speculative Decoding unten.
Jeder Tag trägt den vollständigen 131,072-Token-Kontext und akzeptiert Text und Bilder. Metas eigenes GGUF-Repo,
meta-models/Muse-Glimmer-30B-GGUF, benennt seine beiden K-Quant-Builds als muse-glimmer-30B-kquant-17gb.gguf (zielt auf 24 GB VRAM) und muse-glimmer-30B-kquant-dynamic.gguf (zielt auf 32 GB), mit dem Drafter als dflash-kquant.gguf.
Bestätigen Sie die Größen gegen ollama.com/library/muse-glimmer, bevor Sie sich auf eines festlegen — Quantisierungen werden neu geschnitten.
Warum Dichte hier wichtig ist
Aktuelle Flaggschiff-Veröffentlichungen sind fast alle Mixture-of-Experts und MoE hat eine Speicherfalle: Routing aktiviert einen Bruchteil der Parameter pro Token, aber jedes Expert-Gewicht bleibt resident. Llama 4 Scout aktiviert 17B Parameter und benötigt dennoch ~67 GB, weil der Speicher mit den gesamten Parametern skaliert, nicht den aktiven. Muse Glimmer wird bei 30B bewusst dicht gehalten, damit das ganze Modell passt. Die Arithmetik ist unauffällig, was der Punkt ist:- 29.6B Parameter × ~0.5 Bytes bei 4-Bit ≈ 15 GB an Gewichten
- ~18 GB wie ausgeliefert, sobald der Vision-Encoder, Embeddings und Metadaten enthalten sind
- Fügen Sie den KV-Cache für Ihren Kontext oben drauf — siehe KV-Cache und Kontext
Hardware-Eignung
Urteile setzen den 4-Bit-Build bei einer bescheidenen Kontextlänge voraus. Meta meldet Tests auf MacBook M4 Max, M5 Max und RTX 5090.
Auf einer 24 GB-Karte passt der
-dflash-Build, aber der Drafter und ein langer Kontext konkurrieren um denselben Headroom. Beginnen Sie bei einem bescheidenen Kontext, messen Sie, und erhöhen Sie ihn dann. Für die Dimensionierungsmethode siehe Welche Modellgröße passt auf Ihre GPU?.
Modell ausgewählt? Verbinden Sie es
Ein authentifizierter Endpunkt unter
https://api.tokios.com — keine eingehenden Ports, etwa 5 Minuten.Ausführen — vom Anfänger bis zum Fortgeschrittenen
- Ollama (easiest)
- LM Studio (GUI)
- llama.cpp
- vLLM (GPU serving)
-dflash weg, wenn Sie bei Speicher knapp sind. Um Metas GGUF-Repo direkt statt des Ollama-Bibliothek-Builds zu ziehen:http://127.0.0.1:11434 und erhöhen Sie num_ctx von seinem kleinen Standardwert nur so weit, wie Ihr freier Speicher es zulässt. Siehe Ollama Remote-Zugriff.Sampling-Einstellungen
Meta empfiehlttemperature = 1.0, top_p = 0.95 und top_k = 64. Eine Temperatur von 1.0 ist höher als viele lokale Modelle bevorzugen — das Herabsetzen auf den 0.6–0.7-Bereich, der für andere Checkpoints passt, ist hier eine häufige Ursache für verschlechterte Ausgabe.
DFlash Speculative Decoding
DFlash ist ein leichtgewichtiges Begleitmodell, das Blöcke von 16 Tokens vorschlägt, die das Hauptmodell in einem Durchgang verifiziert, statt strikt ein Token nach dem anderen zu generieren. Meta meldet:
Was dies bemerkenswert macht, ist die Verpackung, nicht die Neuheit. Speculative Decoding bedeutet normalerweise, ein kompatibles Draft-Modell zu beschaffen und die Paarung selbst abzustimmen. Hier wird der Drafter mit den Gewichten ausgeliefert und die
-dflash Ollama-Tags aktivieren ihn beim Pull — etwa 2 GB für einen Speedup, für den Sie andernfalls einen Nachmittag mit Konfigurieren verbringen würden.
Der Speedup gilt für das Decoding, also hilft er am meisten, wo Output lang ist: Agenten-Schleifen, Codegenerierung und erweitertes Reasoning bei high oder xhigh. Er bringt wenig für kurze Antworten. Siehe Speculative Decoding für den Mechanismus und wie Sie den Gewinn auf Ihrer eigenen Hardware messen.
Fähigkeiten
- Kontrollierbares Reasoning. Setzen Sie die Stärke im System-Prompt mit
Reasoning strength: low(odermedium,high,xhigh). Höhere Einstellungen verbringen mehr Tokens vor der Antwort — erhöhen Sie es für schwere Aufgaben, senken Sie es für Latenz. - Vision. Der Perceptions-Encoder ist Teil des Modells, nicht ein Add-on, also funktioniert Bild-Input bei jedem Build. Output ist nur Text.
- Agentische Nutzung. Meta hat es für Ende-zu-Ende-Aufgabenerfüllung trainiert und evaluiert: Planung, Tool-Aufruf gegen präzise Schemas, Ergebnisprüfung und Erholung nach Fehlern. Das ist ein anderes Ziel als ein allgemeines Chat-Modell — siehe Coding-Agenten mit lokalen Modellen.
- Mehrsprachig. 100+ Sprachen.
Benchmarks
Von Meta gemeldet, für ein heute veröffentlichtes Modell. Es existiert noch keine unabhängige Reproduktion — betrachten Sie diese als die Ansprüche des Herstellers, bis Drittauswertungen erscheinen.
Meta positioniert Muse Glimmer gegen Gemma 4 31B und Qwen3.6 27B über Agenten-, Coding-, Multimodal-, Sicherheits- und Reasoning-Aufgaben — dieselbe Größenklasse, also vergleichen Sie sie mit Ihrer eigenen Arbeitslast vor dem Wechsel.
Mit Tokios verbinden
Ein immer aktiver lokaler Agent ist einer, den Sie erreichen wollen, wenn Sie nicht an der Maschine sind, die ihn ausführt. Tokios sitzt nach Ihrer Runtime: Es lädt das Modell nicht herunter und ersetzt nicht Ollama.1
Keep your local runtime running
Starten Sie Muse Glimmer in Ollama, LM Studio, llama.cpp oder vLLM und belassen Sie es auf Loopback.
2
Pair the Tokios connector
Melden Sie sich bei tokios.com/console an, öffnen Sie den Setup-Tab und klicken Sie auf Start pairing, um einen einmaligen Pairing-Code (Dann approve Sie das Gerät auf dem Setup- oder Connectors-Tab.
TKS-XXXX-XXXX) zu erhalten. Führen Sie den Installer auf der Maschine aus, die das Modell ausführt:Windows
macOS
Linux
3
Register a deployment
Registrieren Sie im Models-Tab die Upstream-Modell-ID (zum Beispiel
muse-glimmer:30b-q4_K_M-dflash) unter einem öffentlichen Deployment-Namen wie muse-glimmer. Clients senden den Deployment-Namen im model-Feld, niemals die lokale ID — daher ändert späteres Re-Quantisieren nichts auf der Client-Seite.4
Create an API key
Klicken Sie im Keys-Tab auf Create key. Kopieren Sie den
sk-tok-…-Schlüssel jetzt — er wird nur einmal angezeigt.Von überall aufrufen
Einschränkungen
- Benchmarks sind vom Hersteller gemeldet. Meta hat sie am Veröffentlichungstag veröffentlicht. Warten Sie auf unabhängige Auswertungen, bevor Sie die Coding-Scores als abgeschlossen betrachten.
- 131,072 Tokens sind eine Obergrenze, kein Ziel. Lange Kontexte fügen KV-Cache-Speicher zu den 18 GB Gewichten hinzu, und auf einer 24 GB-Karte ist das genau der Headroom, den der DFlash-Drafter auch will.
- Temperatur 1.0 ist die Empfehlung. Übernehmen Sie keine Sampling-Einstellungen von einem anderen lokalen Modell ohne zu testen.
- Vision und Tool-Aufrufe hängen von Ihrer Runtime ab. Tokios leitet Bildinhalte und Tool-Call-Felder an den Upstream-Endpunkt weiter — es fügt keine Fähigkeiten hinzu, die Ihre Runtime oder Quantisierung nicht hat. Prüfen Sie unterstützte Backends.
- Apache 2.0 ist eine echte Änderung für Meta. Llama 4 wird unter der Llama 4 Community License mit einer Acceptable-Use-Policy und einer Schwelle für große Produkte ausgeliefert. Muse Glimmer hat weder das eine noch das andere, aber lesen Sie die Lizenz selbst vor dem Aufbau darauf.
FAQ
How much VRAM does Muse Glimmer need?
How much VRAM does Muse Glimmer need?
18 GB für den 4-Bit-
q4_K_M-Build oder 20 GB mit dem DFlash-Drafter — also betreibt eine 24 GB-Karte wie eine RTX 3090 oder 4090 es, wobei der verbleibende Headroom in den KV-Cache geht. Der 8-Bit-Build benötigt 31 GB und BF16 benötigt 57 GB. Die transparente Berechnung: 29.6B Parameter × ~0.5 Bytes bei 4-Bit ≈ 15 GB an Gewichten, plus der Vision-Encoder, Embeddings und Overhead.Can Muse Glimmer run on a 24 GB GPU?
Can Muse Glimmer run on a 24 GB GPU?
Ja. Dies ist die Schlagzeile der Veröffentlichung — ein dichtes 30B-Agentenmodell, das vollständig resident auf einer Consumer-Karte bei 4-Bit ist. Verwenden Sie
muse-glimmer:30b-q4_K_M bei 18 GB oder muse-glimmer:30b-q4_K_M-dflash bei 20 GB, wenn Sie den Speculative-Decoding-Drafter wollen und den Speicher erübrigen können.Is Muse Glimmer open source?
Is Muse Glimmer open source?
Die Gewichte sind unter Apache 2.0 veröffentlicht, was permissiv ist und keine Acceptable-Use-Policy oder Benutzer-Schwellenwert mit sich bringt. Das ist eine Abkehr von der Llama Community License, die von Llama 4 verwendet wird. Beachten Sie, dass offene Gewichte und Open Source nicht dasselbe sind — die Trainingsdaten und Pipeline werden nicht veröffentlicht.
What is DFlash?
What is DFlash?
Ein leichtgewichtiges Drafter-Modell, das zusammen mit Muse Glimmer ausgeliefert wird. Es schlägt Blöcke von 16 Tokens vor, die das Hauptmodell in einem einzigen Durchgang verifiziert, statt Token für Token zu decodieren. Meta meldet 3.1x auf einer RTX 5090, 1.8x auf einem M5 Max und 1.5x auf einem M4 Max. Ziehen Sie ein Ollama-Tag, das auf
-dflash endet, um es zu bekommen — keine separate Konfiguration erforderlich.Is Muse Glimmer better than Qwen3.6 or Gemma 4?
Is Muse Glimmer better than Qwen3.6 or Gemma 4?
Metas eigene Benchmarks vergleichen es mit Gemma 4 31B und Qwen3.6 27B und favorisieren Muse Glimmer, aber das sind vom Hersteller durchgeführte Zahlen am Veröffentlichungstag. Alle 3 sitzen in derselben Größenklasse und laufen auf derselben Hardware, also ist die praktische Antwort, jeden zu betreiben und Ihre tatsächliche Arbeitslast zu testen — siehe Qwen3.6 und Gemma.
Is Muse Glimmer a Llama model?
Is Muse Glimmer a Llama model?
Nein. Es ist eine neue Familie von Meta Superintelligence Labs, destilliert aus einem größeren Lehrermodell namens Muse Spark, mit einer anderen Architektur und einer anderen Lizenz als Llama 4. Die Llama-Linie ist separat und verwendet weiterhin die Llama Community License.
How do I control how much Muse Glimmer thinks?
How do I control how much Muse Glimmer thinks?
Setzen Sie
Reasoning strength: low, medium, high oder xhigh in den System-Prompt. Höhere Einstellungen verbringen mehr Tokens mit Reasoning vor der Antwort, was sowohl die Qualität bei schweren Aufgaben als auch die Latenz erhöht. Dies wird auch über Tokios durchgereicht — setzen Sie es in der system-Nachricht Ihres API-Aufrufs.Can I use Muse Glimmer with a coding agent?
Can I use Muse Glimmer with a coding agent?
Ja — es ist dafür gebaut, mit Tool-Aufrufen gegen präzise Schemas und Fehlererholung über mehrstufige Workflows. Ob ein bestimmter Agent funktioniert, hängt davon ab, wie Ihre Runtime Tool-Aufrufe freilegt; siehe Coding-Agenten-Kompatibilität für die Matrix und Coding-Agenten mit lokalen Modellen für die Einrichtung.
Speculative decoding
Wie DFlash-artige Drafter funktionieren und wie Sie den Speedup selbst messen.
Coding agents with local models
Richten Sie Claude Code, Cline oder Aider auf ein Modell aus, das Sie selbst hosten.
What fits your GPU?
Dimensionieren Sie Modell und Kontext nach Ihrem VRAM oder Unified Memory.
Llama 4
Metas Mixture-of-Experts-Linie und warum 17B aktiv dennoch 67 GB benötigen.
Reach it from your phone
Verwenden Sie einen immer aktiven lokalen Agenten, wenn Sie nicht am Rechner sind.
Quickstart
Koppeln Sie einen Connector und registrieren Sie Ihr erstes Modell End-to-End.