Zum Hauptinhalt springen
Last verified: 2026-08-10
Muse Glimmer ist das Open-Weight-Agentenmodell von Meta Superintelligence Labs, veröffentlicht im August 2026 unter Apache 2.0. Es ist ein dichter 29.6B-Parameter-kausaler Transformer mit einem eingebauten 1.8B ViT-G/14-Wahrnehmungsencoder, einem 131,072-Token-Kontextfenster und Text-plus-Bild-Input. Meta hat es für Always-On-Lokale-Agenten gebaut: Tool-Aufrufe mit präzisen Schemas, mehrstufiges Reasoning und Retry nach Fehlern — auf einer Consumer-GPU oder einem Mac. Die Zahl, die für das Selbsthosten zählt, ist 18 GB. Das ist der 4-Bit-Download, und deshalb passt dieses Modell auf Hardware, die Sie wahrscheinlich bereits besitzen.
Betreiben Sie dieses Modell bereits? Registrieren Sie es bei Tokios, um es als https://api.tokios.com von jedem Client aus zu erreichen.

Muse Glimmer auf einen Blick

Sources: Meta’s Muse Glimmer announcement and the model card.
Muse Spark Open, das Lehrermodell, ist jetzt veröffentlicht. Meta hat die 816B/42B-aktiven MoE-Gewichte am 15. Oktober 2026 unter der Muse Model License veröffentlicht — siehe Muse Spark Open. Glimmer bleibt die Consumer-GPU-Option; Spark Open ist die Frontier-Workstation-Option.

Varianten und Tags

Ollama veröffentlicht 13 Builds. Die -dflash-Varianten bündeln den Speculative-Decoding-Drafter, der etwa 2 GB kostet und einen großen Geschwindigkeitszuwachs bringt — siehe DFlash Speculative Decoding unten. Jeder Tag trägt den vollständigen 131,072-Token-Kontext und akzeptiert Text und Bilder. Metas eigenes GGUF-Repo, meta-models/Muse-Glimmer-30B-GGUF, benennt seine beiden K-Quant-Builds als muse-glimmer-30B-kquant-17gb.gguf (zielt auf 24 GB VRAM) und muse-glimmer-30B-kquant-dynamic.gguf (zielt auf 32 GB), mit dem Drafter als dflash-kquant.gguf. Bestätigen Sie die Größen gegen ollama.com/library/muse-glimmer, bevor Sie sich auf eines festlegen — Quantisierungen werden neu geschnitten.

Warum Dichte hier wichtig ist

Aktuelle Flaggschiff-Veröffentlichungen sind fast alle Mixture-of-Experts und MoE hat eine Speicherfalle: Routing aktiviert einen Bruchteil der Parameter pro Token, aber jedes Expert-Gewicht bleibt resident. Llama 4 Scout aktiviert 17B Parameter und benötigt dennoch ~67 GB, weil der Speicher mit den gesamten Parametern skaliert, nicht den aktiven. Muse Glimmer wird bei 30B bewusst dicht gehalten, damit das ganze Modell passt. Die Arithmetik ist unauffällig, was der Punkt ist:
  • 29.6B Parameter × ~0.5 Bytes bei 4-Bit ≈ 15 GB an Gewichten
  • ~18 GB wie ausgeliefert, sobald der Vision-Encoder, Embeddings und Metadaten enthalten sind
  • Fügen Sie den KV-Cache für Ihren Kontext oben drauf — siehe KV-Cache und Kontext
Es gibt keine Offloading-Stufe, um herumzuplanen, und keine Expert-Parallelismus-Topologie zu entwerfen. Wenn Sie 24 GB haben, ist das Modell resident. Siehe Speicher und Offloading für was sich ändert, sobald Gewichte über die GPU hinaus auslagern.

Hardware-Eignung

Urteile setzen den 4-Bit-Build bei einer bescheidenen Kontextlänge voraus. Meta meldet Tests auf MacBook M4 Max, M5 Max und RTX 5090. Auf einer 24 GB-Karte passt der -dflash-Build, aber der Drafter und ein langer Kontext konkurrieren um denselben Headroom. Beginnen Sie bei einem bescheidenen Kontext, messen Sie, und erhöhen Sie ihn dann. Für die Dimensionierungsmethode siehe Welche Modellgröße passt auf Ihre GPU?.

Modell ausgewählt? Verbinden Sie es

Ein authentifizierter Endpunkt unter https://api.tokios.com — keine eingehenden Ports, etwa 5 Minuten.

Ausführen — vom Anfänger bis zum Fortgeschrittenen

Lassen Sie -dflash weg, wenn Sie bei Speicher knapp sind. Um Metas GGUF-Repo direkt statt des Ollama-Bibliothek-Builds zu ziehen:
Belassen Sie Ollama auf seinem Standard-http://127.0.0.1:11434 und erhöhen Sie num_ctx von seinem kleinen Standardwert nur so weit, wie Ihr freier Speicher es zulässt. Siehe Ollama Remote-Zugriff.

Sampling-Einstellungen

Meta empfiehlt temperature = 1.0, top_p = 0.95 und top_k = 64. Eine Temperatur von 1.0 ist höher als viele lokale Modelle bevorzugen — das Herabsetzen auf den 0.6–0.7-Bereich, der für andere Checkpoints passt, ist hier eine häufige Ursache für verschlechterte Ausgabe.

DFlash Speculative Decoding

DFlash ist ein leichtgewichtiges Begleitmodell, das Blöcke von 16 Tokens vorschlägt, die das Hauptmodell in einem Durchgang verifiziert, statt strikt ein Token nach dem anderen zu generieren. Meta meldet: Was dies bemerkenswert macht, ist die Verpackung, nicht die Neuheit. Speculative Decoding bedeutet normalerweise, ein kompatibles Draft-Modell zu beschaffen und die Paarung selbst abzustimmen. Hier wird der Drafter mit den Gewichten ausgeliefert und die -dflash Ollama-Tags aktivieren ihn beim Pull — etwa 2 GB für einen Speedup, für den Sie andernfalls einen Nachmittag mit Konfigurieren verbringen würden. Der Speedup gilt für das Decoding, also hilft er am meisten, wo Output lang ist: Agenten-Schleifen, Codegenerierung und erweitertes Reasoning bei high oder xhigh. Er bringt wenig für kurze Antworten. Siehe Speculative Decoding für den Mechanismus und wie Sie den Gewinn auf Ihrer eigenen Hardware messen.

Fähigkeiten

  • Kontrollierbares Reasoning. Setzen Sie die Stärke im System-Prompt mit Reasoning strength: low (oder medium, high, xhigh). Höhere Einstellungen verbringen mehr Tokens vor der Antwort — erhöhen Sie es für schwere Aufgaben, senken Sie es für Latenz.
  • Vision. Der Perceptions-Encoder ist Teil des Modells, nicht ein Add-on, also funktioniert Bild-Input bei jedem Build. Output ist nur Text.
  • Agentische Nutzung. Meta hat es für Ende-zu-Ende-Aufgabenerfüllung trainiert und evaluiert: Planung, Tool-Aufruf gegen präzise Schemas, Ergebnisprüfung und Erholung nach Fehlern. Das ist ein anderes Ziel als ein allgemeines Chat-Modell — siehe Coding-Agenten mit lokalen Modellen.
  • Mehrsprachig. 100+ Sprachen.

Benchmarks

Von Meta gemeldet, für ein heute veröffentlichtes Modell. Es existiert noch keine unabhängige Reproduktion — betrachten Sie diese als die Ansprüche des Herstellers, bis Drittauswertungen erscheinen. Meta positioniert Muse Glimmer gegen Gemma 4 31B und Qwen3.6 27B über Agenten-, Coding-, Multimodal-, Sicherheits- und Reasoning-Aufgaben — dieselbe Größenklasse, also vergleichen Sie sie mit Ihrer eigenen Arbeitslast vor dem Wechsel.

Mit Tokios verbinden

Ein immer aktiver lokaler Agent ist einer, den Sie erreichen wollen, wenn Sie nicht an der Maschine sind, die ihn ausführt. Tokios sitzt nach Ihrer Runtime: Es lädt das Modell nicht herunter und ersetzt nicht Ollama.
1

Keep your local runtime running

Starten Sie Muse Glimmer in Ollama, LM Studio, llama.cpp oder vLLM und belassen Sie es auf Loopback.
2

Pair the Tokios connector

Melden Sie sich bei tokios.com/console an, öffnen Sie den Setup-Tab und klicken Sie auf Start pairing, um einen einmaligen Pairing-Code (TKS-XXXX-XXXX) zu erhalten. Führen Sie den Installer auf der Maschine aus, die das Modell ausführt:
Windows
macOS
Linux
Dann approve Sie das Gerät auf dem Setup- oder Connectors-Tab.
3

Register a deployment

Registrieren Sie im Models-Tab die Upstream-Modell-ID (zum Beispiel muse-glimmer:30b-q4_K_M-dflash) unter einem öffentlichen Deployment-Namen wie muse-glimmer. Clients senden den Deployment-Namen im model-Feld, niemals die lokale ID — daher ändert späteres Re-Quantisieren nichts auf der Client-Seite.
4

Create an API key

Klicken Sie im Keys-Tab auf Create key. Kopieren Sie den sk-tok-…-Schlüssel jetzt — er wird nur einmal angezeigt.

Von überall aufrufen

Einschränkungen

  • Benchmarks sind vom Hersteller gemeldet. Meta hat sie am Veröffentlichungstag veröffentlicht. Warten Sie auf unabhängige Auswertungen, bevor Sie die Coding-Scores als abgeschlossen betrachten.
  • 131,072 Tokens sind eine Obergrenze, kein Ziel. Lange Kontexte fügen KV-Cache-Speicher zu den 18 GB Gewichten hinzu, und auf einer 24 GB-Karte ist das genau der Headroom, den der DFlash-Drafter auch will.
  • Temperatur 1.0 ist die Empfehlung. Übernehmen Sie keine Sampling-Einstellungen von einem anderen lokalen Modell ohne zu testen.
  • Vision und Tool-Aufrufe hängen von Ihrer Runtime ab. Tokios leitet Bildinhalte und Tool-Call-Felder an den Upstream-Endpunkt weiter — es fügt keine Fähigkeiten hinzu, die Ihre Runtime oder Quantisierung nicht hat. Prüfen Sie unterstützte Backends.
  • Apache 2.0 ist eine echte Änderung für Meta. Llama 4 wird unter der Llama 4 Community License mit einer Acceptable-Use-Policy und einer Schwelle für große Produkte ausgeliefert. Muse Glimmer hat weder das eine noch das andere, aber lesen Sie die Lizenz selbst vor dem Aufbau darauf.

FAQ

18 GB für den 4-Bit-q4_K_M-Build oder 20 GB mit dem DFlash-Drafter — also betreibt eine 24 GB-Karte wie eine RTX 3090 oder 4090 es, wobei der verbleibende Headroom in den KV-Cache geht. Der 8-Bit-Build benötigt 31 GB und BF16 benötigt 57 GB. Die transparente Berechnung: 29.6B Parameter × ~0.5 Bytes bei 4-Bit ≈ 15 GB an Gewichten, plus der Vision-Encoder, Embeddings und Overhead.
Ja. Dies ist die Schlagzeile der Veröffentlichung — ein dichtes 30B-Agentenmodell, das vollständig resident auf einer Consumer-Karte bei 4-Bit ist. Verwenden Sie muse-glimmer:30b-q4_K_M bei 18 GB oder muse-glimmer:30b-q4_K_M-dflash bei 20 GB, wenn Sie den Speculative-Decoding-Drafter wollen und den Speicher erübrigen können.
Die Gewichte sind unter Apache 2.0 veröffentlicht, was permissiv ist und keine Acceptable-Use-Policy oder Benutzer-Schwellenwert mit sich bringt. Das ist eine Abkehr von der Llama Community License, die von Llama 4 verwendet wird. Beachten Sie, dass offene Gewichte und Open Source nicht dasselbe sind — die Trainingsdaten und Pipeline werden nicht veröffentlicht.
Ein leichtgewichtiges Drafter-Modell, das zusammen mit Muse Glimmer ausgeliefert wird. Es schlägt Blöcke von 16 Tokens vor, die das Hauptmodell in einem einzigen Durchgang verifiziert, statt Token für Token zu decodieren. Meta meldet 3.1x auf einer RTX 5090, 1.8x auf einem M5 Max und 1.5x auf einem M4 Max. Ziehen Sie ein Ollama-Tag, das auf -dflash endet, um es zu bekommen — keine separate Konfiguration erforderlich.
Metas eigene Benchmarks vergleichen es mit Gemma 4 31B und Qwen3.6 27B und favorisieren Muse Glimmer, aber das sind vom Hersteller durchgeführte Zahlen am Veröffentlichungstag. Alle 3 sitzen in derselben Größenklasse und laufen auf derselben Hardware, also ist die praktische Antwort, jeden zu betreiben und Ihre tatsächliche Arbeitslast zu testen — siehe Qwen3.6 und Gemma.
Nein. Es ist eine neue Familie von Meta Superintelligence Labs, destilliert aus einem größeren Lehrermodell namens Muse Spark, mit einer anderen Architektur und einer anderen Lizenz als Llama 4. Die Llama-Linie ist separat und verwendet weiterhin die Llama Community License.
Setzen Sie Reasoning strength: low, medium, high oder xhigh in den System-Prompt. Höhere Einstellungen verbringen mehr Tokens mit Reasoning vor der Antwort, was sowohl die Qualität bei schweren Aufgaben als auch die Latenz erhöht. Dies wird auch über Tokios durchgereicht — setzen Sie es in der system-Nachricht Ihres API-Aufrufs.
Ja — es ist dafür gebaut, mit Tool-Aufrufen gegen präzise Schemas und Fehlererholung über mehrstufige Workflows. Ob ein bestimmter Agent funktioniert, hängt davon ab, wie Ihre Runtime Tool-Aufrufe freilegt; siehe Coding-Agenten-Kompatibilität für die Matrix und Coding-Agenten mit lokalen Modellen für die Einrichtung.

Speculative decoding

Wie DFlash-artige Drafter funktionieren und wie Sie den Speedup selbst messen.

Coding agents with local models

Richten Sie Claude Code, Cline oder Aider auf ein Modell aus, das Sie selbst hosten.

What fits your GPU?

Dimensionieren Sie Modell und Kontext nach Ihrem VRAM oder Unified Memory.

Llama 4

Metas Mixture-of-Experts-Linie und warum 17B aktiv dennoch 67 GB benötigen.

Reach it from your phone

Verwenden Sie einen immer aktiven lokalen Agenten, wenn Sie nicht am Rechner sind.

Quickstart

Koppeln Sie einen Connector und registrieren Sie Ihr erstes Modell End-to-End.