Muse Glimmer en un coup d’œil
Variantes et tags
Ollama publie 13 builds. Les variantes-dflash intègrent le drafter de décodage spéculatif, ce qui coûte environ 2 GB et offre un gain de vitesse important — consultez Décodage spéculatif DFlash ci-dessous.
meta-models/Muse-Glimmer-30B-GGUF, nomme ses deux builds K-quant muse-glimmer-30B-kquant-17gb.gguf (cible 24 GB VRAM) et muse-glimmer-30B-kquant-dynamic.gguf (cible 32 GB), avec le drafter comme dflash-kquant.gguf.
Confirmez les tailles sur ollama.com/library/muse-glimmer avant de standardiser — les quantifications sont refaites.
Pourquoi dense compte ici
Les sorties phares récentes sont presque toutes mixture-of-experts, et le MoE a un piège mémoire : le routage active une fraction des paramètres par token, mais tous les poids d’experts restent résidents. Llama 4 Scout active 17B paramètres et a quand même besoin de ~67 GB, car la mémoire évolue avec les paramètres totaux, pas les actifs. Muse Glimmer passe en dense à 30B précisément pour que le modèle entier tienne. L’arithmétique est banale, ce qui est le but :- 29.6B paramètres × ~0.5 bytes à 4-bit ≈ 15 GB de poids
- ~18 GB tel que livré, une fois l’encodeur de vision, les embeddings et les métadonnées inclus
- Ajoutez le cache KV pour votre contexte en plus — consultez Cache KV et contexte
Adéquation matérielle
Les verdicts supposent le build à 4-bit pour une longueur de contexte modeste. Meta rapporte des tests sur MacBook M4 Max, M5 Max et RTX 5090.-dflash tient, mais le drafter et un contexte long se disputent la même marge. Commencez par un contexte modeste, mesurez, puis augmentez. Pour la méthode de dimensionnement, consultez quel modèle tient sur votre GPU ?.
Vous avez choisi un modèle ? Connectez-le
https://api.tokios.com — pas de ports entrants, environ 5 minutes.Exécutez-le — du débutant à l’avancé
- Ollama (le plus simple)
- LM Studio (interface graphique)
- llama.cpp
- vLLM (service GPU)
-dflash si vous manquez de mémoire. Pour tirer directement le dépôt GGUF de Meta au lieu du build de la bibliothèque Ollama :http://127.0.0.1:11434 par défaut et augmentez num_ctx depuis sa petite valeur par défaut seulement aussi loin que votre mémoire libre le permet. Consultez Accès distant à Ollama.Paramètres d’échantillonnage
Meta recommandetemperature = 1.0, top_p = 0.95 et top_k = 64. Une température de 1.0 est plus élevée que ce que beaucoup de modèles locaux veulent — la baisser à la plage 0.6–0.7 qui convient à d’autres checkpoints est une cause fréquente de sortie dégradée ici.
Décodage spéculatif DFlash
DFlash est un modèle compagnon léger qui propose des blocs de 16 tokens au modèle principal pour vérification en un seul passage, au lieu de générer strictement un token à la fois. Meta rapporte :-dflash l’activent au pull — environ 2 GB pour un gain de vitesse qui vous prendrait autrement un après-midi de configuration.
Le gain de vitesse est pour le décodage, donc il aide surtout là où la sortie est longue : boucles d’agents, génération de code, et raisonnement étendu à high ou xhigh. Il fait peu pour les réponses courtes. Consultez décodage spéculatif pour le mécanisme et comment mesurer le gain sur votre propre matériel.
Capacités
- Raisonnement contrôlable. Réglez l’intensité dans le prompt système avec
Reasoning strength: low(oumedium,high,xhigh). Des réglages plus élevés dépensent plus de tokens avant de répondre — augmentez pour les tâches difficiles, baissez pour la latence. - Vision. L’encodeur de perception fait partie du modèle, pas un module ajouté, donc l’entrée d’image fonctionne sur tout build. La sortie est du texte uniquement.
- Usage agentique. Meta l’a entraîné et évalué pour l’accomplissement de tâches de bout en bout : planification, invocation d’outils selon des schémas précis, vérification des résultats, et reprise après échec. C’est une cible différente d’un modèle de chat général — consultez agents de codage avec des modèles locaux.
- Multilingue. 100+ langues.
Benchmarks
Rapportés par Meta, sur un modèle publié aujourd’hui. Aucune reproduction indépendante n’existe encore — considérez ces chiffres comme les affirmations du fournisseur jusqu’à l’apparition d’évaluations tierces.Connectez-le avec Tokios
Un agent local toujours actif est un agent que vous voulez atteindre quand vous n’êtes pas sur la machine qui l’exécute. Tokios se place après votre runtime : il ne télécharge pas le modèle et ne remplace pas Ollama.Gardez votre runtime local actif
Associez le connecteur Tokios
TKS-XXXX-XXXX). Lancez l’installateur sur la machine qui exécute le modèle :Enregistrez un déploiement
muse-glimmer:30b-q4_K_M-dflash) sous un nom de déploiement public comme muse-glimmer. Les clients envoient le nom de déploiement dans le champ model, jamais l’id local — donc re-quantifier plus tard ne change rien côté client.Créez une clé API
sk-tok-… maintenant — elle n’est affichée qu’une seule fois.Appelez-le depuis n’importe où
Mises en garde
- Les benchmarks sont rapportés par le fournisseur. Meta les a publiés le jour de la sortie. Attendez des évaluations indépendantes avant de considérer les scores de codage comme acquis.
- 131,072 tokens est un plafond, pas une cible. Les contextes longs ajoutent de la mémoire de cache KV en plus des poids de 18 GB, et sur une carte de 24 GB c’est exactement la marge que le drafter DFlash veut aussi.
- Température 1.0 est la recommandation. Ne reportez pas les paramètres d’échantillonnage d’un autre modèle local sans tester.
- La vision et les appels d’outils dépendent de votre runtime. Tokios transmet le contenu d’image et les champs d’appels d’outils au point de terminaison amont — il n’ajoute pas de capacités que votre runtime ou votre quantification n’a pas. Consultez backends pris en charge.
- Apache 2.0 est un vrai changement pour Meta. Llama 4 est sous la Llama 4 Community License avec une politique d’utilisation acceptable et un seuil pour les grands produits. Muse Glimmer n’a ni l’un ni l’autre, mais lisez la licence vous-même avant de construire dessus.
FAQ
Combien de VRAM Muse Glimmer nécessite-t-il ?
Combien de VRAM Muse Glimmer nécessite-t-il ?
q4_K_M, ou 20 GB avec le drafter DFlash — donc une carte de 24 GB comme une RTX 3090 ou 4090 l’exécute, la marge restante allant au cache KV. Le build 8-bit nécessite 31 GB et BF16 nécessite 57 GB. Le calcul transparent : 29.6B paramètres × ~0.5 bytes à 4-bit ≈ 15 GB de poids, plus l’encodeur de vision, les embeddings et les surcoûts.Muse Glimmer peut-il fonctionner sur un GPU de 24 GB ?
Muse Glimmer peut-il fonctionner sur un GPU de 24 GB ?
muse-glimmer:30b-q4_K_M à 18 GB, ou muse-glimmer:30b-q4_K_M-dflash à 20 GB si vous voulez le drafter de décodage spéculatif et pouvez épargner la mémoire.Muse Glimmer est-il open source ?
Muse Glimmer est-il open source ?
Qu'est-ce que DFlash ?
Qu'est-ce que DFlash ?
-dflash pour l’obtenir — pas de configuration séparée.Muse Glimmer est-il meilleur que Qwen3.6 ou Gemma 4 ?
Muse Glimmer est-il meilleur que Qwen3.6 ou Gemma 4 ?
Muse Glimmer est-il un modèle Llama ?
Muse Glimmer est-il un modèle Llama ?
Comment contrôler la quantité de réflexion de Muse Glimmer ?
Comment contrôler la quantité de réflexion de Muse Glimmer ?
Puis-je utiliser Muse Glimmer avec un agent de codage ?
Puis-je utiliser Muse Glimmer avec un agent de codage ?
Reasoning strength: low,medium,highouxhighdans le prompt système. Des réglages plus élevés dépensent plus de tokens pour raisonner avant de répondre, ce qui augmente à la fois la qualité sur les tâches difficiles et la latence. Cela transite aussi par Tokios — définissez-le dans le messagesystemde votre appel API.