跳转到主要内容
最后验证时间:2026-08-10
Muse Glimmer 是 Meta Superintelligence Labs 的开放权重智能体模型,于 2026 年八月发布,采用 Apache 2.0 许可证。它是一个 密集 的 29.6B 参数因果 Transformer,内置 1.8B ViT-G/14 感知编码器、131,072 token 上下文窗口,支持文本加图像输入。Meta 为始终在线的本地智能体而构建:精确模式的工具调用、多步推理,以及失败后重试 — 只需一块消费级 GPU 或一台 Mac。 自托管的关键数字是 18 GB。这是 4-bit 下载大小,也是这个模型能装入你可能已有的硬件的原因。
已经在运行此模型?在 Tokios 注册它,即可从任何客户端通过 https://api.tokios.com 访问。

Muse Glimmer 概览

来源:Meta 的 Muse Glimmer 公告和模型卡片。
教师模型 Muse Spark Open 现已发布。 Meta 发布了 816B/42B 活跃参数的 MoE 权重,日期为十月 15, 2026,采用 Muse Model License — 参见 Muse Spark Open。Glimmer 仍是消费级 GPU 选项;Spark Open 是前沿工作站选项。

变体与标签

Ollama 发布 13 个构建版本。-dflash 变体捆绑了推测解码草稿模型,约增加 2 GB,但能大幅提升速度 — 参见下方 DFlash 推测解码。 每个标签都携带完整的 131,072 token 上下文,接受文本和图像。Meta 自己的 GGUF 仓库 meta-models/Muse-Glimmer-30B-GGUF 将两个 K-quant 构建命名为 muse-glimmer-30B-kquant-17gb.gguf(目标 24 GB 显存)和 muse-glimmer-30B-kquant-dynamic.gguf(目标 32 GB),草稿模型为 dflash-kquant.gguf。 在确定使用某个版本前,请先对照 ollama.com/library/muse-glimmer 确认大小 — 量化版本会重新切割。

密集架构的意义

近期的旗舰发布几乎全是混合专家,而 MoE 有一个内存陷阱:路由每个 token 只激活一部分参数,但所有专家权重都常驻内存。Llama 4 Scout 激活 17B 参数,仍需约 67 GB,因为内存按总参数计算,而非活跃参数。 Muse Glimmer 采用密集架构,30B 就是为了整个模型能装入。计算平平无奇,这正是重点:
  • 29.6B 参数 × 约 0.5 字节(4-bit 下)≈ 15 GB 权重
  • 含视觉编码器、嵌入和元数据后,发布大小约 18 GB
  • 在此基础上加上你的上下文所需的 KV 缓存 — 参见 KV 缓存和上下文
没有卸载层需要规划,也没有专家并行拓扑需要设计。如果你有 24 GB,模型就常驻内存。权重溢出 GPU 后的变化,参见内存与卸载。

硬件适配

评估基于 4-bit 构建和适中的上下文长度。Meta 报告在 MacBook M4 Max、M5 Max 和 RTX 5090 上进行了测试。 在 24 GB 显卡上,-dflash 构建可以装入,但草稿模型和长上下文会争抢相同的余量。从适中的上下文开始,测量后再提升。关于估算方法,参见什么尺寸的模型适合你的 GPU?。

选好了模型?连接它

一个认证端点 https://api.tokios.com — 无需入站端口,约 5 分钟。

运行方式 — 从入门到进阶

内存紧张时去掉 -dflash。要直接拉取 Meta 的 GGUF 仓库而非 Ollama 的库构建:
保持 Ollama 默认的 http://127.0.0.1:11434,仅在你的空闲内存允许范围内调高 num_ctx。参见 Ollama 远程访问。

采样设置

Meta 推荐 temperature = 1.0、top_p = 0.95 和 top_k = 64。温度 1.0 高于许多本地模型的常用值 — 将其降至适合其他检查点的 0.6–0.7 范围是导致此处输出退化的常见原因。

DFlash 推测解码

DFlash 是一个轻量级伴随模型,每次提议 16 个 token 的块供主模型在一次传递中验证,而非严格地逐个生成 token。Meta 报告: 引人注目的是打包方式,而非技术本身的新颖性。推测解码通常意味着自行寻找兼容的草稿模型并调优配对。这里草稿模型随权重一起发布,-dflash Ollama 标签在拉取时即启用 — 约 2 GB 换来否则要花一个下午配置才能获得的加速。 加速针对的是解码,因此在输出较长时帮助最大:智能体循环、代码生成,以及在 high 或 xhigh 下的扩展推理。对短回答帮助不大。机制及如何在自己的硬件上测量收益,参见推测解码。

能力

  • 可控推理。 在系统提示中用 Reasoning strength: low(或 medium、high、xhigh)设置强度。更高的设置在回答前消耗更多 token — 困难任务时调高,追求低延迟时调低。
  • 视觉。 感知编码器是模型的一部分,而非外挂组件,因此任何构建版本都支持图像输入。输出仅为文本。
  • 智能体用途。 Meta 针对端到端任务完成对其进行了训练和评估:规划、按精确模式调用工具、检查结果、从失败中恢复。这与通用聊天模型的目标不同 — 参见使用本地模型的编码智能体。
  • 多语言。 100+ 种语言。

基准测试

Meta 在发布当天报告。尚无独立复现 — 在第三方评估出现前,请将其视为厂商声明。 Meta 将 Muse Glimmer 与 Gemma 4 31B 和 Qwen3.6 27B 在智能体、编码、多模态、安全和推理任务上进行对比 — 同一规模级别,因此在切换前请先用你自己的工作负载对比测试。

通过 Tokios 连接

始终在线的本地智能体意味着当你不在运行它的机器旁时也能访问。Tokios 位于你的运行时之后:它不下载模型,也不替代 Ollama。
1

保持本地运行时运行

在 Ollama、LM Studio、llama.cpp 或 vLLM 中启动 Muse Glimmer,保持绑定到回环地址。
2

配对 Tokios 连接器

在 tokios.com/console 登录,打开 Setup 标签,点击 Start pairing 获取一次性配对码(TKS-XXXX-XXXX)。在运行模型的机器上运行安装程序:
Windows
macOS
Linux
然后approve该设备,可在 Setup 或 Connectors 标签上操作。
3

注册部署

在 Models 标签中,注册上游模型 ID(例如 muse-glimmer:30b-q4_K_M-dflash),使用公共部署名称如 muse-glimmer。客户端在 model 字段中发送部署名称,而非本地 ID — 因此后续重新量化不会影响客户端。
4

创建 API 密钥

在 Keys 标签中,点击 Create key。立即复制 sk-tok-… 密钥 — 它仅显示一次。

从任何地方调用

注意事项

  • 基准测试由厂商报告。 Meta 在发布当天公布。在将编码分数视为定论前,请等待独立评估。
  • 131,072 token 是上限,而非目标。 长上下文在 18 GB 权重之上增加 KV 缓存内存,而在 24 GB 显卡上,这恰好也是 DFlash 草稿模型所需的余量。
  • 温度 1.0 是推荐值。 未经测试不要从其他本地模型沿用采样设置。
  • 视觉和工具调用取决于你的运行时。 Tokios 将图像内容和工具调用字段透传到上游端点 — 它不会添加你的运行时或量化所缺少能力。请查看支持的后端。
  • Apache 2.0 对 Meta 是一个实质性的变化。 Llama 4 在 Llama 4 Community License 下发布,附带可接受使用政策和大型产品阈值。Muse Glimmer 没有这些限制,但在基于它构建前请自行阅读许可证。

常见问题

需 18 GB(4-bit q4_K_M 构建),或 20 GB 带 DFlash 草稿模型 — 因此 24 GB 显卡如 RTX 3090 或 4090 可以运行,剩余空间用于 KV 缓存。8-bit 构建需 31 GB,BF16 需 57 GB。透明的计算:29.6B 参数 × 约 0.5 字节(4-bit 下)≈ 15 GB 权重,加上视觉编码器、嵌入和开销。
可以。这是本次发布的重点 — 一个密集的 30B 智能体模型,在 4-bit 下完全常驻于一张消费级显卡。使用 muse-glimmer:30b-q4_K_M(18 GB),或者如果你需要推测解码草稿模型且有余量,使用 muse-glimmer:30b-q4_K_M-dflash(20 GB)。
权重在 Apache 2.0 下发布,这是一个宽松许可证,没有可接受使用政策或用户数阈值。这与 Llama 4 使用的 Llama Community License 不同。请注意,开放权重和开源不是一回事 — 训练数据和流程未发布。
一个随 Muse Glimmer 一起发布的轻量级草稿模型。它提议 16 个 token 的块供主模型在一次传递中验证,而非逐个解码 token。Meta 报告 3.1x(RTX 5090)、1.8x(M5 Max)、1.5x(M4 Max)。拉取以 -dflash 结尾的 Ollama 标签即可获得 — 无需单独配置。
Meta 自己的基准测试将其与 Gemma 4 31B 和 Qwen3.6 27B 对比,结果偏向 Muse Glimmer,这些是发布当天的厂商数据。3 者处于同一规模级别,运行在相同硬件上,因此实际答案是分别部署并用你的实际工作负载测试 — 参见 Qwen3.6 和 Gemma。
不是。它来自 Meta Superintelligence Labs 的新系列,从更大的教师模型 Muse Spark 蒸馏而来,架构和许可证都与 Llama 4 不同。Llama 产品线是独立的,仍使用 Llama Community License。
在系统提示中放入 Reasoning strength: low、medium、high 或 xhigh。更高的设置在回答前花更多 token 思考,既提升困难任务的质量也增加延迟。这也通过 Tokios 传递 — 在 API 调用的 system 消息中设置。
可以 — 它就是为此而构建的,支持按精确模式进行工具调用,以及多步工作流中的失败恢复。具体智能体是否可用取决于你的运行时如何暴露工具调用;参见编码智能体兼容性查看矩阵,以及使用本地模型的编码智能体了解设置方法。

推测解码

DFlash 风格的草稿模型如何工作,以及如何自行测量加速效果。

使用本地模型的编码智能体

将 Claude Code、Cline 或 Aider 指向你托管的模型。

什么尺寸适合你的 GPU?

根据你的显存或统一内存调整模型和上下文大小。

Llama 4

Meta 的混合专家系列,以及为何 17B 活跃参数仍需 67 GB。

在手机上访问

离开机器时使用始终在线的本地智能体。

快速入门

配对连接器并端到端注册你的第一个模型。