Last verified: 2026-10-14
你能在本地运行 MiniMax 吗?
MiniMax 在其官方仓库中仅发布 safetensors(BF16/F32)格式——没有官方的 GGUF、AWQ 或 MLX。所有量化版本均来自社区(Unsloth、bartowski 等)。这意味着:
所以实际情况是:MiniMax 是大内存模型,而非笔记本 GPU 模型。如果你拥有 128 GB+ 统一内存 Mac 或拥有 128–512 GB RAM 的工作站,M2 系列可以通过社区 GGUF 运行。低于此配置,MiniMax 实际上就是一个 API/云端模型。
“Ollama 上的 MiniMax”是云端,而非本地
minimax-m3、minimax-m2.7、minimax-m2.5 和 minimax-m2 均存在于 Ollama 库中——但每个都仅暴露 :cloud 标签。这些标签将请求代理到 MiniMax 的托管 API;权重不会下载到你的机器,因此没有本地内容供连接器指向。要在你控制的硬件上自托管 MiniMax,请使用下文中的社区 GGUF(llama.cpp/LM Studio)或 safetensors(vLLM/SGLang)——而不是 Ollama 的 :cloud 标签。
在你自己的硬件上运行
- Community GGUF — M2 line (big-RAM Mac/workstation)
- vLLM / SGLang — M3 (multi-GPU server)
在 128 GB+ 统一内存 Mac 或大内存工作站上,通过
llama.cpp 或 LM Studio 运行 M2.5/M2.7 社区 GGUF。从 Unsloth 或 bartowski 的量化版本开始,选择适合你组合内存的最大版本(UD-Q3_K_XL ≈ 101 GB,UD-IQ4_XS ≈ 108 GB;Q8_0 ≈ 243 GB 需要 ~256 GB RAM)。然后 LM Studio 会在 http://127.0.0.1:1234/v1 上暴露兼容 OpenAI 的 API。变体与规格
以下所有数值均来自 Hugging Face 上的 MiniMax 模型卡片和 MiniMax 的发布说明。M2、M2.1、M2.5 和 M2.7 在 MiniMax 自己的文档中标记为已被取代——M3 是当前版本。在标准化之前,请对照模型卡片进行验证。
来源:
MiniMaxAI/MiniMax-M3、MiniMaxAI/MiniMax-M2、MiniMax 发布说明、ollama.com/library/minimax-m3。
许可证因版本而异。 M2 是 MIT-with-attribution(宽松),M2.7 是非商业(商业使用需要书面授权),M3 使用 MiniMax Community License(低于收入阈值免费,需注明 “Built with MiniMax M3”)。在任何商业部署之前,请阅读特定模型卡片上的
LICENSE/LICENSE-MODEL 文件。你应该运行哪个 MiniMax?
- M3 适合需要当前旗舰——长上下文、多模态、智能体——并且拥有多 GPU 服务器的情况(也可以接受在大内存机器上
llama.cpp的稀疏注意力限制)。 - M2 / M2.7 适合拥有 128 GB 统一内存 Mac 或大内存工作站,并且想要一个可以通过成熟社区 GGUF 现在 运行的编程智能体模型的情况。M2 拥有最成熟的第三方工具;M2.7 是较新的编程版本(非商业许可证)。
使用 Tokios 连接
一旦 MiniMax 在你自己的硬件上运行——LM Studio、llama.cpp、vLLM 或 SGLang 暴露兼容 OpenAI 的 /v1——配对 Tokios 连接器,以便你可以从 Claude Code、Cline 或任何其他兼容客户端通过 https://api.tokios.com 访问它,而不仅仅局限于那台机器。
1
配对 Tokios 连接器
在 tokios.com/console 登录,打开 Setup 选项卡,并点击 Start pairing 获取一次性配对码(然后 approve 该设备,在 Setup 或 Connectors 选项卡中操作。
TKS-XXXX-XXXX)。在运行 MiniMax 的机器上安装并运行连接器:macOS
Linux
2
将连接器指向你的运行时的 /v1 API
LM Studio 提供
http://127.0.0.1:1234/v1;vLLM/SGLang 提供 http://127.0.0.1:8000/v1。将正确的那个设置为 tokios-connector.json 中的上游——参见 连接器配置。3
注册部署
在 Models 选项卡中,注册模型并选择一个公共部署名称,例如
minimax-tunnel。客户端在 model 字段中发送的是这个名称——而不是上游模型 ID。4
创建 API 密钥
在 Keys 选项卡中,点击 Create key。立即复制
sk-tok-… 密钥——它仅显示一次。从任何地方调用
注意事项
- MiniMax 仅发布 safetensors——每个 GGUF/AWQ/MLX 构建都是社区制作的。在依赖某个版本之前,请检查量化作者。
- Ollama 的
minimax-*标签仅限:cloud使用——它们在 MiniMax 的基础设施上运行,而不是你的。如果你想本地运行,请通过社区 GGUF 或 safetensors 自托管。 llama.cpp尚不支持 MiniMax 稀疏注意力,因此 M3 的本地 GGUF 运行会回退到密集注意力并失去 M3 完整的长上下文优势——请使用 vLLM/SGLang 获得真实体验。- 这些是大内存 MoE 模型——即使每个 token 仅激活 ~10–23B 参数,所有参数也必须放入内存。请计划使用 128 GB+ 的机器,而不是单张消费级 GPU。
快速入门
配对连接器并端到端注册你的第一个模型。
在 Mac Studio 上运行模型
为什么大统一内存 Mac 是 M2 系列的天然家园。
你的 GPU 能容纳多大模型?
这些内存数字背后的尺寸计算。
哪个任务适合哪个本地模型?
可以在你已拥有的硬件上运行的较轻量模型。