Skip to main content
Last verified: 2026-07-21
GLM 是智谱 AI 推出的开源模型系列，专为编程与智能体工作流设计，并采用 MIT 许可证发布。该系列涵盖多种规格：一款体积小巧的 9B 模型，仅需单张消费级显卡即可运行；一款总计拥有 106B 个专家模块的混合专家模型（GLM-4.5-Air），需要配备大显存或统一内存的硬件设备；还有 GLM-4.6 —— 这是一款拥有 357B 个专家模块的旗舰级模型，具备 200K 令牌的上下文长度，必须借助多显卡配置才能部署；而目前最先进的则是 GLM-5.2 —— 该模型由 753B 个专家模块构成，上下文长度可达 1M 令牌，实际上仅适用于云端环境或多显卡服务器，无法在普通工作站上运行。本页面首先介绍可在本地运行的模型，随后再讲解那些性能更强、适合追求智谱 AI 顶级性能的用户使用的模型，后者通常需要借助托管端点或具备相应硬件条件才能实现部署。您可将 Tokios 与所选模型搭配使用，通过 https://api.tokios.com 功能即可从任意设备、与团队成员或托管智能体实现无缝连接，全程无需开放入站端口或配置 VPN。 正在寻找 GLM-5.3 吗？该模型于 2026 年 08 月 14 日通过 Z.ai 的 API 正式发布，其基础模型架构与 GLM-5.2 相同，相关权重文件预计两周后推出。前述页面详细说明了该模型的硬件需求及 API 的重大变动；而本页面则着重介绍目前即可下载并本地运行的各类 GLM 模型。
您已在本地运行了 GLM 模型吗？请通过 在 Tokios 中注册 的方式将其设为 https://api.tokios.com，以便任意客户端都能顺利调用。

​
使用 Ollama 在本地运行该模型。

若希望实现真正的单命令本地拉取操作，可选用经典的小型模型 GLM-4。
该命令可拉取 glm4:9b 模型（别名为 :latest），即 Z.ai 推出的约 9B 规模的密集型模型——这也是唯一能直接将权重文件安装至本地的 GLM 标签。完整的标签列表可查阅 Ollama 资源库页面。
GLM-4.5-Air and GLM-5.2 are not Ollama local pulls. GLM-5.2 is listed on Ollama only as glm-5.2:cloud, which routes to Z.ai’s hosted infrastructure rather than downloading weights. To run GLM-4.5-Air yourself, use a GGUF build with llama.cpp or LM Studio — see below.

​
变体与标签

以下所有数值均源自各模型在 Hugging Face 上的配置文件以及 Ollama 库。随着更多量化版本陆续发布，相关标签与下载体积也会随之变动；因此在确定最终使用的版本前，请务必查阅对应链接页面以获取最新信息。 来源链接：ollama.com/library/glm4、ollama.com/library/glm-5.2、zai-org/GLM-4.5-Air 模型说明、zai-org/GLM-4.6 模型说明、zai-org/GLM-5.2 模型说明、unsloth/GLM-4.5-Air-GGUF、Z.ai 发布的 GLM-4.6 相关博客（截至 2026 年七月）。
GLM-4.5-Air, GLM-4.6, and GLM-5.2 are mixture-of-experts models: GLM-4.5-Air activates only 12B of its 106B parameters per token, GLM-4.6 activates 32B of its 357B parameters, and GLM-5.2 activates 8 of 256 experts. That keeps decoding fast relative to their total size, but all parameters still have to fit in memory (or be offloaded) — don’t size your hardware off the active-parameter count alone. See how inference works for why.

​
量化处理与格式说明

Ollama’s glm4:9b ships as GGUF. For GLM-4.5-Air, unsloth/GLM-4.5-Air-GGUF publishes a full quant ladder — Q2_K (~45 GB) up through Q8_0, plus Unsloth’s “UD” dynamic quants (for example UD-Q4_K_XL at ~68 GB) that trade a little size for better quality at the same bit-width. GLM-4.6 is distributed as full-precision safetensors for multi-GPU server-side inference (vLLM/SGLang); community GGUF and AWQ quants exist on Hugging Face (for example bullpoint/GLM-4.6-AWQ at ~176 GB) but remain too large for single-workstation use. GLM-5.2 is currently distributed as full-precision safetensors for server-side inference (vLLM/SGLang) or accessed as a hosted/cloud endpoint — it isn’t a practical GGUF download yet. See Quantization formats and the hardware they need for the full matrix, and what quantization is for how to read Q4_K_M-style names.

​
硬件适配性说明

请将每个数值视作估算值；真实数值应为实际的 GGUF 大小再加上用于存储上下文的 KV 缓存空间。关于具体的容量计算方法，请参阅何种尺寸的模型适合您的显卡？。

​
操作难度：从入门到高阶均可

保持 Ollama 在默认 http://127.0.0.1:11434 端口持续监听即可。此配置属于 glm4:9b 级别 — 若需 GLM-4.5-Air 或 GLM-5.2 级别的性能，可参考下方对应选项卡设置。

​
功能特性

  • 推理能力： GLM-4.5-Air、GLM-4.6 与 GLM-5.2 均属于混合推理型模型——复杂推理及工具调用时启用思考模式，常规响应则采用非思考模式。GLM-5.2 允许用户自定义思考强度以平衡响应延迟与输出质量。而小型模型 GLM-4（即 glm4:9b）暂不支持此类混合推理机制。
  • 原生工具调用支持： 在 GLM-4.5-Air、GLM-4.6 及 GLM-5.2 上均可实现。于 vLLM/SGLang 环境中需设置 --tool-call-parser glm45 参数并配合 --reasoning-parser glm45 使用；若本地环境已配置相关标签，Ollama 会自动应用对应模板。
  • Vision input: GLM-4.6 accepts both text and images as input (as of July 2026, per the Z.ai blog). The other GLM variants are text-only.
  • 编程与智能体任务： 此乃该系列模型的核心优势——Z.ai 专为智能体工程开发设计了 GLM 系列，此次发布的 GLM-5.2 更着重优化长周期编程智能体工作流。
  • 超长上下文支持： glm4:9b 与 GLM-4.5-Air 原生支持 131,072 个令牌的上下文容量（即 128K）。GLM-4.6 则原生支持 200,000 个令牌的上下文处理（即 200K）。至于 GLM-5.2，其原生支持 1,048,576 个令牌的上下文容量（即 1M），非常适合处理大型工程项目语境及长周期智能体任务。

​
将连接器与 Tokios 相连

当您的 GLM 模型成功运行后——无论是通过 Ollama 在本地运行，还是自行部署于 GLM-4.5-Air/GLM-5.2 环境中——只需配置 Tokios 连接器，即可让 Claude Code、Cline 或其他兼容客户端通过 https://api.tokios.com 来访问该模型，而不仅限于从 localhost 进行调用。
1

配对 Tokios 连接器

请登录至 tokios.com/console，打开 Setup 标签页并点击 Start pairing 以获取一次性领取令牌（TKS-XXXX-XXXX）。随后在运行上游模型 ID 的设备上安装并运行连接器即可：
Windows
macOS
Linux
Then approve the device on the Setup or Connectors tab.
2

设定连接器的模型 API 地址

Ollama 会在 /v1 位置提供与 OpenAI 兼容的接口。若仅运行单一模型，控制台的设置向导会自动填入 http://127.0.0.1:11434/v1 作为地址。LM Studio 的本地服务器则使用 http://127.0.0.1:1234/v1。若需部署多个模型或选用 vLLM/SGLang，则需在 tokios-connector.json 处手动指定端点，详情可参阅 连接器配置说明。
3

创建部署实例

在 Models 页面中注册模型并设定公开部署名称，例如 glm-tunnel。客户端在调用时实际发送的是此名称而非 Ollama 的本地模型 ID，该值将填入 model 字段中。
4

生成 API 密钥

进入 Keys 页面后点击 Create key。此时请立即复制显示的 sk-tok-… 令牌——该内容仅会展示一次。

​
随时从任意位置调用模型服务

该 model 字段始终应填写您注册的 部署 名称（即上文中的 glm-tunnel），而非 Ollama 的本地模型 ID。如需完整的客户端部署指南，请参阅 使用 Claude Code 与 使用 Cline。

​
注意事项

  • GLM-5.2 is not a consumer-GPU model, and it is not a single-DGX-Spark model either: at 753B stored parameters the weight floor is roughly 377 GB at INT4 and 753 GB at FP8, against 128 GB per Spark. On Ollama it’s glm-5.2:cloud only (no weight download), so self-hosting means a multi-GPU server or a 4-Spark cluster. See the DGX Spark compatibility guide for memory sizing. For anything smaller, use a hosted/cloud endpoint.
  • GLM-4.6 at 357B total parameters does not fit on a single 128 GB machine (DGX Spark, Strix Halo, or Apple Silicon). At Q4-class quantization it needs ~178 GB — plan on at least 2 high-VRAM GPUs or a multi-GPU server. For 128 GB hardware, use GLM-4.5-Air instead.
  • GLM-4.5-Air’s GGUF builds need a big-VRAM GPU or a large-unified-memory machine (Apple Silicon, Strix Halo) even at Q4-class quantization — it isn’t a fit for a single 24 GB consumer card.
  • 该 GLM-4.5-Air/GLM-4.6/GLM-5.2 模型的工具调用与推理逻辑解析功能的实现，取决于运行时环境所采用的 glm45 解析器。若自行部署 vLLM 或 SGLang 服务，务必显式添加上述参数配置，否则工具调用指令与推理输出内容将无法正确分离。
  • 小型版 glm4:9b 模型不具备 GLM-4.5-Air、GLM-4.6 及 GLM-5.2 版本所具备的混合推理模式与原生工具调用功能。请依据实际功能需求而非单纯依据硬件条件来选择对应版本。

快速入门

配置连接器并完成首个模型的完整部署流程。

何种规模的模型适合您的硬件配置？

下载模型前请先根据现有显存容量匹配对应的 GLM 版本。

量化技术与硬件适配

在 GLM 提供的多种格式中，究竟哪一种——GGUF、safetensors 还是 AWQ——最适合在您的硬件上运行呢？

针对特定任务而言，哪种本地模型最为合适呢？

了解 GLM 在不同任务方面与其他本地模型相比的表现如何。

DGX Spark 的兼容性情况

在 DGX Spark 平台上部署 GLM-5.2 时所需的内存容量及集群配置要求。

关注 GLM-5.3 的发布动态

关于即将发布的 GLM 版本，哪些信息是可以证实的，哪些只是传言呢？