最終検証日：2026-07-21
9B、大容量VRAMや統合メモリを必要とする混合専門家型モデル106B（GLM-4.5-Air）、複数GPU環境での運用が必須となる長文処理向けのフラッグシップモデルGLM-4.6（総パラメータ数357B、コンテキスト長200K）、そして現在最先端のモデルGLM-5.2（総パラメータ数753B、コンテキスト長1M）も存在するが、これらはクラウド環境や複数GPUサーバー向けのモデルであり、個人用ワークステーションで利用するのは現実的ではない。本ページではまずローカルで実行可能なモデルを紹介し、続いてZ.aiの最高性能モデルを利用したい場合に備えて、ホスティングエンドポイントの利用や自前のハードウェアでのデプロイ方法も解説する。Tokiosを併用すれば、https://api.tokios.comを通じてどのマシンやチームメイト、ホスティングされたエージェントからでも簡単にアクセス可能だ。インバウンドポートやVPNの設定も不要である。
Looking for GLM-5.3? It launched on 2026-08-14 through Z.ai’s API, built on the same base model as GLM-5.2, with weights due about two weeks later. That page covers its hardware profile and the breaking API change; this one covers the GLM models you can download and run today.
Ollamaを利用してローカルで実行する
単一コマンドでローカルにダウンロードしたい場合は、小型で定番のGLM-4を利用しよう。glm4:9b（別名は :latest）というZ.ai製の約9B規模の高密度モデルが取得できる。これはウェイトデータを直接マシンにインストール可能な唯一のGLMタグだ。全タグの一覧については Ollamaライブラリページ を参照されたい。
GLM-4.5-Air and GLM-5.2 are not Ollama local pulls. GLM-5.2 is listed on Ollama only as glm-5.2:cloud, which routes to Z.ai’s hosted infrastructure rather than downloading weights. To run GLM-4.5-Air yourself, use a GGUF build with llama.cpp or LM Studio — see below.バリエーションとタグ
以下の各値はすべて、各モデルのHugging Face設定情報およびOllamaライブラリから得られたものです。新しい量子化バージョンが公開されるたびにタグやダウンロードサイズは変動しますので、特定のバージョンを採用する前にリンク先ページで確認してください。
出典: ollama.com/library/glm4、ollama.com/library/glm-5.2、zai-org/GLM-4.5-Air モデルカード、zai-org/GLM-4.6 モデルカード、zai-org/GLM-5.2 モデルカード、unsloth/GLM-4.5-Air-GGUF、Z.ai GLM-4.6 ブログ（情報は七月 2026 時点）。
量子化とフォーマット
Ollama’sglm4:9b ships as GGUF. For GLM-4.5-Air, unsloth/GLM-4.5-Air-GGUF publishes a full quant ladder — Q2_K (~45 GB) up through Q8_0, plus Unsloth’s “UD” dynamic quants (for example UD-Q4_K_XL at ~68 GB) that trade a little size for better quality at the same bit-width. GLM-4.6 is distributed as full-precision safetensors for multi-GPU server-side inference (vLLM/SGLang); community GGUF and AWQ quants exist on Hugging Face (for example bullpoint/GLM-4.6-AWQ at ~176 GB) but remain too large for single-workstation use. GLM-5.2 is currently distributed as full-precision safetensors for server-side inference (vLLM/SGLang) or accessed as a hosted/cloud endpoint — it isn’t a practical GGUF download yet. See Quantization formats and the hardware they need for the full matrix, and what quantization is for how to read Q4_K_M-style names.
ハードウェアへの適合性
すべての数値は推定値として扱ってください。実際の値はGGUF のサイズにコンテキスト用のKVキャッシュ分を加えたものです。どの程度のサイズのモデルがGPUに収まるかについては、どのサイズのモデルがGPUに適合するか？ をご覧ください。
実行方法 — 初心者から上級者まで対応
- Ollama（最も簡単）
- LM Studio（GUI版）
- vLLM（上級者向け）
- SGLang（高度な利用向け）
- Ollama Cloud／ホスティング版（GLM-5.2）
http://127.0.0.1:11434で待機状態にしておくこと。これが glm4:9bです — GLM-4.5-Airや GLM-5.2向けには以下のタブから選択してください。対応機能
- 推論機能：
GLM-4.5-Air、GLM-4.6、GLM-5.2はハイブリッド型推論モデルであり、複雑な推論やツール利用時には思考モードが、即時応答が求められる場合には非思考モードが使われます。GLM-5.2ではレイテンシーと品質のバランスを取るための思考負荷レベルを調整可能です。小型版のGLM-4（glm4:9b）にはこのハイブリッド推論モードは実装されていません。 - ネイティブなツール呼び出し機能： はい、
GLM-4.5-Air、GLM-4.6、GLM-5.2では利用可能です。vLLM/SGLangでは--tool-call-parser glm45を--reasoning-parser glm45と併用して設定します。Ollamaではローカルタグが存在する場合、自動的に適切なテンプレートが適用されます。 - Vision input:
GLM-4.6accepts both text and images as input (as of July 2026, per the Z.ai blog). The other GLM variants are text-only. - コーディングおよびエージェントタスク： 本シリーズの主な用途であり、Z.aiはエージェント型エンジニアリング向けにGLMを開発しました。特にGLM-5.2のリリースでは長期的なコーディングエージェントワークフローの実現に重点が置かれています。
- 長文文脈対応：
glm4:9bおよびGLM-4.5-Airは元々131,072トークン（128K）を扱えます。GLM-4.6は元々200,000トークン（200K）を扱えます。GLM-5.2は元々1,048,576トークン（1M）を扱え、プロジェクトレベルのエンジニアリング文脈や長期にわたるエージェント処理に適しています。
Tokiosとコネクターを接続する
GLMモデルが正常に稼働したら — Ollamaを使ってローカルで実行するか、あるいはGLM-4.5-Air/GLM-5.2向けに自己ホスティングするか — Tokiosコネクターをペアリングしておきましょう。そうすればClaude CodeやCline、その他の互換クライアントからも https://api.tokios.comとしてこのモデルにアクセスできるようになります。これにより、従来のように localhostからのみアクセスする必要がなくなります。
1
Tokiosコネクターをペアリングする
Sign in at tokios.com/console, open the Setup tab, and click Start pairing to get a one-time claim code (Then approve the device on the Setup or Connectors tab.
TKS-XXXX-XXXX). Install and run the connector on the machine running your model:Windows
macOS
Linux
2
コネクターをモデルのAPIに向ける
Ollamaでは
/v1にOpenAI互換のインターフェースが用意されている。単一モデル環境ではコンソールのセットアップウィザードが自動的にhttp://127.0.0.1:11434/v1を設定する。LM Studioのローカルサーバーではhttp://127.0.0.1:1234/v1が用いられる。vLLM/SGLangや複数モデル環境ではtokios-connector.jsonでエンドポイントを明示的に指定する必要がある。詳細はコネクター設定を参照のこと。3
デプロイを登録する
In the Models tab, register the model and choose a public deployment name, for example
glm-tunnel. This name — not Ollama’s local model id — is what clients send in the model field.4
APIキーを作成する
In the Keys tab, click Create key. Copy the
sk-tok-… key now — it’s shown only once.どこからでもそのモデルを呼び出せる
注意事項
GLM-5.2is not a consumer-GPU model, and it is not a single-DGX-Spark model either: at 753B stored parameters the weight floor is roughly 377 GB at INT4 and 753 GB at FP8, against 128 GB per Spark. On Ollama it’sglm-5.2:cloudonly (no weight download), so self-hosting means a multi-GPU server or a 4-Spark cluster. See the DGX Spark compatibility guide for memory sizing. For anything smaller, use a hosted/cloud endpoint.GLM-4.6at 357B total parameters does not fit on a single 128 GB machine (DGX Spark, Strix Halo, or Apple Silicon). AtQ4-class quantization it needs ~178 GB — plan on at least 2 high-VRAM GPUs or a multi-GPU server. For 128 GB hardware, useGLM-4.5-Airinstead.GLM-4.5-AirのGGUFバージョンを利用する際には、Q4クラスの量子化処理でも大容量VRAMを持つGPUまたは統合メモリ容量の大きいマシン（Apple SiliconやStrix Haloなど）が必要です。単体の24ギガバイト級の一般向けGPUでは対応できません。- Tool-call and reasoning parsing on
GLM-4.5-Air/GLM-4.6/GLM-5.2depend on the runtime applying theglm45parser. If you self-host with vLLM/SGLang, pass the flags above explicitly or tool calls and thinking output won’t separate correctly. - 小型版の
glm4:9bには、GLM-4.5-AirやGLM-4.6、GLM-5.2に備わっているハイブリッド思考モードやネイティブなツール呼び出し機能がありません。自身のGPU環境に合うかどうかだけでなく、必要な機能に応じて適切なモデル階層を選択してください。
クイックスタート
コネクターをペアリングし、最初のモデルを一通り登録してみましょう。
ご自身のGPUに適したモデルサイズはどれか？
モデルを取得する前に、利用可能なVRAM容量に合ったGLMバリアントを選定してください。
量子化処理とハードウェア
GLMが提供する
GGUF、safetensors、AWQ の各フォーマットのうち、ご使用のハードウェアで動作するのはどれか。どのタスク向けに、どのローカルモデルを利用すればよいか。
各タスクにおいてGLMが他のローカルモデルと比べてどのような位置付けになるかを確認する。
DGX Sparkとの互換性について
DGX Spark環境におけるGLM-5.2用のメモリ容量設定およびクラスター構成方法。
GLM-5.3のリリース情報をチェックする
次回のGLMリリースにおいて確認可能な情報と、単なる噂話との区別方法。