Last verified: 2026-10-14
9B モデル、大容量 VRAM またはユニファイドメモリ環境が必要な 106B 総パラメータの MoE モデル(GLM-4.5-Air)、GLM-4.6 — 357B 総 MoE フラグシップ(200K トークンコンテキスト、マルチ GPU サーバが必要)、そして現在のフロンティア GLM-5.2 — 753B 総 MoE(1M トークンコンテキスト)で、Tokios と組み合わせることで https://api.tokios.com 経由でどのマシン、チームメンバー、またはホスト型エージェントからでもアクセスできます — インバウンドポート不要、VPN 不要。このページでは、ローカルで実際に動作するモデルを先に紹介し、その後に Z.ai の最高性能を求める場合やホスト型エンドポイントを利用する場合、あるいは自前でハードウェアを用意する場合向けの大型モデルについて説明します。
こちらをお探しですか? GLM-5.3 は 2026-08-14 に Z.ai の API 経由でリリースされ、GLM-5.2 と同じベースモデルで構築され、ウェイトは 2026-08-27 に公開されました。そのページではハードウェアプロファイルと API の破壊的変更について説明しており、このページでは今日ダウンロードして実行できる GLM モデルについて説明しています。
Ollamaでローカルに実行する
ワンコマンドでローカルに取得するには、小型のクラシック GLM-4 を使用します。glm4:9b(:latest のエイリアス)が取得されます。Z.ai の約 9B のデンスモデルで、ウェイトを直接マシンにインストールする唯一の GLM タグです。全タグ一覧は Ollama ライブラリページ をご覧ください。
GLM-4.5-Air と GLM-5.2 は Ollama のローカル取得ではありません。GLM-5.2 は Ollama に glm-5.2:cloud としてのみリストされており、ウェイトをダウンロードするのではなく Z.ai のホスト型インフラにルーティングします。GLM-4.5-Air を自分で実行するには、llama.cpp または LM Studio で GGUF ビルドを使用してください — 以下を参照。バリエーションとタグ
以下の各値は各モデルの Hugging Face 設定と Ollama ライブラリからのものです。タグとダウンロードサイズは新しい量子化が公開されるたびに変更されます — いずれかに標準化する前に、リンク先のページで確認してください。
情報源:ollama.com/library/glm4、ollama.com/library/glm-5.2、zai-org/GLM-4.5-Air モデルカード、zai-org/GLM-4.6 モデルカード、zai-org/GLM-5.2 モデルカード、unsloth/GLM-4.5-Air-GGUF、Z.ai GLM-4.6 ブログ(2026 年七月時点)。
量子化とフォーマット
Ollama のglm4:9b は GGUF として提供されます。GLM-4.5-Air には、unsloth/GLM-4.5-Air-GGUF が完全な量子化ラダーを公開しており、Q2_K(約 45 GB)から Q8_0 まで、さらに同じビット幅でより良い品質のためにサイズをわずかにトレードオフする Unsloth の「UD」動的量子化(例:UD-Q4_K_XL 約 68 GB)があります。GLM-4.6 はフル精度の safetensors として配布され、マルチ GPU サーバーサイド推論(vLLM/SGLang)用です — コミュニティの GGUF および AWQ 量子化が Hugging Face に存在します(例:bullpoint/GLM-4.6-AWQ 約 176 GB)が、単一ワークステーション使用にはまだ大きすぎます。GLM-5.2 は現在、サーバーサイド推論(vLLM/SGLang)用のフル精度 safetensors として配布されているか、ホスト型/クラウドエンドポイントとしてアクセスされます — 実用的な GGUF ダウンロードはまだありません。全マトリクスについては量子化フォーマットと必要なハードウェアを、名称の読み方は量子化とはを参照してください — Q4_K_M 形式について。
ハードウェア適合
各エントリは見積もりとして扱ってください — 実際のサイズはGGUF サイズにコンテキスト用の KV キャッシュを加えたものです。GPU にどのサイズのモデルが適合するかはモデル適合ガイドでサイジング計算を確認してください。
実行方法 — 初級から上級まで
- Ollama (easiest)
- LM Studio (GUI)
- vLLM (advanced)
- SGLang (advanced)
- Ollama Cloud / hosted (GLM-5.2)
http://127.0.0.1:11434 で待ち受けます。これは glm4:9b です — GLM-4.5-Air または GLM-5.2 には、以下のタブのいずれかを使用してください。機能
- 推論:
GLM-4.5-Air、GLM-4.6、GLM-5.2はハイブリッド推論モデルです — 複雑な推論とツール使用にはシンキングモード、即座の応答にはノンシンキングモードを使用します。GLM-5.2はレイテンシと品質をトレードオフする調整可能なシンキング努力レベルを追加します。小型のGLM-4(glm4:9b)にはこのハイブリッド推論モードはありません。 - ネイティブツール呼び出し:
GLM-4.5-Air、GLM-4.6、GLM-5.2で対応。vLLM/SGLang では--tool-call-parser glm45を(--reasoning-parser glm45と組み合わせて)設定します。Ollama はローカルタグが存在する場所でテンプレートを自動的に適用します。 - ビジョン入力:
GLM-4.6はテキストと画像の両方を入力として受け付けます(Z.ai ブログ によると、2026 年七月時点)。他の GLM バリアントはテキストのみです。 - コーディングとエージェントタスク: これがファミリーのフォーカスです — Z.ai は GLM をエージェントエンジニアリング向けに構築し、GLM-5.2 のリリースでは長期的コーディングエージェントワークフローを特に強調しています。
- 長いコンテキスト:
glm4:9bとGLM-4.5-Airはネイティブ 131,072 トークン(128K)。GLM-4.6はネイティブ 200,000 トークン(200K)。GLM-5.2はネイティブ 1,048,576 トークン(1M)で、プロジェクトレベルのエンジニアリングコンテキストと長いエージェント軌跡向けに位置づけられています。
Tokiosで接続する
GLM モデルが起動したら — Ollama 経由でローカル、またはGLM-4.5-Air/GLM-5.2 用にセルフホスト — Tokios コネクタをペアリングして、Claude Code、Cline、または他の互換クライアントから https://api.tokios.com としてアクセスできるようにします — localhost からのみではなく。
1
Pair the Tokios connector
まず tokios.com/console にサインインし、Setup タブを開き、Start pairing をクリックしてワンタイムペアリングコード(その後、デバイスを approve してください(Setup または Connectors タブで)。
TKS-XXXX-XXXX)を取得します。モデルを実行しているマシンでコネクタをインストールして実行します。Windows
macOS
Linux
2
Point the connector at your model's API
Ollama は
/v1 に OpenAI 互換のインターフェースを公開します。単一モデル構成の場合、コンソールの Setup ウィザードが http://127.0.0.1:11434/v1 として自動入力します。LM Studio のローカルサーバーは http://127.0.0.1:1234/v1 を使用します。vLLM/SGLang または複数モデルの場合、tokios-connector.json にエンドポイントを明示的に設定します — Connector config を参照。3
Register a deployment
モデルの登録は Models タブで行い、公開デプロイメント名(例:
glm-tunnel)を選択します。この名前 — Ollama のローカルモデル ID ではなく — がクライアントが model フィールドで送信するものです。4
Create an API key
キーの作成は Keys タブで、Create key をクリックします。
sk-tok-… キーを今すぐコピーしてください — 一度だけ表示されます。どこからでも呼び出す
注意事項
GLM-5.2はコンシューマー GPU モデルではなく、単一 DGX Spark モデルでもありません:753B の格納パラメータで、ウェイトの下限は約 377 GB(INT4)、753 GB(FP8)であり、Spark あたり 128 GB です。Ollama ではglm-5.2:cloudのみ(ウェイトダウンロードなし)なので、セルフホスティングにはマルチ GPU サーバーまたは 4 台の Spark クラスターが必要です。メモリサイジングについては DGX Spark 適合性ガイド を参照してください。それ以下の場合は、ホスト型/クラウドエンドポイントを使用してください。GLM-4.6(357B 総パラメータ)は、128 GB マシン(DGX Spark、Strix Halo、Apple Silicon)には適合しません。Q4クラス量子化で約 178 GB が必要です — 少なくとも 2 台の高 VRAM GPU またはマルチ GPU サーバーを計画してください。128 GB ハードウェアには、代わりにGLM-4.5-Airを使用してください。GLM-4.5-AirのGGUFビルドはQ4クラス量子化でも大容量 VRAM GPU または大型ユニファイドメモリマシン(Apple Silicon、Strix Halo)が必要です — 単一の 24 GB コンシューマーカードには適合しません。- ツール呼び出しと推論の解析(
GLM-4.5-Air/GLM-4.6/GLM-5.2)は、ランタイムがglm45パーサーを適用することに依存します。vLLM/SGLang でセルフホストする場合は、上記のフラグを明示的に渡してください。さもないと、ツール呼び出しとシンキング出力が正しく分離されません。 - 小型の
glm4:9bには、GLM-4.5-Air、GLM-4.6、GLM-5.2が持つハイブリッドシンキングモードやネイティブツール呼び出しはありません — GPU に適合するものだけでなく、必要な機能に合ったティアを選んでください。
FAQ
Which GLM model fits a 24 GB GPU?
Which GLM model fits a 24 GB GPU?
GLM-4(glm4:9b)は 5.5 GB で 24 GB カードに適合する唯一の GLM モデルです — RTX 3090 または 4090 で余裕を持って動作し、長いコンテキスト用の余裕もあります。GLM-4.5-Air(約 68–73 GB、Q4)は適合せず、それ以上のモデルも同様です。24 GB ハードウェアには GLM-4 が選択です。Is GLM open source?
Is GLM open source?
このページのモデル —
GLM-4、GLM-4.5-Air、GLM-4.6、GLM-5.2 — はすべて MIT license で公開されています。新しい GLM-5.3 ラインについては、専用ページ を確認してください — ライセンスはバージョンごとに異なる場合があります。オープンウェイトとオープンソースは同じではないことに注意してください — 訓練データとパイプラインは公開されていません。Does GLM support tool calling?
Does GLM support tool calling?
はい —
GLM-4.5-Air、GLM-4.6、GLM-5.2 はすべてネイティブツール呼び出しをサポートしています。vLLM または SGLang では、--tool-call-parser glm45 を(--reasoning-parser glm45 と組み合わせて)渡して、ツール呼び出しとシンキング出力が正しく分離されるようにしてください。小型の GLM-4(glm4:9b)にはネイティブツール呼び出しはありません — 必要な機能に合ったティアを選んでください。What is the difference between GLM-4, GLM-4.5-Air, GLM-4.6, and GLM-5.2?
What is the difference between GLM-4, GLM-4.5-Air, GLM-4.6, and GLM-5.2?
GLM-4 は Ollama でワンコマンドで取得できる 9B デンスモデルです — テキストのみ、128K コンテキスト、ハイブリッド推論なし。GLM-4.5-Air は 106B 総 MoE(12B アクティブ)で、ハイブリッド推論とツール呼び出しを備え、Q4 で約 68–73 GB が必要です。GLM-4.6 は 357B 総 MoE(32B アクティブ)で、ビジョン入力と 200K コンテキストを追加し、マルチ GPU サーバーが必要です。GLM-5.2 は 753B 総 MoE フロンティアで、1M トークンコンテキストと調整可能なシンキング努力を備えています — クラウドまたはマルチ GPU サーバーモデルであり、コンシューマー GPU 向けではありません。Quickstart
コネクタをペアリングし、最初のモデルをエンドツーエンドで登録します。
What size model fits your GPU?
GLM バリアントを入手可能な VRAM に照ら合わせて確認してください。
Quantization & hardware
GLM のどのフォーマット —
GGUF、safetensors、AWQ — があなたのハードウェアで動作するか。Which local model for which task?
タスクごとに GLM が他のローカルモデルとどう比較されるかを確認してください。
DGX Spark compatibility
DGX Spark での GLM-5.2 のメモリサイジングとクラスター構成。
GLM-5.3 release watch
次の GLM リリースで検証可能な情報と噂。