Skip to main content
Letzte Überprüfung: 2026-07-21
GLM ist die offene Modellfamilie von Z.ai (Zhipu), die speziell für Programmieraufgaben sowie agentenbasierte Workflows entwickelt wurde und unter der MIT-Lizenz veröffentlicht wird. Die Familie umfasst zahlreiche Varianten: ein kleines Modell mit 9B Parametern, das sich auf einer einzigen Consumer-GPU ausführen lässt; ein MoE-Modell mit insgesamt 106B Parametern (GLM-4.5-Air), das eine Hardware mit viel VRAM bzw. Unified Memory erfordert; ferner ein Flaggschiff-Modell mit GLM-4.6 insgesamt 357B Parametern, einem Kontextfenster von 200K Tokens, das eine Ausführung auf mehreren GPUs nötig macht; schließlich das aktuell fortschrittlichste Modell mit GLM-5.2 insgesamt 753B Parametern und einem Kontextfenster von 1M Tokens – dieses Modell ist eigentlich nur für Cloud-Umgebungen oder Server mit mehreren GPUs geeignet und lässt sich nicht auf einer einzelnen Workstation nutzen. Auf dieser Seite werden zunächst die Modelle vorgestellt, die lokal lauffähig sind, anschließend die größeren Modelle, falls Sie die besten Leistungen von Z.ai nutzen möchten – entweder über ein gehostetes Endpunkt oder mittels eigener Hardware. Kombinieren Sie Tokios mit dem gewählten Modell, um es von beliebigen Geräten, Teammitgliedern oder gehosteten Agenten aus zu nutzen – und das ganz ohne einrichten von Eingangsports oder VPNs, mittels https://api.tokios.com. Suchen Sie nach GLM-5.3? Dieses Modell wurde am 2026-08-14 über die API von Z.ai veröffentlicht; es basiert auf demselben Grundmodell wie GLM-5.2, wobei die Gewichte etwa zwei Wochen später verfügbar sein werden. Auf jener Seite finden Sie Informationen zu den Hardware-Anforderungen sowie zu wichtigen API-Änderungen; diese Seite konzentriert sich hingegen auf die GLM-Modelle, die Sie bereits heute herunterladen und ausführen können.
Führen Sie bereits ein GLM-Modell lokal aus? Registrieren Sie es bei Tokios, damit Sie es als https://api.tokios.com von jedem Client aus nutzen können.

​
Führen Sie es lokal mithilfe von Ollama aus.

Für ein echtes einzeiliges lokales Herunterladen empfiehlt sich das klassische kleine Modell GLM-4.
Dieser Befehl lädt glm4:9b (auch unter dem Namen :latest bekannt) – Z.ia’s dichtes Modell mit etwa 9B Parametern; es ist das einzige GLM-Modell, dessen Gewichte direkt auf Ihr System heruntergeladen werden. Die vollständige Liste der verfügbaren Modelle finden Sie auf der Ollama-Bibliotheksseite.
GLM-4.5-Air sowie GLM-5.2 stellen keine lokalen Downloads über Ollama dar. In Ollama wird GLM-5.2 lediglich als glm-5.2:cloud aufgeführt; dabei erfolgt die Verbindung zu Z.ai’s Hosting-Infrastruktur, wodurch die Modellgewichte nicht heruntergeladen werden. Falls Sie GLM-4.5-Air selbst ausführen möchten, nutzen Sie bitte eine mit llama.cpp oder LM Studio erstellte GGUF-Version – weitere Details finden Sie unten.

​
Varianten und Bezeichner

Alle unten aufgeführten Werte stammen aus den Konfigurationen der jeweiligen Modelle auf Hugging Face sowie aus der Ollama-Bibliothek. Tags und Download-Größen ändern sich mit neuen Quantisierungen – prüfen Sie daher bitte die verlinkten Seiten, bevor Sie sich für ein bestimmtes Modell entscheiden. Quellen: ollama.com/library/glm4, ollama.com/library/glm-5.2, zai-org/GLM-4.5-Air-Modellkarte, zai-org/GLM-4.6-Modellkarte, zai-org/GLM-5.2-Modellkarte, unsloth/GLM-4.5-Air-GGUF, Z.ai-GLM-4.6-Blog (Stand Juli 2026).
GLM-4.5-Air, GLM-4.6 sowie GLM-5.2 sind sogenannte Mixture-of-Experts-Modelle: GLM-4.5-Air aktiviert pro Token lediglich 12B der insgesamt 106B Parameter, GLM-4.6 aktiviert 32B von 357B Parametern und GLM-5.2 aktiviert 8 von insgesamt 256 Experten. Dadurch bleibt die Decodierung im Vergleich zur Gesamtgröße des Modells schnell, doch alle Parameter müssen dennoch in den Arbeitsspeicher passen – man sollte die Hardwaregröße nicht allein anhand der Anzahl aktiver Parameter bemessen. Lesen Sie wie die Inferenz funktioniert für nähere Erklärungen.

​
Quantisierung und Formate

Ollama’s glm4:9b ships as GGUF. For GLM-4.5-Air, unsloth/GLM-4.5-Air-GGUF publishes a full quant ladder — Q2_K (~45 GB) up through Q8_0, plus Unsloth’s “UD” dynamic quants (for example UD-Q4_K_XL at ~68 GB) that trade a little size for better quality at the same bit-width. GLM-4.6 is distributed as full-precision safetensors for multi-GPU server-side inference (vLLM/SGLang); community GGUF and AWQ quants exist on Hugging Face (for example bullpoint/GLM-4.6-AWQ at ~176 GB) but remain too large for single-workstation use. GLM-5.2 is currently distributed as full-precision safetensors for server-side inference (vLLM/SGLang) or accessed as a hosted/cloud endpoint — it isn’t a practical GGUF download yet. See Quantization formats and the hardware they need for the full matrix, and what quantization is for how to read Q4_K_M-style names.

​
Kompatibilität mit Hardware

Betrachten Sie jeden Eintrag lediglich als Schätzung – der tatsächliche Wert entspricht der tatsächlichen GGUF-Größe zuzüglich des KV-Caches für Ihren Kontext. Weitere Details zur Berechnung finden Sie unter Welches Modell passt zu Ihrer GPU?.

​
Einfache Handhabung – für Einsteiger bis Fortgeschrittene

Lassen Sie Ollama auf dem Standard-Port http://127.0.0.1:11434 laufen. Dies ist glm4:9b – für GLM-4.5-Air bzw. GLM-5.2 wählen Sie bitte eine der unten aufgeführten Optionen.

​
Fähigkeiten

  • Begründungsanalyse: GLM-4.5-Air, GLM-4.6 sowie GLM-5.2 sind hybride Begründungsmodelle; sie verfügen über einen Denkmodus für komplexe Überlegungen und Werkzeugnutzung sowie einen Nicht-Denkmodus für schnelle Antworten. GLM-5.2 ermöglicht zudem die Einstellung des Denkaufwands, wodurch Latenz gegenüber Qualität abgewogen werden kann. Das kleinere Modell GLM-4 (glm4:9b) besitzt diesen hybriden Modus nicht.
  • Native Werkzeugaufrufe: Ja, bei GLM-4.5-Air, GLM-4.6 und GLM-5.2. Bei vLLM/SGLang muss --tool-call-parser glm45 (in Kombination mit --reasoning-parser glm45) gesetzt werden; Ollama übernimmt die Vorlagenzuweisung automatisch, sofern ein lokaler Tag vorhanden ist.
  • Visuelle Eingaben: GLM-4.6 akzeptiert sowohl Text als auch Bilder als Eingabe (Stand Juli 2026, laut Blog von Z.ai). Die übrigen GLM-Varianten unterstützen lediglich Text.
  • Programmierung und agentenbasierte Aufgaben: Dies ist der Schwerpunkt dieser Modellfamilie; Z.ai entwickelte GLM speziell für agentenbasierte Entwicklungsprozesse. Mit der Veröffentlichung von GLM-5.2 rückt insbesondere die Unterstützung langfristiger, agentenbasierter Programmierprozesse in den Fokus.
  • Langer Kontext: glm4:9b sowie GLM-4.5-Air verarbeiten nativ 131,072 Tokens (128K). GLM-4.6 verarbeitet nativ 200,000 Tokens (200K). GLM-5.2 verarbeitet nativ 1,048,576 Tokens (1M); diese Modelle eignen sich besonders für Projektarbeiten mit umfangreichem Kontext sowie für langfristige Agentenaktivitäten.

​
Verbinden Sie es mit Tokios

Sobald Ihr GLM-Modell läuft – lokal über Ollama oder als selbstgehostete Installation für GLM-4.5-Air/GLM-5.2 – koppeln Sie den Tokios-Connector, sodass Sie es als https://api.tokios.com von Claude Code, Cline oder anderen kompatiblen Clients aus erreichen können – statt ausschließlich über localhost.
1

Koppeln Sie den Tokios-Connector

Melden Sie sich bei tokios.com/console an, öffnen Sie den Reiter Setup und klicken Sie auf Start pairing, um einen einmalig gültigen Claim-Code (TKS-XXXX-XXXX) zu erhalten. Installieren und starten Sie anschließend den Connector auf dem Rechner, auf dem Ihr Modell läuft.
Windows
macOS
Linux
Then approve the device on the Setup or Connectors tab.
2

Richten Sie den Connector auf das API Ihres Modells aus

Ollama stellt unter /v1 eine OpenAI-kompatible Schnittstelle bereit. Bei einer Einzelmodell-Konfiguration füllt der Einrichtungs-Assistent im Dashboard diese Angabe automatisch als http://127.0.0.1:11434/v1 aus. Der lokale Server von LM Studio nutzt http://127.0.0.1:1234/v1. Bei vLLM/SGLang oder mehreren Modellen müssen Sie den Endpunkt in tokios-connector.json manuell festlegen – siehe dazu Connector-Konfiguration.
3

Erstellen Sie eine Deployment-Instanz

Im Reiter Models registrieren Sie das Modell und wählen einen öffentlichen Deployment-Namen, etwa glm-tunnel. Dieser Name – nicht die lokale Upstream-Modell-ID von Ollama – wird von Clients im Feld model übermittelt.
4

Generieren Sie einen API-Schlüssel

Im Reiter Keys klicken Sie auf Create key. Kopieren Sie anschließend den sk-tok-…-Schlüssel – er wird nur einmal angezeigt.

​
Rufen Sie ihn von überall aus auf

Das Feld model enthält stets den von Ihnen registrierten Namen der Deployment-Instanz (siehe glm-tunnel oben); niemals die lokale Upstream-Modell-ID von Ollama. Für die vollständige Einrichtung der Clients lesen Sie bitte Verwendung mit Claude Code sowie Verwendung mit Cline.

​
Hinweise und Einschränkungen

  • GLM-5.2 ist kein Consumer-GPU-Modell und auch kein reines DGX-Spark-Modell: Bei den in 753B gespeicherten Parameterwerten beträgt die Mindestspeichergröße etwa 377 GB im INT4-Format sowie 753 GB im FP8-Format – im Vergleich zu nur 128 GB pro Spark-Einheit. Auf Ollama steht lediglich glm-5.2:cloud zur Verfügung (es erfolgt kein Download der Gewichte), weshalb für eine Selbsthosting-Lösung ein Multi-GPU-Server oder ein 4-Spark-Cluster erforderlich ist. Zur Berechnung der benötigten Speichermenge siehe die DGX Spark-Kompatibilitätsanleitung. Für kleinere Anwendungen empfiehlt sich die Nutzung eines gehosteten Cloud-Endpunkts.
  • GLM-4.6 at 357B total parameters does not fit on a single 128 GB machine (DGX Spark, Strix Halo, or Apple Silicon). At Q4-class quantization it needs ~178 GB — plan on at least 2 high-VRAM GPUs or a multi-GPU server. For 128 GB hardware, use GLM-4.5-Air instead.
  • GLM-4.5-Air’s GGUF builds need a big-VRAM GPU or a large-unified-memory machine (Apple Silicon, Strix Halo) even at Q4-class quantization — it isn’t a fit for a single 24 GB consumer card.
  • Die Verarbeitung von Tool-Aufrufen sowie das Parsen von Reasoning-Daten bei GLM-4.5-Air, GLM-4.6 und GLM-5.2 hängen davon ab, ob der jeweilige Runtime-Container den passenden glm45-Parser nutzt. Falls Sie vLLM oder SGLang selbst hosten, müssen die oben genannten Parameter explizit gesetzt werden; andernfalls werden Tool-Aufrufe und Reasoning-Output nicht korrekt getrennt.
  • Die kleinere Variante glm4:9b verfügt weder über den hybriden Thinking-Modus noch über native Tool-Call-Funktionen, die bei GLM-4.5-Air, GLM-4.6 und GLM-5.2 vorhanden sind – wählen Sie daher die Modellstufe entsprechend Ihren Anforderungen, nicht allein nach der verfügbaren GPU-Kapazität.

Schnellstart

Richten Sie zunächst einen Connector ein und registrieren Sie Ihr erstes Modell vollständig.

Welche Modellgröße passt zu Ihrer GPU?

Wählen Sie vor dem Download die passende GLM-Variante gemäß Ihrem verfügbaren VRAM-Budget.

Quantisierung und Hardwareanforderungen

Welches der Formate von GLM – GGUF, safetensors oder AWQ – lässt sich auf Ihrer Hardware ausführen?

Welches lokale Modell eignet sich für welche Aufgabe?

Erfahren Sie, wie GLM im Vergleich zu anderen lokalen Modellen hinsichtlich der jeweiligen Aufgaben abschneidet.

Kompatibilität mit DGX Spark

Speicherbedarf sowie Cluster-Konfiguration für GLM-5.2 auf DGX Spark.

Verfolgen Sie die Veröffentlichung von GLM-5.3.

Was lässt sich über die kommende GLM-Version verifizieren und was sind lediglich Gerüchte?