Skip to main content
최종 검증일: 2026-07-21
GLM은 Z.ai(지푸)에서 개발한 오픈 웨이트 모델 계열로, 코딩 및 에이전트 기반 워크플로우에 최적화되어 있으며 MIT 라이선스 하에 배포됩니다. 이 계열에는 다양한 크기의 모델들이 포함됩니다. 소규모 9B 모델은 일반 소비자용 GPU 한 대만으로도 실행 가능하며, 106B 규모의 혼합형 전문가 모델(GLM-4.5-Air)은 대용량 VRAM이나 통합 메모리를 갖춘 시스템이 필요합니다. GLM-4.6은 357B 규모의 혼합형 전문가 모델로, 200K 토큰 길이의 컨텍스트를 처리할 수 있어 다중 GPU 환경에서만 운용 가능합니다. 현재 가장 최신인 GLM-5.2 모델은 753B 규모의 혼합형 전문가 모델로, 1M 토큰 길이의 컨텍스트를 지원하지만 실제로는 클라우드나 다중 GPU 서버 환경에서만 활용 가능합니다. 이 대시보드에서는 로컬에서 실제로 실행 가능한 모델들을 먼저 소개한 뒤, Z.ai의 최고 성능 모델들을 활용하고자 할 때 필요한 호스팅 엔드포인트나 자체 배포용 하드웨어에 대해서도 설명합니다. Tokios와 연동하면 https://api.tokios.com을 통해 어떤 기기나 팀원, 호스팅된 에이전트에서도 손쉽게 접근할 수 있으며 인바운드 포트나 VPN 설정도 필요하지 않습니다. Looking for GLM-5.3? It launched on 2026-08-14 through Z.ai’s API, built on the same base model as GLM-5.2, with weights due about two weeks later. That page covers its hardware profile and the breaking API change; this one covers the GLM models you can download and run today.
이미 GLM 모델을 로컬에서 실행 중이신가요? Tokios에 등록하면 어떤 클라이언트에서도 https://api.tokios.com 형태로 접근할 수 있습니다.

​
Ollama를 이용해 로컬에서 실행해보세요

진정한 의미의 단 한 번의 명령어로 로컬 다운로드를 원하신다면 소형 클래식 모델인 GLM-4을 사용하시면 됩니다:
이 명령어는 glm4:9b(별칭 :latest)을 다운로드합니다. 이는 Z.ai에서 제공하는 약 9B 규모의 일반 모델로, 유일하게 가중치 파일이 직접 사용자 기기에 설치되는 GLM 태그입니다. 전체 태그 목록은 Ollama 라이브러리 페이지에서 확인하실 수 있습니다.
GLM-4.5-Air and GLM-5.2 are not Ollama local pulls. GLM-5.2 is listed on Ollama only as glm-5.2:cloud, which routes to Z.ai’s hosted infrastructure rather than downloading weights. To run GLM-4.5-Air yourself, use a GGUF build with llama.cpp or LM Studio — see below.

​
변형 모델 및 태그

아래에 나열된 모든 값은 각 모델의 Hugging Face 설정 정보와 Ollama 라이브러리에서 가져온 것입니다. 새로운 양자화 버전이 출시될 때마다 태그와 다운로드 크기는 변경될 수 있으니, 특정 모델을 배포용으로 선택하기 전에 반드시 관련 페이지에서 최신 정보를 확인하시기 바랍니다. Sources: ollama.com/library/glm4, ollama.com/library/glm-5.2, zai-org/GLM-4.5-Air model card, zai-org/GLM-4.6 model card, zai-org/GLM-5.2 model card, unsloth/GLM-4.5-Air-GGUF, Z.ai GLM-4.6 blog (as of July 2026).
GLM-4.5-Air, GLM-4.6, and GLM-5.2 are mixture-of-experts models: GLM-4.5-Air activates only 12B of its 106B parameters per token, GLM-4.6 activates 32B of its 357B parameters, and GLM-5.2 activates 8 of 256 experts. That keeps decoding fast relative to their total size, but all parameters still have to fit in memory (or be offloaded) — don’t size your hardware off the active-parameter count alone. See how inference works for why.

​
양자화 및 포맷

Ollama’s glm4:9b ships as GGUF. For GLM-4.5-Air, unsloth/GLM-4.5-Air-GGUF publishes a full quant ladder — Q2_K (~45 GB) up through Q8_0, plus Unsloth’s “UD” dynamic quants (for example UD-Q4_K_XL at ~68 GB) that trade a little size for better quality at the same bit-width. GLM-4.6 is distributed as full-precision safetensors for multi-GPU server-side inference (vLLM/SGLang); community GGUF and AWQ quants exist on Hugging Face (for example bullpoint/GLM-4.6-AWQ at ~176 GB) but remain too large for single-workstation use. GLM-5.2 is currently distributed as full-precision safetensors for server-side inference (vLLM/SGLang) or accessed as a hosted/cloud endpoint — it isn’t a practical GGUF download yet. See Quantization formats and the hardware they need for the full matrix, and what quantization is for how to read Q4_K_M-style names.

​
하드웨어 호환성

모든 수치는 추정값일 뿐입니다. 실제 값은 실제 GGUF 크기에 컨텍스트에 필요한 KV 캐시 크기가 더해진 것입니다. GPU에 적합한 모델 크기를 계산하는 방법은 어떤 크기의 모델이 GPU에 적합한가?를 참고하세요.

​
초보자부터 고급 사용자까지 모두 활용 가능

Ollama가 기본 http://127.0.0.1:11434 포트에서 대기하도록 설정하세요. 이 방식은 glm4:9b입니다 — GLM-4.5-Air 또는 GLM-5.2 환경에서는 아래 탭 중 하나를 선택하시면 됩니다.

​
주요 기능들

  • 추론 기능: GLM-4.5-Air, GLM-4.6, GLM-5.2은 하이브리드 추론 모델입니다. 복잡한 추론이나 툴 활용 시에는 사고 모드를, 신속한 응답이 필요할 때는 비사고 모드를 사용할 수 있습니다. GLM-5.2은 지연 시간과 품질 간의 균형을 맞추기 위한 조절 가능한 사고 강도 설정을 제공합니다. 소형 모델인 GLM-4 (glm4:9b)에는 이러한 하이브리드 추론 모드가 없습니다.
  • 네이티브 툴 호출 기능: 네, GLM-4.5-Air, GLM-4.6, 그리고 GLM-5.2에서 지원됩니다. vLLM/SGLang의 경우 --tool-call-parser glm45을 설정해야 하며 이때 --reasoning-parser glm45도 함께 지정해야 합니다. Ollama에서는 로컬 태그가 존재할 때 자동으로 템플릿이 적용됩니다.
  • Vision input: GLM-4.6 accepts both text and images as input (as of July 2026, per the Z.ai blog). The other GLM variants are text-only.
  • 코딩 및 에이전트 작업: 이 제품군의 핵심 기능입니다. Z.ai는 에이전트 기반 엔지니어링을 위해 GLM을 개발했으며, GLM-5.2 출시 역시 장기적인 코딩 에이전트 워크플로우에 초점을 맞추고 있습니다.
  • 긴 컨텍스트 처리: glm4:9b과 GLM-4.5-Air은 기본적으로 131,072 토큰까지 처리 가능합니다(128K). GLM-4.6은 기본적으로 200,000 토큰까지 지원하며(200K), GLM-5.2은 기본적으로 1,048,576 토큰까지 처리 가능합니다(1M). 이들 모델은 프로젝트 수준의 엔지니어링 컨텍스트 및 장기적인 에이전트 작업에 적합합니다.

​
Tokios와 커넥터를 연결하세요

GLM 모델이 Ollama를 통해 로컬에서 실행되거나 GLM-4.5-Air/GLM-5.2 환경에서 자체 배포된 뒤, Tokios 커넥터를 연동하면 Claude Code, Cline 또는 기타 호환 클라이언트에서 https://api.tokios.com 형태로 해당 모델에 접근할 수 있습니다. 이는 localhost에서만 접근 가능했던 방식과는 다릅니다.
1

Tokios 커넥터를 연동하세요

Sign in at tokios.com/console, open the Setup tab, and click Start pairing to get a one-time claim code (TKS-XXXX-XXXX). Install and run the connector on the machine running your model:
Windows
macOS
Linux
그런 다음 approve에서 Setup 또는 Connectors 탭에 있는 기기를 선택하세요.
2

커넥터가 모델의 API를 가리키도록 설정하세요

Ollama는 /v1 주소에서 OpenAI 호환 인터페이스를 제공합니다. 단일 모델 환경에서는 콘솔의 설정 마법사가 http://127.0.0.1:11434/v1 값을 자동으로 입력해 줍니다. LM Studio의 로컬 서버는 http://127.0.0.1:1234/v1을 사용합니다. vLLM/SGLang이나 여러 모델을 사용할 경우 tokios-connector.json에 엔드포인트를 직접 지정해야 하며, 자세한 내용은 커넥터 설정을 참고하세요.
3

배포 항목을 등록하세요

In the Models tab, register the model and choose a public deployment name, for example glm-tunnel. This name — not Ollama’s local model id — is what clients send in the model field.
4

API 키를 생성하세요

In the Keys tab, click Create key. Copy the sk-tok-… key now — it’s shown only once.

​
어디서든 해당 모델을 호출할 수 있습니다

The model field is always your registered deployment name (glm-tunnel above), never Ollama’s local model id. See Use Claude Code and Use Cline for full client setup.

​
주의사항

  • GLM-5.2 is not a consumer-GPU model, and it is not a single-DGX-Spark model either: at 753B stored parameters the weight floor is roughly 377 GB at INT4 and 753 GB at FP8, against 128 GB per Spark. On Ollama it’s glm-5.2:cloud only (no weight download), so self-hosting means a multi-GPU server or a 4-Spark cluster. See the DGX Spark compatibility guide for memory sizing. For anything smaller, use a hosted/cloud endpoint.
  • GLM-4.6 at 357B total parameters does not fit on a single 128 GB machine (DGX Spark, Strix Halo, or Apple Silicon). At Q4-class quantization it needs ~178 GB — plan on at least 2 high-VRAM GPUs or a multi-GPU server. For 128 GB hardware, use GLM-4.5-Air instead.
  • GLM-4.5-Air 모델의 GGUF 버전은 Q4 수준의 양자화를 적용하더라도 대용량 VRAM을 갖춘 GPU나 통합 메모리가 큰 기기(Apple Silicon, Strix Halo 등)가 필요합니다. 따라서 단일 24 GB급 소비자용 GPU에는 적합하지 않습니다.
  • Tool-call and reasoning parsing on GLM-4.5-Air/GLM-4.6/GLM-5.2 depend on the runtime applying the glm45 parser. If you self-host with vLLM/SGLang, pass the flags above explicitly or tool calls and thinking output won’t separate correctly.
  • 소형 모델인 glm4:9b에는 GLM-4.5-Air, GLM-4.6, GLM-5.2 모델에 존재하는 하이브리드 추론 모드나 기본 툴 호출 기능이 없습니다. 따라서 GPU 사양에 맞는 모델을 고르는 것뿐만 아니라 필요한 기능을 갖춘 모델을 선택하는 것이 중요합니다.

빠른 시작

커넥터를 연결한 뒤 첫 번째 모델을 등록해보세요.

어떤 크기의 모델이 사용자의 GPU에 적합할까요?

모델을 다운로드하기 전에 사용 가능한 VRAM 용량에 맞는 GLM 변형을 선택하세요.

양자화와 하드웨어

GLM에서 제공하는 GGUF, safetensors, AWQ 형식 중 어떤 것이 귀하의 하드웨어에서 실행 가능한지 확인해보세요.

어떤 작업에 적합한 로컬 모델은 무엇인가요?

각 작업별로 GLM이 다른 로컬 모델들과 어떻게 비교되는지 살펴보세요.

DGX Spark와의 호환성 정보

DGX Spark 환경에서 GLM-5.2을 배포하기 위한 메모리 크기 및 클러스터 설정 방법입니다.

GLM-5.3의 출시 정보를 실시간으로 확인하세요.

곧 출시될 GLM 버전에 대해 신뢰할 수 있는 정보와 소문은 무엇인지 알아보세요.