Kimiシリーズの概要
Wondering whether you can run Kimi K3 locally? Short answer: not yet — the weights are not out, and when they arrive the floor is roughly 1.4 TB of memory. The rest of this page covers the Kimi models you can download today.
If you just want Kimi’s answers and don’t care where it runs, Moonshot’s hosted API (platform.kimi.com) is the easy path. Tokios is for the case where you want the weights on your hardware — a serious multi-GPU or high-RAM rig — and a private, authenticated endpoint in front of it.
Kimiをローカル環境で実行できるか？
Honestly: not on a normal desktop. Kimi K2.6 ships already at native INT4 — that’s the small format — and it’s still about 595 GB across 64 checkpoint shards. There is no consumer GPU, and no single datacenter GPU, that holds it. The realistic options:
Community re-quantizations trade quality for size but don’t change the conclusion:
bartowski/moonshotai_Kimi-K2.6-GGUF ranges from an extreme IQ1_S at ~207 GB up to Q4_0 at ~584 GB, and Unsloth’s dynamic 2-bit build (~340–350 GB) still wants a 350 GB+ combined VRAM/RAM budget. As a rule of thumb, plan for RAM + VRAM roughly equal to the quant size. For most people, Kimi is a cloud/API model — and that’s a fine answer. Run it locally only if you have the rig for it.
「Ollama上のKimi」はクラウド版でありローカル版ではありません
Kimi K2.x models are in the Ollama library —kimi-k2.6, kimi-k2.7-code, kimi-k2.5 — but every one of them exposes only a :cloud tag. Ollama’s cloud models don’t download; requests are proxied to Ollama’s hosted infrastructure while you stay signed in. So ollama run kimi-k2.6:cloud is convenient, but it is not self-hosting — the weights never touch your machine, and there’s nothing local for a connector to point at.
自分で管理するハードウェア上でKimiを利用したい場合は、:cloudタグを無視し、以下の手順に従ってサーバーランタイムを用いてモデルウェイトを自己ホスティングしてください。そうすればTokiosが他社のクラウドではなく、あなた自身のデプロイをフロントエンドとして扱うことになります。
自前のハードウェア上でKimiを動作させる方法です
Moonshotのデプロイドキュメントでは、単一GPU向けの構成ではなく、本番環境向けのランタイムである vLLM、SGLang、KTransformers を対象としています。複数GPUを備えたサーバー上では、ネイティブなINT4形式の重みデータを提供し、OpenAI互換のエンドポイントを公開できます。- vLLM（公式推奨パス、複数GPUサーバー）
- コミュニティ提供のGGUF形式（大容量RAMを備えたマシン向け）
http://127.0.0.1:8000/v1上でOpenAI互換のAPIを提供しており、これがTokiosコネクターの接続先となります。デプロイ前にはモデルカードを確認し、推奨される設定フラグやツール呼び出し用パーサーの有無を把握しておきましょう。バリエーションと仕様
以下の数値はすべてHugging FaceおよびMoonshot公式プラットフォーム上のモデルカードから引用したものです。標準的な仕様として採用する前に必ずモデルカードで確認してください。Moonshotでは毎月ほど新しいKimiモデルがリリースされています。
情報源：
moonshotai/Kimi-K2.6、moonshotai/Kimi-K2.7-Code、platform.kimi.com/docs/models、ollama.com/library/kimi-k2.6 となっています。
Kimiが採用するModified MITライセンスはほとんどの用途で利用可能ですが、大規模な商用デプロイの場合は帰属表示の条件が追加されます（MAUや収益が一定水準を超える製品のUI上に「Kimi K2.6」と表示する必要があります）。商用製品開発にあたっては、モデルカード内の
LICENSE ファイルを必ずご確認ください。主な機能
- エージェント型ツール呼び出し — K2.xはツール利用や複数ステップからなるエージェントループの処理に特化して訓練されています。vLLMやSGLangでこのモデルを利用する際は、モデルカードに記載されたツール呼び出しパーサーを有効化することで
toolsリクエストが正しく処理されます。 - ネイティブなマルチモーダル入力 — K2.xシリーズはテキスト・画像・動画の理解に対応しています。
- Reasoning — K2.x exposes thinking through Moonshot’s
thinkingAPI parameter. Kimi K3 replaces it with a top-levelreasoning_effort— don’t mix the two conventions; see the Kimi K3 page for K3’s protocol details. - 256Kコンテキスト長 — リポジトリ規模のコーディングセッションにも対応できる十分な長さですが、長コンテキストデプロイを計画する際は重みデータに加えて KVキャッシュメモリ の確保も必要となります。
どのKimiモデルを利用すべきか？
- K2.6はMoonshotが提供する汎用性の高いフラッグシップモデルです。文章作成・分析・対話やエージェント型タスク全般に最適です。
- K2.7-Codeはコーディングおよびエージェント関連タスクに特化したモデルです。詳細は 下記専用セクション をご覧ください。
- K2.5は以前のフラッグシップモデルであり、すでに標準として採用済みの場合でも引き続き利用可能だ。
- K3は最新のフラッグシップモデルだが、現時点ではホスティング専用となっており、重みデータが提供され次第ハードウェア要件も一段階上がる予定だ。利用可否やハードウェア要件については Kimi K3 を参照し、もしハードウェアが対応しない場合は 代わりに利用可能なモデル もご覧ください。
Kimi K2.7-Codeはコーディングエージェント向けモデルだ。
Kimi K2.7-Code (June 2026) is the coding-specialized sibling of K2.6: same 1T-MoE architecture, size, and hardware requirements, but tuned for agentic engineering. It cuts reasoning-token usage roughly 30% versus K2.6 and is the default model in Moonshot’s Kimi Code CLI. If coding is the job, it’s the Kimi to serve. デプロイ方法は K2.6と全く同じだ。INT4形式の重みデータのサイズも同じで、vLLM/SGLangによるサービング手順も同一（モデルIDをmoonshotai/Kimi-K2.7-Codeに置き換えるだけ）。Ollama上でも :cloud専用モデルとして利用可能だ。Tokiosエンドポイント経由で利用できるようになれば、コーディングエージェントとの連携も自然に行える。クライアント設定方法は Claude Codeの利用法 および OpenAI Codexの利用法 を参照されたい。
Tokiosコネクターを接続する
ご自身のサーバー上でKimiが稼働している状態（vLLMまたはSGLangが OpenAI互換の/v1エンドポイントを提供している場合）で、Tokiosコネクターを設定すれば、LAN内からだけでなく https://api.tokios.com経由でもClaude CodeやCline、その他の互換クライアントからKimiにアクセスできるようになる。
1
Tokiosコネクターをペアリングする
Sign in at tokios.com/console, open the Setup tab, and click Start pairing to get a one-time claim code (その後 approveにて Setupまたは Connectorsタブからデバイスを登録する。
TKS-XXXX-XXXX). Install and run the connector on the server hosting Kimi:Linux
2
コネクターをご利用中のランタイムの /v1 APIに向ける
vLLMおよびSGLangは OpenAI互換のインターフェースを提供しており、通常は
http://127.0.0.1:8000/v1となる。これを tokios-connector.json内でアップストリームモデルIDとして設定する。詳細は コネクター設定 を参照されたい。3
デプロイを登録する
In the Models tab, register the model and choose a public deployment name, for example
kimi-tunnel. This name — not the upstream model id — is what clients send in the model field.4
APIキーを作成する
In the Keys tab, click Create key. Copy the
sk-tok-… key now — it’s shown only once.どこからでも呼び出せる
注意点
- Kimi K2.x is a 1T-parameter MoE — all trillion parameters must fit in memory even though only ~32B are active per token. This is a multi-GPU-server or big-RAM-workstation model, not a single-GPU one.
- Ollamaの
kimi-*タグは:cloud専用となっており、これらはあなたのインフラではなくOllamaのインフラ上で実行されます。コネクターがアクセスできるローカルなリソースは存在しません。ご自身のハードウェア上でKimiを利用したい場合は、vLLMやSGLangを使って自己ホスティングするしかありません。 - Kimiは native INT4 形式で提供されています。動作させるためにBF16形式へ変換する必要はありません。
- Kimi K3 is hosted-only until its weights arrive (promised by July 27, 2026) — the Kimi K3 page tracks availability and what to verify before self-hosting it.
- Moonshot社は頻繁にKimiの新バージョンをリリースし、古いプレビュー版は廃止されます。標準利用する前に platform.kimi.com/docs/models で最新のアップストリームモデルIDを確認してください。
Kimi K3
The 2.8T frontier flagship: what’s available now and the hardware reality.
What to run instead of K3
K3を導入できない？ ご使用のハードウェアに最適なモデルとそのデプロイ手順を紹介
ご使用のGPUに適したモデルサイズはどれか
The sizing math behind why a 1T MoE needs a server, not a desktop.
家庭用GPUサーバーの構築法
Kimiのようなモデルが実際に必要とするマルチGPUシステムの組み立て方
各タスクに適したローカルモデルはどれか
既存のハードウェアでも動作可能な軽量モデル一覧