Skip to main content
Last verified: 2026-07-21
Kimi K3 is Moonshot AI’s frontier model: 2.8 trillion total parameters, ~50 billion active per token through Stable LatentMoE routing (16 of 896 experts), native visual input, and a 1-million-token context window. Moonshot launched K3 on July 17, 2026 for long-horizon coding, knowledge work, and reasoning. The important local-inference detail is timing: K3 is available now through Kimi’s hosted products and API, but Moonshot says the downloadable weights will arrive by July 27, 2026. The model card, checkpoint size, license, runtime flags, and reproducible self-hosting instructions are not public yet.
現時点ではモデル重みが公開されていないため、Kimi K3を自己ホスティングすることは不可能だ。推測に基づいたvllm serve形式のコマンドやK3と記載されたコミュニティ製ファイルを公式モデルだと誤解して使用してはならない。Moonshot社が公開するリポジトリを待つべきだ。

​
現在利用可能なものは何か？

情報源：Kimi K3のローンチ投稿およびKimi K3のAPIガイドです。

​
Kimi K3の概要

Moonshot社は現在、技術レポートや正確なチェックポイントファイルを公開していません。これらが公開されるまで、詳細なパラメータ構成やストレージ容量、実行コマンド、性能数値はすべて暫定的な情報とみなしてください。

​
Kimi K3をローカル環境で実行可能か？

No — not today. Kimi K3 is available now through Moonshot’s hosted API, but the downloadable weights have not shipped yet (promised by July 27, 2026). Even when the weights arrive, K3’s ~1.4 TB weight floor at 4-bit precision rules out every consumer and prosumer setup. Moonshot’s own recommendation is a supernode with 64 or more accelerators. Eight DGX Sparks pool 1 TB of unified memory and still fall 376 GB short. See the DGX Spark memory math for the full calculation.
重みデータの到着を待てない場合は、Kimi K3の代替モデルをご検討ください。Strix Haloから4台のSparkで構成されるクラスターまで、ご利用のハードウェアに最適なコーディング用および汎用モデルが揃っています。

​
Kimi K3を利用するためのハードウェア要件

No consumer or prosumer setup holds K3. At exactly 4 bits per parameter, 2.8T parameters need about 1.4 TB for the weights alone — before microscaling metadata, runtime buffers, activations, and context state. For scale: eight DGX Sparks pool 1 TB of unified memory and are still at least 376 GB short of the raw weight floor, NVIDIA currently documents Spark clusters only to four nodes, and Moonshot recommends serving K3 on a supernode with 64 or more accelerators. 詳細な計算方法やクラスター構成表、ネットワーク上の制約条件については、DGX Sparkのメモリ計算に関する資料を参照されたい。
今すぐダウンロード可能なモデルをお探しですか？現在提供されている全てのKimiモデルを比較してみてください。Kimi K2.6およびK2.7-Codeは現在オープンウェイト版として公開されており、サーバークラス級のハードウェア上でも動作可能だ。

​
自己ホスティングにおいてアーキテクチャが重要となる理由

K3は単にサイズが大きいだけのK2チェックポイントというわけではない。デプロイを計画している方にとって重要な変更点が四つある：
  • Kimi Delta Attention（KDA） — 線形アテンション方式を改良したハイブリッド設計により、数百万トークン規模のプロンプトでも事前処理のコストを抑えられる。これを実現するには専用のカーネルやキャッシュ仕様が不可欠だ。Moonshotによれば従来のプレフィックスキャッシュ方式はKDAには適合せず、同社が提供するvLLM用プレフィックスキャッシュ実装はモデルの重みデータと共に配布されている。単に重みデータを読み込むだけのランタイムではK3との互換性は保証されない。
  • Attention Residuals（AttnRes） — 各レイヤーの出力を一律の重みで加算する代わりに、特定のレイヤーから有用な表現情報を選択的に取り出す仕組みだ。Moonshotが公開したAttnResに関する論文では、深層モデルにおいて情報伝達の安定性が向上することが示されている。
  • Stable LatentMoE — 16 of 896 experts route per token. Sparse activation cuts per-token compute, but it does not shrink the stored checkpoint: every expert must stay resident across the serving cluster, which makes fast interconnects a first-order requirement.
  • ネイティブMXFP4 — 量子化対応型学習は教師ありファインチューニング段階から実施され、MXFP4形式の重みおよびMXFP8形式の活性化値を対象としています。これが本来の推論用フォーマットであり、コミュニティで作られた量子化版ではありません。したがって上記の4ビットという数値は妥協値ではなく、最低限の要件を示しているに過ぎません。

​
K3のAPI挙動を維持するための注意点

現在MoonshotのAPIを使ってK3をテストする場合や、後日自己ホスティング用ランタイムの検証を行う場合でも、以下のプロトコル上の詳細が重要となる。
  • K3は常に推論処理を行う。最上位レベルのreasoning_effort: "max"パラメータを利用すべきであり、K2.x版で用いられるthinkingパラメータは送信してはならない。
  • ストリーミングレスポンスでは、推論内容が reasoning_content に、最終的な回答が content に分けられます。
  • 複数回の対話やツールループの場合は、保持されている推論内容やツール呼び出しフィールドも含めて アシスタントメッセージ全体 を再送信する必要があります。 content のみを返すと以降の対話が不安定になる恐れがあります。
  • max_completion_tokens の既定値は 131,072 であり、最大で 1,048,576 まで設定可能です。
  • 起動用APIではサンプリング値が固定されます。Moonshotでは temperature、top_p、n、およびペナルティパラメータを上書きするよりもこれらを省略することを推奨します。
  • 公開されている画像URLは受け付けられません。base64形式のデータまたは ms://<file-id> 形式の参照情報を送信してください。
現在のリクエストスキーマについては、公式K3 APIガイド をご覧ください。

​
重みデータが入手できたら、K3 を Tokios と接続します。

Tokios はローカルランタイムの後に導入します。モデルをダウンロードしたり vLLM を置き換えたりする機能はありません。Moonshotおよびランタイム開発者がサポートされる K3 サービング手順を公開した際には：
1

公式のアーティファクトを確認します。

そのリポジトリが Moonshot によって紹介されているかを確認します。モデルカード、ライセンス、チェックポイントマニフェスト、対応するアクセラレータ一覧、推奨される並列処理設定を熟読してください。K2 から推測してはいけません。
2

対応しているクラスター上で K3 を稼働させます。

公開されている vLLM や他のランタイム向け手順に従い、ローカルサーバーがストリーミングリクエストを処理でき、reasoning_content を維持しつつ自身の /v1 API 上で複数回のツールループを実行できることを確認します。
3

Tokiosコネクターをペアリングする

サービングエンドポイントに接続可能なノードにコネクターをデプロイする。その後 dashboard 内で Setup を開き、Start pairing を選択して、一度きり有効な TKS-XXXX-XXXX というクレームコードを利用する。
4

デプロイを登録する

コネクターをクラスターのOpenAI互換 /v1 ベースURLに設定する。そして kimi-k3-tunnel のような公開用デプロイ名の下にアップストリームモデルIDを登録する。
5

APIキーを作成する

In the Keys tab, click Create key. Copy the sk-tok-… key now — it’s shown only once.
6

エンドポイント共有前にテストする

Test streaming, long turns, vision, structured output, and tool calls through https://api.tokios.com. Use a dedicated sk-tok-… API key and keep the initial context short while you validate memory use.

​
どこからでも呼び出せる

この設定が確認できたら、クライアント側ではアップストリームモデルIDではなくデプロイ名を指定して呼び出す。

​
注意点

  • 重みデータやモデルカード、ライセンス、技術レポート、チェックサムマニフェスト、自己ホスティング用コマンドなどはまだ準備中である。
  • K3のベンチマーク結果はMoonshotから提供されたものです。独立した再現実験を行うには、モデルの重みデータおよび評価環境の公開を待つ必要があります。
  • Moonshotでは、これまで保持されていた推論履歴が失われたり、他のモデルで利用中のセッションをK3用に切り替えたりすると、出力結果が不安定になる可能性があると警告しています。
  • K3は長文かつ難易度の高いタスク向けに訓練されており、指示内容が曖昧な場合には過剰に積極的に行動してしまう傾向があります。システムプロンプトや AGENTS.md 内に明確な制約条件を記載しておくことを推奨します。
  • A 1M-token limit is a maximum, not a target. Long contexts increase prefill time, cache storage, and inference cost.

​
よくある質問

At its native MXFP4 precision (4 bits per parameter), K3’s 2.8T parameters need about 1.4 TB for weights alone — before block scales, runtime buffers, activations, and KV cache. That is roughly 11 DGX Sparks at their 128 GB each, just for the raw weight floor. In practice you need 14-16 Sparks minimum for a hypothetical distributed serving stack, and NVIDIA only documents Spark clusters up to 4 nodes.
Not practically. Eight DGX Sparks give you 1 TB of unified memory — 376 GB short of the weight floor. NVIDIA’s documented Spark topology tops out at 4 nodes (512 GB), and Moonshot targets K3 at supernodes with 64 or more accelerators. For Spark-scale models today, see DGX Spark model compatibility.
Moonshot says K3 will ship with downloadable weights by July 27, 2026, but the license, model card, and checkpoint files are not published yet. Calling it “open” is accurate only after the weights and license land. Kimi K2.6 and K2.7-Code are open-weight today — see the Kimi model family.
現在では、Moonshotが提供するホスティング型APIを通じてモデルID kimi-k3を利用できます。チェックポイントが公開され次第、対応するクラスター上でそれをデプロイし（vLLMのKDAキャッシュ機能対応版が想定されています）、OpenAI互換の /v1エンドポイントを呼び出すことになります。Tokiosを使えば、スコープ付きのAPIキーを用いてそのローカルエンドポイントを前面に配置することも可能です。詳細は上記の Connect K3 with Tokios をご覧ください。
1,048,576トークン分（1M）です。max_completion_tokensパラメーターのデフォルト値は 131,072であり、最大でコンテキストウィンドウ全体の長さまで設定可能です。コンテキストが長くなるほどプリフィル時間やキャッシュ容量、推論コストも増加します。1Mは目標値ではなく上限値に過ぎません。
K3 is a Mixture-of-Experts model with 4 key innovations: Stable LatentMoE (16 of 896 experts activate per token, ~50B active), Kimi Delta Attention (hybrid linear attention for efficient million-token prefill), Attention Residuals (depth-wise information routing), and native MXFP4 (quantization-aware training from SFT onward). These are not drop-in compatible with standard transformer serving — KDA in particular needs matching kernels and cache semantics.

DGX Spark上でのKimi K3の利用方法

メモリ使用量の計算方法、クラスターの制約条件、および実際の起動検証結果の一覧表

Kimiシリーズの各モデル一覧

K3とダウンロード可能なK2.6やK2.7-Codeを比較し、今すぐKimiを自前でホストしてみましょう。

What to run instead of K3

Strix Haloから 4-Sparkクラスターまで、ご利用のハードウェアに最適なコーディング用および汎用モデルをご紹介します。

モデルのデプロイおよびスケーリング手法

大規模なクラスターを計画する前に、テンサー並列性、パイプライン並列性、エキスパート並列性について理解しておきましょう。

クイックスタート

コネクターをペアリングし、現在利用可能なローカルモデルを登録してください。[設定] ダッシュボードから操作を行うことができます。