> ## Documentation Index
> Fetch the complete documentation index at: https://docs.tokios.com/llms.txt
> Use this file to discover all available pages before exploring further.

> ## Agent Instructions
> Tokios exposes private local models through https://api.tokios.com using an outbound-only connector tunnel.
> Use 'connector' for the local tokios-connector process.
> Use 'deployment' for the public model name in the API model field.
> Use 'upstream model id' for the model served by Ollama, llama.cpp, vLLM, LM Studio, or another local backend.
> API keys use the prefix sk-tok-. Connector tokens use the prefix ct-tok-.

# MiMo V2.6 をローカルで実行する — Xiaomi のマルチモーダルエージェントモデル

> MiMo V2.6 をローカルで実行します。Xiaomi の 1.02T MoE で、アクティブは 42B、ネイティブのマルチモーダル（テキスト/画像/動画/音声）、1M のコンテキスト、MIT ライセンスを備えています。9B の蒸留モデルは単一の GPU に収まります。

> [!NOTE]
>
> Last verified: 2026-10-14

MiMo V2.6はXiaomiのマルチモーダルエージェントモデルファミリーであり、**MIT license**で22日、2026年にリリースされた。ラインナップは3つのバリエーション — 1.02兆パラメータのフラッグシップ（Pro）、309Bの本番ワークホース（Flash）、そして9Bの蒸留版 — で構成され、すべてネイティブマルチモーダル入力（テキスト、画像、動画、音声）、最大128K出力トークン、1Mトークンのコンテキストウィンドウを共有する。ProとFlashはスパースMoEアーキテクチャで、大規模なマルチGPUハードウェアを必要とする。

注目すべきは、スケール、モダリティカバレッジ、ライセンスの組み合わせだ。ProとFlashは深刻なマルチGPUハードウェアを必要とするスパースMoEアーキテクチャだが、**9B Distill**は24 GB GPUに収まる。この系譜のモデルが、おそらくすでに手元にあるコンシューマーハードウェアで動作するのは初めてのことだ。

> [!TIP]
>
> MiMoバリアントをすでに実行中？ [Tokiosに登録](/ja/setup/register-model.md)して、任意のクライアントから`https://api.tokios.com`としてアクセスできます。

## The MiMo V2.6 lineup

| Variant | Total params | Active params | Context | Best for | Hardware |
| - | - | - | - | - | - |
| **Pro** | 1.02T | 42B | 1M | 難易度の高いコーディング、長期計画、サイバーセキュリティ、マルチツールオーケストレーション | マルチGPUサーバー（約520 GB+） |
| **Flash** | 309B | 15B | 1M | 大量自動化、コスト重視のエージェントループ | 高メモリシステム（約160 GB+） |
| **Distill** | 9B | 9B (dense) | 1M | ローカル実験、教育、単一GPU作業 | 単一の24 GB GPU |

3つのバリアントすべてがMITライセンスで、テキスト・画像・動画・音声の入力を受け付け、テキストを出力し、最大128K出力トークンに対応する。

## Which MiMo should you run?

ハードウェアで決まる:

* **Single 24 GB GPU**（RTX 3090、4090、または同等） — **Distill**を実行する。Qwenアーキテクチャから蒸留された9Bのデンスモデルであり、オフローディングなしでコンシューマーハードウェアに収まる唯一のMiMoバリアントだ。実験、学習、軽めのエージェント作業はここから始めよう。
* **High-memory system**（192 GB+の統合メモリ、または2つ以上のデータセンターGPU） — **Flash**を実行する。309B合計でトークンあたり15Bアクティブ。Proのハードウェア要件なしでマルチモーダル入力とロングコンテキストが必要な本番エージェントループのコスト効率の良い選択だ。
* **Multi-GPU server**（4× H100クラスまたは同等） — **Pro**を実行する。1.02Tのフラッグシップは、難易度の高いコーディング、サイバーセキュリティ分析、長期にわたるマルチツールオーケストレーションのために構築されている。

MoEモデルの透明なサイジング計算 — メモリは**合計**パラメータでスケールし、アクティブパラメータではない。ルーティングはトークンごとに一部をアクティブにするだけだが、すべてのエキスパートウェイトが常駐し続けるためだ（[推論の仕組み](/ja/concepts/how-inference-works.md)を参照）:

* Pro: 1.02T × \~0.5 bytes at 4-bit ≈ **\~510 GB** of weights, \~520 GB+ with overhead
* Flash: 309B × \~0.5 bytes at 4-bit ≈ **\~155 GB** of weights, \~160 GB+ with overhead
* Distill: 9B × \~0.5 bytes at 4-bit ≈ **\~4.5 GB** of weights, \~6 GB as shipped

ウェイトに加えて、コンテキスト長と同時接続数に応じた[KV cache](/ja/concepts/kv-cache-and-context.md)が必要だ。

## Run it locally

**vLLM — Pro (multi-GPU server)**

```bash theme={"theme":{"light":"github-light","dark":"css-variables"}}
vllm serve XiaomiMiMo/MiMo-V2.6-Pro-RL \
  --tensor-parallel-size 8 \
  --trust-remote-code
```

ボックス内のすべてのGPUでテンソル並列化する。合計約520 GB+のVRAMを見込む。4-bitのウェイトとKV cacheの分だ。vLLMは`http://127.0.0.1:8000/v1`にOpenAI互換APIを提供する — これがTokiosコネクタの接続先だ。標準化する前に[モデルカード](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Pro-RL)でフラグを確認しよう。[vLLM remote access](/ja/guides/vllm-remote-access.md)も参照。

**vLLM — Flash (high-memory server)**

```bash theme={"theme":{"light":"github-light","dark":"css-variables"}}
vllm serve XiaomiMiMo/MiMo-V2.6-Flash-MOPD \
  --tensor-parallel-size 4 \
  --trust-remote-code
```

合計約160 GB+のVRAMを見込む。Blackwell GPU向けにコミュニティNVFP4ビルド（[`ProCreations/MiMo-V2.6-Flash-RL-NVFP4`](https://huggingface.co/ProCreations/MiMo-V2.6-Flash-RL-NVFP4)）が利用可能で、メモリフットプリントをさらに削減できる。サービング前にモデルカードで確認しよう。[vLLM remote access](/ja/guides/vllm-remote-access.md)も参照。

**SGLang — Pro or Flash**

```bash Pro theme={"theme":{"light":"github-light","dark":"css-variables"}}
sglang serve XiaomiMiMo/MiMo-V2.6-Pro-RL \
  --tp 8 \
  --trust-remote-code
```

```bash Flash theme={"theme":{"light":"github-light","dark":"css-variables"}}
sglang serve XiaomiMiMo/MiMo-V2.6-Flash-MOPD \
  --tp 4 \
  --trust-remote-code
```

SGLangはvLLMの代替で、同等のパフォーマンス特性を持つ。GPU数に合わせて`--tp`を調整しよう。[SGLang remote access](/ja/guides/sglang-remote-access.md)も参照。

**llama.cpp — Distill (single GPU)**

```bash theme={"theme":{"light":"github-light","dark":"css-variables"}}
llama serve -hf XiaomiMiMo/MiMo-V2.6-Distill-9B
```

9B Distillは24 GB GPUに収まる（4-bit）。正確なHuggingFaceリポジトリ名は[XiaomiMiMoのHuggingFaceページ](https://huggingface.co/XiaomiMiMo)で確認しよう — モデルリリース後にコミュニティGGUFビルドも出現する可能性がある。[llama.cpp remote access](/ja/guides/llama-cpp-remote-access.md)も参照。

> [!WARNING]
>
> MiMoバリアントのリポジトリ名やCLIフラグを勝手に作り出さないこと。上記のProとFlashのリポジトリは確認済み。Distillのリポジトリ名はXiaomiの命名パターンに基づく推測 — 実行前に[XiaomiMiMoのHuggingFaceページ](https://huggingface.co/XiaomiMiMo)で確認しよう。

## Variants & specs

以下の値はすべてHugging Face上のXiaomiのモデルカードからのものだ。標準化する前にモデルカードで確認しよう。

| Property | Pro | Flash | Distill |
| - | - | - | - |
| Hugging Face | [`XiaomiMiMo/MiMo-V2.6-Pro-RL`](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Pro-RL) | [`XiaomiMiMo/MiMo-V2.6-Flash-MOPD`](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Flash-MOPD) | 確認 [XiaomiMiMo](https://huggingface.co/XiaomiMiMo) |
| Parameters | 1.02T total / **42B active** | 309B total / **15B active** | 9B (dense) |
| Architecture | Sparse MoE | Sparse MoE | Dense (Qwen-based distill) |
| Context window | 1M (1,048,576) | 1M (1,048,576) | 1M (1,048,576) |
| Max output tokens | 128K | 128K | 128K |
| Input modalities | Text, image, video, audio | Text, image, video, audio | Text, image, video, audio |
| Output | Text | Text | Text |
| License | MIT | MIT | MIT |
| Community quants | — | [`ProCreations/MiMo-V2.6-Flash-RL-NVFP4`](https://huggingface.com/ProCreations/MiMo-V2.6-Flash-RL-NVFP4) | — |
| Best for | 難易度の高いコーディング、長期計画、サイバーセキュリティ、マルチツールオーケストレーション | 大量自動化、コスト重視のエージェントループ | ローカル実験、教育、単一GPU作業 |

Sources: [`XiaomiMiMo/MiMo-V2.6-Pro-RL`](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Pro-RL), [`XiaomiMiMo/MiMo-V2.6-Flash-MOPD`](https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Flash-MOPD).

> [!NOTE]
>
> MiMo V2.6は**MIT license**でリリースされており、許容的使用ポリシーやユーザー数閾値のない許容的なライセンスだ。商業製品を構築する前に、モデルカードの`LICENSE`ファイルを確認しよう。

## Capabilities

* **Native multimodal input.** テキスト、画像、動画、音声が入力され、テキストが出力される。後付けのビジョンモジュールではなく、3つのバリアントすべてのベースアーキテクチャの一部だ。
* **128K output tokens.** 切り捨てなしの拡張推論、リポジトリ規模のコード生成、詳細な分析に十分な長さ。
* **1M context window.** リポジトリ規模のコーディングセッション、長文書、または数時間の音声に十分な大きさ。ロングコンテキストのデプロイメントをサイジングする際は、ウェイトに加えて[KV-cache memory](/ja/concepts/kv-cache-and-context.md)を見込むこと。
* **Tool calling and agentic workflows.** すべてのバリアントがツール使用とマルチステップエージェントループをサポートする。vLLMまたはSGLangでサービングする際は、モデルカードが推奨するツールコールパーサーを有効にして、`tools`リクエストがエンドポイント経由で動作するようにしよう。
* **MIT license.** 3つのバリアントすべてに適用される許容的なライセンス — 許容的使用ポリシーなし、ユーザー数閾値なし。

### Benchmarks

Xiaomi報告値。最近リリースされたモデルの値であり、独立した再現はまだ存在しない — サードパーティ評価が公開されるまで、ベンダーの主張として扱ってほしい。

| Benchmark | Pro | Flash |
| - | - | - |
| Coding (HumanEval-style) | Vendor-reported | Vendor-reported |
| Agentic tasks | Vendor-reported | Vendor-reported |
| Multimodal understanding | Vendor-reported | Vendor-reported |

具体的なスコアは独立評価が公開され次第追加される。それまでは、独自のワークロードで[Kimi K2.6](/ja/models/kimi.md)および[Qwen3.8-27B](/ja/models/qwen3.8.md)とPro・Flashを比較しよう。

## Hardware fit

判定は4-bit量子化と控えめなコンテキスト長を前提としている。

| Target | Pro (\~520 GB+) | Flash (\~160 GB+) | Distill (\~6 GB) |
| - | - | - | - |
| RTX 4070 Ti Super / 4080 (16 GB) | Won't fit | Won't fit | Comfortable |
| RTX 3090 / 4090 (24 GB) | Won't fit | Won't fit | Comfortable |
| RTX 5090 (32 GB, Blackwell) | Won't fit | Won't fit | Comfortable, long context |
| 2× RTX 4090 (48 GB pooled) | Won't fit | Tight, short context | Comfortable |
| 4× RTX 4090 (96 GB pooled) | Won't fit | Workable | Comfortable |
| Apple Silicon (64 GB unified) | Won't fit | Won't fit | Comfortable |
| Apple Silicon (192 GB+ unified) | Won't fit | Workable | Comfortable |
| DGX Spark (128 GB unified) | Won't fit | Tight | Comfortable |
| 2× DGX Spark (256 GB pooled) | Won't fit | Comfortable | Comfortable |
| Multi-GPU server (8× H100, 640 GB) | Comfortable | Comfortable | Comfortable |

Proモデルには約520 GB+の合計VRAMが必要だ — 4× H100または8× A100のシステム、あるいは積極的な量子化による大規模なコンシューマーGPUプール。Flashの約160 GBは、高メモリのMac Studio、2台のDGX Spark、または4-GPUサーバーに収まる。Distillの約6 GBは24 GBのVRAMを持つ最新のGPUに収まり、コンテキスト用のヘッドルームも残る。

共有ハードウェアでは、FlashとDistillのバリアントはロングコンテキスト時にKV cacheと同じメモリプールを競合する。控えめなコンテキストから始めて、計測してから上げよう。サイジング方法については[what size model fits your GPU?](/ja/guides/model-fit.md)を参照。

> **[Picked a model? Connect it](/ja/quickstart.md)**
>
> 認証済みエンドポイント `https://api.tokios.com` — インバウンドポート不要、約5分。

## Connect it with Tokios

常時稼働のローカルモデルは、実行しているマシンにいないときでもアクセスしたいもの。Tokiosはランタイムの後に配置される。モデルをダウンロードしたり、vLLMを置き換えたりしない。

**1. Keep your local runtime running**

vLLM、SGLang、またはllama.cppでMiMo V2.6を起動し、ループバックにバインドしたままにする。

**2. Pair the Tokios connector**

サインイン [tokios.com/console](https://tokios.com/console)、**Setup**タブを開き、**Start pairing**をクリックしてワンタイムのペアリングコード（`TKS-XXXX-XXXX`）を取得する。モデルを実行しているマシンでインストーラーを実行する:

```powershell Windows theme={"theme":{"light":"github-light","dark":"css-variables"}}
irm https://tokios.com/downloads/install/windows | iex; tokios-install -Code 'TKS-XXXX-XXXX'
```

```bash macOS theme={"theme":{"light":"github-light","dark":"css-variables"}}
curl -fsSL https://tokios.com/downloads/install/macos | sh -s -- --code TKS-XXXX-XXXX
```

```bash Linux theme={"theme":{"light":"github-light","dark":"css-variables"}}
curl -fsSL https://tokios.com/downloads/install/linux | sh -s -- --code TKS-XXXX-XXXX
```

次にデバイスを**approve**する（**Setup**または**Connectors**タブで）。

**3. Register a deployment**

登録 [Models](https://tokios.com/console/models) タブで、アップストリームモデルID（例: `XiaomiMiMo/MiMo-V2.6-Flash-MOPD`）を`mimo-flash`のような公開デプロイメント名で。クライアントは`model`フィールドにデプロイメント名を送信し、ローカルIDは送信しない — そのため後で再量子化してもクライアント側は何も変更されない。

**4. Create an API key**

操作 [Keys](https://tokios.com/console/keys) タブで**Create key**をクリックする。`sk-tok-…`キーを今すぐコピーする — 表示は一度のみ。

### Call it from anywhere

```bash curl (OpenAI-compatible) theme={"theme":{"light":"github-light","dark":"css-variables"}}
curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mimo-flash",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Analyze this codebase and propose a refactoring plan."}
    ]
  }'
```

```bash Claude Code (Anthropic-compatible) theme={"theme":{"light":"github-light","dark":"css-variables"}}
export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model mimo-flash
```

## Caveats

* **Pro and Flash are MoE models.** 1.02T（Pro）または309B（Flash）の全パラメータがメモリに収まる必要がある。トークンあたり42Bまたは15Bのみがアクティブであってもだ — [推論の仕組み](/ja/concepts/how-inference-works.md)を参照。
* **1M context is a ceiling, not a target.** ロングコンテキストはモデルウェイトに加えてKV cacheメモリを追加する。共有ハードウェアでは、そのヘッドルームはモデルが推論にも使用する領域だ。
* **Benchmarks are vendor-reported.** Xiaomiがリリース日に公開した。スコアを確定として扱う前に独立評価を待つこと。
* **Flash is the practical choice for most production setups.** Proには約520 GB+の合計VRAMが必要だ — 本格的なマルチGPUサーバー。Flashの約160 GBは高メモリワークステーションまたは小型サーバーに収まり、ほとんどのエージェントループワークロードをカバーする。
* **The Distill is a distillation, not the full architecture.** MoEスケールと単一GPU適合性をトレードオフした。最も難しいタスクではProやFlashより劣ることを想定してほしい。ただしコンシューマーハードウェアで動作する唯一のバリアントだ。
* **Multimodal input depends on your runtime.** Tokiosは画像、動画、音声コンテンツをアップストリームエンドポイントにそのままパスする — ランタイムや量子化が欠いている機能を追加することはない。[supported backends](/ja/setup/supported-backends.md)を確認。

## FAQ

> **How much VRAM does MiMo V2.6 Pro need?**
>
> 合計約520 GB+のVRAM（4-bit）。透明な計算: 1.02Tパラメータ × \~0.5 bytes at 4-bit ≈ \~510 GB of weights、plus overhead for embeddings and metadata。マルチGPUサーバーが必要だ — 4× H100（320 GB）では不十分。8× A100（640 GB）以上を計画すること。

> **Can I run MiMo V2.6 on a single GPU?**
>
> はい — **Distill**バリアントは9Bのデンスモデルで、24 GB GPUに収まる（4-bit、\~6 GB）。Qwenアーキテクチャから蒸留されており、コンシューマーハードウェアで動作する唯一のMiMoバリアントだ。ProとFlashにはマルチGPUシステムが必要。

> **Is MiMo V2.6 open source?**
>
> 3つのバリアントすべてが**MIT license**で公開されており、許容的使用ポリシーやユーザー数閾値のない許容的なライセンスだ。ただし、オープンウェイトとオープンソースは同じではない — トレーニングデータとパイプラインは公開されていない。

> **What is the difference between Pro, Flash, and Distill?**
>
> **Pro**（1.02T total, 42B active）は難易度の高いコーディング、サイバーセキュリティ、長期計画のフラッグシップ。**Flash**（309B total, 15B active）は大量エージェントループの本番ワークホース。**Distill**（9B, dense）は実験と教育向けに単一GPUに収まる。3つすべてが同じマルチモーダル入力機能とMITライセンスを共有する。

> **How does MiMo V2.6 compare to Kimi or Qwen?**
>
> MiMo V2.6 ProとFlashは[Kimi K2.6](/ja/models/kimi.md)（1T total, 32B active）と同じスケールクラスのMoEモデルだが、ネイティブオーディオ入力とより大きなコンテキストウィンドウを備える。9BのDistillは[Qwen3.8-27B](/ja/models/qwen3.8.md)および[Muse Glimmer](/ja/models/muse-glimmer.md)と単一GPU作業で競合するが、より小さい。MITライセンスですべて簡単にテストできるので、独自のワークロードで比較しよう。

> **Can I use MiMo V2.6 with a coding agent?**
>
> はい — すべてのバリアントがツール呼び出しとエージェントワークフローをサポート。特定のエージェントが動作するかどうかは、ランタイムがツール呼び出しをどのように公開するかによる。[coding agent compatibility](/ja/guides/coding-agent-compatibility.md)でマトリックスを、[coding agents with local models](/ja/guides/coding-agents-local-models.md)でセットアップを参照。

> **What audio formats does MiMo V2.6 accept?**
>
> サポートされる特定の音声形式とサンプリングレートについてはモデルカードを確認。Tokiosは音声コンテンツをアップストリームエンドポイントに変更せずパスする — トランスコードやリサンプリングは行わない。

> **[What fits your GPU?](/ja/guides/model-fit.md)**
>
> モデルとコンテキストをVRAMまたは統合メモリにサイジングする。

> **[Coding agents with local models](/ja/guides/coding-agents-local-models.md)**
>
> Claude Code、Cline、またはAiderを自分でホストするモデルに向ける。

> **[Kimi](/ja/models/kimi.md)**
>
> Moonshot AIの1T MoEファミリー — 同等のスケール、異なるライセンス。

> **[Qwen3.8](/ja/models/qwen3.8.md)**
>
> Alibabaのデンス27B視覚言語モデル、同じくApache-2.0。

> **[Reach it from your phone](/ja/use-cases/local-model-on-your-phone.md)**
>
> 常時稼働のローカルモデルをマシンから離れているときに使う。

> **[Quickstart](/ja/quickstart.md)**
>
> コネクタをペアリングして、最初のモデルをエンドツーエンドで登録する。


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.