Die MiMo V2.6-Palette
Welches MiMo sollten Sie ausführen?
Ihre Hardware entscheidet:- Einzelne 24-GB-GPU (RTX 3090, 4090 oder ähnlich) — führen Sie das Distill aus. Es ist ein 9B-dichtes Modell, das aus der Qwen-Architektur destilliert wurde, und es ist die einzige MiMo-Variante, die auf Consumer-Hardware ohne Offloading passt. Starten Sie hier für Experimente, Lernen und leichte Agenten-Arbeit.
- System mit viel Speicher (192 GB+ Unified Memory oder 2+ Rechenzentrum-GPUs) — führen Sie Flash aus. Bei 309B insgesamt mit 15B aktiven Parametern pro Token ist es die kosteneffektive Wahl für Produktions-Agenten-Schleifen, in denen Sie multimodale Eingabe und langen Kontext ohne Pros Hardware-Anforderung brauchen.
- Multi-GPU-Server (4× H100-Klasse oder gleichwertig) — führen Sie Pro aus. Das 1.02T-Flaggschiff ist für die schwierigsten Aufgaben gebaut: schwieriges Coding, Cybersicherheitsanalyse und Multi-Tool-Orchestrierung über lange Horizonte.
- Pro: 1.02T × ~0.5 Bytes bei 4-Bit ≈ ~510 GB an Gewichten, ~520 GB+ mit Overhead
- Flash: 309B × ~0.5 Bytes bei 4-Bit ≈ ~155 GB an Gewichten, ~160 GB+ mit Overhead
- Distill: 9B × ~0.5 Bytes bei 4-Bit ≈ ~4.5 GB an Gewichten, ~6 GB wie ausgeliefert
Lokal ausführen
- vLLM — Pro (Multi-GPU-Server)
- vLLM — Flash (Server mit viel Speicher)
- SGLang — Pro oder Flash
- llama.cpp — Distill (einzelne GPU)
http://127.0.0.1:8000/v1 — darauf zeigt der Tokios-Connector. Bestätigen Sie die Flags für Ihre vLLM-Version anhand der Modellkarte bevor Sie standardisieren. Siehe vLLM Fernzugriff.Varianten und Spezifikationen
Jeder Wert unten stammt aus Xiaomis Modellkarten auf Hugging Face. Bestätigen Sie dies anhand der Modellkarte, bevor Sie sich auf eine standardisieren.XiaomiMiMo/MiMo-V2.6-Pro-RL, XiaomiMiMo/MiMo-V2.6-Flash-MOPD.
LICENSE-Datei auf der Modellkarte, bevor Sie ein kommerzielles Produkt darauf aufbauen.Fähigkeiten
- Native multimodale Eingabe. Text, Bild, Video und Audio gehen hinein; Text kommt heraus. Dies ist kein aufgesetztes Vision-Modul — es ist Teil der Basisarchitektur über alle 3 Varianten.
- 128K Ausgabe-Token. Lang genug für erweitertes Reasoning, repositoryweite Codegenerierung und detaillierte Analyse ohne Kürzung.
- 1M Kontextfenster. Groß genug für repositoryweite Coding-Sitzungen, lange Dokumente oder Stunden an Audio. Budgetieren Sie KV-Cache-Speicher zusätzlich zu den Gewichten, wenn Sie ein Long-Context-Deployment dimensionieren.
- Tool-Aufrufe und Agenten-Workflows. Alle Varianten unterstützen Tool-Nutzung und mehrstufige Agenten-Schleifen. Wenn Sie mit vLLM oder SGLang bereitstellen, aktivieren Sie den Tool-Call-Parser, den die Modellkarte empfiehlt, damit
tools-Anfragen durch Ihren Endpunkt funktionieren. - MIT-Lizenz. Permissiv über alle 3 Varianten — keine Acceptable-Use-Policy, keine Benutzerzahl-Schwelle.
Benchmarks
Von Xiaomi berichtet, für ein kürzlich veröffentlichtes Modell. Es gibt noch keine unabhängige Reproduktion — betrachten Sie dies als die Aussagen des Herstellers, bis unabhängige Auswertungen erscheinen.Hardware-Eignung
Urteile setzen 4-Bit-Quantisierung bei moderater Kontextlänge voraus.Modell ausgewählt? Verbinden Sie es
https://api.tokios.com — keine eingehenden Ports, etwa 5 Minuten.Verbinden Sie es mit Tokios
Ein immer aktives lokales Modell ist eines, das Sie erreichen möchten, wenn Sie nicht am betreibenden Rechner sind. Tokios sitzt nach Ihrer Laufzeitumgebung: Es lädt das Modell nicht herunter und ersetzt nicht vLLM.Lassen Sie Ihre lokale Laufzeitumgebung laufen
Paaren Sie den Tokios-Connector
TKS-XXXX-XXXX) zu erhalten. Führen Sie den Installer auf dem Rechner aus, auf dem das Modell läuft:Registrieren Sie ein Deployment
XiaomiMiMo/MiMo-V2.6-Flash-MOPD) unter einem öffentlichen Deployment-Namen wie mimo-flash. Clients senden den Deployment-Namen im model-Feld, niemals die lokale ID — eine spätere Neuquantisierung ändert also auf Client-Seite nichts.Erstellen Sie einen API-Schlüssel
sk-tok-…-Schlüssel jetzt — er wird nur einmal angezeigt.Von überall aus aufrufen
Einschränkungen
- Pro und Flash sind MoE-Modelle. Alle 1.02T (Pro) oder 309B (Flash) Parameter müssen in den Speicher passen, obwohl nur 42B oder 15B pro Token aktiv sind — siehe wie Inferenz funktioniert.
- 1M Kontext ist eine Obergrenze, kein Ziel. Lange Kontexte fügen KV-Cache-Speicher zu den Modellgewichten hinzu. Auf gemeinsamer Hardware ist dieser Spielraum das, was das Modell auch für Inferenz nutzt.
- Benchmarks sind vom Hersteller berichtet. Xiaomi hat sie am Veröffentlichungstag publiziert. Warten Sie auf unabhängige Auswertungen, bevor Sie die Ergebnisse als abgeschlossen betrachten.
- Flash ist die praktische Wahl für die meisten Produktions-Setups. Pro braucht ~520 GB+ kombinierten VRAM — ein ernsthafter Multi-GPU-Server. Flash mit ~160 GB passt in eine Workstation mit viel Speicher oder einen kleineren Server und deckt die meisten Agenten-Schleifen-Workloads ab.
- Das Distill ist eine Destillation, nicht die vollständige Architektur. Es tauscht MoE-Skalierung gegen Single-GPU-Eignung. Erwarten Sie, dass es bei den schwierigsten Aufgaben schwächer als Pro und Flash ist, aber es ist die einzige Variante, die auf Consumer-Hardware läuft.
- Multimodale Eingabe hängt von Ihrer Laufzeitumgebung ab. Tokios leitet Bild-, Video- und Audioinhalte an den Upstream-Endpunkt weiter — es fügt keine Fähigkeiten hinzu, die Ihrer Laufzeitumgebung oder Quantisierung fehlen. Prüfen Sie unterstützte Backends.
FAQ
Wie viel VRAM braucht MiMo V2.6 Pro?
Wie viel VRAM braucht MiMo V2.6 Pro?
Kann ich MiMo V2.6 auf einer einzelnen GPU ausführen?
Kann ich MiMo V2.6 auf einer einzelnen GPU ausführen?
Ist MiMo V2.6 Open Source?
Ist MiMo V2.6 Open Source?
Was ist der Unterschied zwischen Pro, Flash und Distill?
Was ist der Unterschied zwischen Pro, Flash und Distill?
Wie vergleicht sich MiMo V2.6 mit Kimi oder Qwen?
Wie vergleicht sich MiMo V2.6 mit Kimi oder Qwen?
Kann ich MiMo V2.6 mit einem Coding-Agenten verwenden?
Kann ich MiMo V2.6 mit einem Coding-Agenten verwenden?
Welche Audioformate akzeptiert MiMo V2.6?
Welche Audioformate akzeptiert MiMo V2.6?