deepseek-ai/DeepSeek-V4-Flash-0731. Es ersetzt die V4 Flash-Vorschau, bietet deutlich verbessertes agentisches Verhalten, unterstützt low, high sowie max als Reasoning-Einstellungen und enthält das DSpark-Modul für spekulative Dekodierung. Es handelt sich um ein 284B-zielorientiertes, 13B-aktives MoE, das auf verschiedenen 2 Systemen mit viel Arbeitsspeicher lauffähig ist – dennoch erfordert es sorgfältige Planung hinsichtlich Laufzeit und Speicherverbrauch.
Use an R1 distill instead when you need DeepSeek-style reasoning on a laptop or 1 consumer GPU. The full R1 and V3 models remain 671B-class, multi-GPU options. For the complete 0731 hardware comparison and serving paths, see DeepSeek V4 Flash 0731 local hardware.
Die DeepSeek-Modellreihe
Die Anzahl der aktiven Parameter beeinflusst zwar die Rechenlast pro generiertem Token, erhöht jedoch nicht den Speicherbedarf für alle Expert-Module. Daher benötigt die 13B-aktive V4 Flash-Version trotzdem rund 162 bis 167 GB Speicherplatz für ihre Gewichte – abzüglich Cache- und Laufzeit-Overhead.
Welches DeepSeek-Modell sollten Sie nutzen?
- Sie verfügen über ein Laptop oder einen 1 Consumer-Grafikprozessor: Beginnen Sie mit einem R1 Distill.
deepseek-r1:14bstellt einen praktischen Ausgangspunkt für die Nutzung von Ollama auf einem 24 GB großen GPU-System dar. Weitere Informationen finden Sie unter DeepSeek-R1. - Sie benötigen das ursprüngliche R1-Reasoning-Modell: Planen Sie in diesem Fall einen echten Mehr-GPU-Server ein; das vollständige
671b-Modell lässt sich nicht auf einem einzelnen Rechner betreiben. - Sie benötigen ein allgemeines DeepSeek-Basismodell: Die V3-Zeile bleibt weiterhin der 671B-Klasse zugehörig und unterstützt mehrere GPUs. Nutzen Sie die V3.1-Tags in Ollama entsprechend Ihrem Deployment-Plan; prüfen Sie vor der Standardisierung stets die aktuell verfügbaren Tags.
- Sie benötigen die aktuelle V4 Flash-Version: Nutzen Sie dazu
deepseek-ai/DeepSeek-V4-Flash-0731. Eine Selbst-Hosting-Installation ist zwar möglich, doch allein die Hardware reicht dafür nicht aus. Entscheiden Sie sich anhand der Laufzeitreife für einen geeigneten Weg in der lokalen Hardware-Anleitung.
DeepSeek-V4-Flash-0731
DeepSeek veröffentlichteDeepSeek-V4-Flash-0731 am 31. 2026. Das offizielle Modell-Dokument bezeichnet es als offizielle V4 Flash-Version, die die Vorab-Version ablöst. Es handelt sich dabei um ein 284B-Ziel-Modell, ein 13B-aktives Mixture-of-Experts-Modell mit integriertem DSpark-Head, einem Kontextumfang von 1M Tokens sowie den Eigenschaften low, high und max hinsichtlich des Reasoning-Aufwands sowie der Tool-Aufruf-Fähigkeit. Laut SGLang umfasst das Modell insgesamt etwa 304B Parameter, wenn der Entwurf-Head mitgezählt wird. Die Gewichte unterliegen der MIT-Lizenz.
Warum ist 0731 die für Sie relevante Version?
Die eigenen agentenbasierten Tests von DeepSeek zeigen eine deutliche Verbesserung gegenüber der Vorschau-Version. Laut Modellbeschreibung erzielt das Modell 82.7 Punkte auf Terminal Bench 2.1, 54.4 auf DeepSWE sowie 70.3 auf Toolathlon-Verified. Diese Ergebnisse wurden unter Verwendung von DeepSeek Harness im Minimalmodus erzielt, mit einem Denkaufwand vonmax, temperature = 1.0 und top_p = 0.95. Man sollte sie als Hinweis auf die genaue getestete Konfiguration betrachten, nicht als Garantie für lokale Leistungsfähigkeit oder Qualität.
Das 0731-Repository enthält kein Jinja-Chat-Template. Stattdessen ist dort ein spezielles
encoding-Paket vorhanden, das Nachrichten im OpenAI-Format in Modell-Eingaben umwandelt und Antworten auswertet. Nutzen Sie ein Laufzeit-Setup, das diese Kodierung unterstützt, und testen Sie mehrfache Chats, komplexe Denkprozesse sowie Tool-Aufrufe, bevor Sie die Deployment-Installation freigeben.Ein Tokios-Deployment stellt Ihren öffentlichen Namen dar. Dieser unterscheidet sich von der Upstream-Modell-ID. Registrieren Sie
deepseek-v4-flash, so übermitteln Clients diesen Namen im Feld model, während Ihr Laufzeit-System deepseek-ai/DeepSeek-V4-Flash-0731 verwendet.Wie nahe kommt Flash dem GPT-5.6?
Treat comparisons as configuration-specific, not a general parity claim. Artificial Analysis reports Flash Max at 50 and GPT-5.6 Sol Low at 49 in its named comparison. That result compares Flash Max with Sol at its Low effort setting. It does not establish parity with GPT-5.6 Sol at higher effort, or across every workload.Lokale Pfade für V4 Flash
Für jeden Pfad ist ausreichend Festplattenspeicher für Checkpoints, temporäre Downloads sowie Laufzeit-Allokationen erforderlich; zudem muss genügend KV-Cache-Platz vorhanden sein. Beginnen Sie mit einem Kontextumfang von 32K bis 128K. Betrachten Sie 384K und 1M als eigenständige Optimierungsziele und nicht als Standardeinstellungen.
Die Quantisierungsgrößen bestimmen, wie viele Rechner Sie benötigen.
Unsloth stellt GGUF-Versionen unterunsloth/DeepSeek-V4-Flash-0731-GGUF bereit. Die Größenangaben sind hier besonders wichtig, da sie darüber entscheiden, ob ein einzelner Rechner ausreicht.
Kann ein DGX Spark DeepSeek-V4-Flash-0731 ausführen?
Ja, bei 3 Bit auf einer einzigen Einheit. Unsloths Anleitung empfiehltUD-IQ3_XXS ausdrücklich, weil es sich für eine Maschine mit 128 GB Speicher eignet; zudem berichtet das Entwicklerforum von NVIDIA davon, dass man es auf einem einzigen Spark-Gerät mittels llama-server ausführt – auch in 262K-Kontexten mit kleineren 2-Bit-Versionen.
Was ein einzelner Spark nicht bewältigen kann, ist die nahezu verlustfreie Erstellung: sowohl UD-Q4_K_XL mit 155 GB als auch UD-Q8_K_XL mit 162 GB überschreiten die Grenze von 128 GB. Für diese Fälle werden zwei Sparks sowie der in der obigen Tabelle aufgeführte gemeinsam genutzte Speicherplatz benötigt.
Kann Strix Halo DeepSeek-V4-Flash-0731 ausführen?
Ja, unter derselben Bedingung von 3 Bit. Ein Strix Halo mit 128 GB Speicher verarbeitet das 103 GB große Modell; für nahezu verlustfreie Varianten ist jedoch ein zweites Gerät nötig. Diese verteilte Lösung nutzt llama.cpp RPC, welches die Entwickler selbst als reines Konzeptmodell bezeichnen. Die Durchsatzrate wird hier durch die Speicherbandbreite begrenzt, nicht durch die Kapazität. Die Zahl der aktiven Parameter bei 13B wirkt sich positiv aus: Der Rechenaufwand pro Token bleibt gering, obwohl alle 284B Parameter im Speicher verbleiben müssen.Kann eine GPU mit 24 GB Speicher DeepSeek-V4-Flash-0731 ausführen?
Nein. Die kleinste veröffentlichte Version beansprucht bereits 92 GB; folglich kommt keine herkömmliche Grafikkarte auch bei geringerer Quantisierung an die erforderliche Kapazität heran. Zudem würde das Auslagern solch großer Datenmengen in den Systemspeicher den Geschwindigkeitsvorteil von Flash zunichtemachen. Stattdessen empfiehlt sich ein DeepSeek-R1-Distillat, das speziell für eine einzelne GPU konzipiert ist.Die R1- und V3-Familien
V4 Flash ersetzt nicht alle früheren DeepSeek-Varianten. Für Hardware mit geringer Kapazität bleiben die R1-Distillate die praktikable Wahl. Die vollständigen Modelle der Reihen R1 und V3 sind hingegen weiterhin sinnvoll, wenn man bereits über einen Server-Cluster der 671B-Klasse verfügt.
Informationen zu Größen, Kontextfenstern sowie Einrichtungstipps für die Distill-Versionen finden Sie unter DeepSeek-R1. Zur Berechnung des Speicherbedarfs bei größeren Modellen lesen Sie bitte Welche Modellgröße passt zu Ihrer GPU?.
Verknüpfen Sie eine DeepSeek-Deployment mit Tokios.
Sobald die gewählte Laufzeitumgebung stabil läuft, installieren Sie den Connector auf demselben Rechner wie den Endpunkt der Laufzeitumgebung. Der Connector stellt Verbindungen zu Tokios her; er bietet keinen eingehenden Port an.- Verknüpfen Sie den Connector über die Setup-Registerkarte in Tokios dashboard.
- Erstellen Sie eine Deployment in Models. Registrieren Sie beispielsweise
deepseek-v4-flashund weisen Sie es der jeweiligen Upstream-Modell-ID zu, die Ihr Server bereitstellt. - Erstellen Sie einen begrenzten
sk-tok-…API-Schlüssel in Keys. - Rufen Sie
https://api.tokios.com/v1auf und geben Sie dabei den Namen Ihrer Deployment inmodelan.
/v1-Endpunkt des Clusters erreichen kann. Folgen Sie der Anleitung für lokale Hardware für Beispiele zur Bereitstellung und registrieren Sie anschließend eine Deployment über diesen Link.
Häufig gestellte Fragen
Wie viel VRAM benötigt DeepSeek-V4-Flash-0731?
Wie viel VRAM benötigt DeepSeek-V4-Flash-0731?
Between roughly 110 GB and 169 GB, depending on which build you pull. The 3-bit
UD-IQ3_XXS is 103 GB on disk and wants 110 to 135 GB of memory, which is why it fits a single 128 GB unified-memory machine. The near-lossless UD-Q4_K_XL is 155 GB and the lossless UD-Q8_K_XL is 162 GB, both of which need more than one such machine. All 284B parameters stay resident regardless of the 13B active count.Ist die Nutzung von DeepSeek-V4-Flash-0731 kostenlos?
Ist die Nutzung von DeepSeek-V4-Flash-0731 kostenlos?
Die Gewichte dieses Modells unterliegen der MIT-Lizenz, die für ein Modell dieser Leistungsfähigkeit äußerst großzügig ist und auch die kommerzielle Nutzung erlaubt. Doch freie Nutzung bedeutet nicht automatisch auch kostengünstige Ausführung: Selbst die kleinste Variante erfordert bereits 92 GB Arbeitsspeicher – die Hardware stellt somit die eigentliche Kostenkomponente dar. Sollten Sie keine eigene Hosting-Infrastruktur betreiben wollen, bietet DeepSeek ebenfalls eine kostenpflichtige API an.
Lässt sich DeepSeek V4 Flash mithilfe von Ollama ausführen?
Lässt sich DeepSeek V4 Flash mithilfe von Ollama ausführen?
Nicht über den offiziell dokumentierten Weg. Laut Anleitung von Unsloth wird das 0731-Checkpoint über llama.cpp verarbeitet, wobei die GGUF-Dateien aufgeteilt werden; die Standardversion von llama.cpp unterstützt hingegen die V4-Architektur. Prüfen Sie daher bitte das Ollama-Repository, um die aktuell verfügbaren Varianten zu erkennen – davon auszugehen, dass ein passender Tag existiert, wäre falsch. Für R1 Distill sowie DeepSeek-V3.1 sind solche Tags vorhanden; siehe dazu DeepSeek-R1.
Worin besteht der Unterschied zwischen V4 Flash und einem R1 Distill-Modell?
Worin besteht der Unterschied zwischen V4 Flash und einem R1 Distill-Modell?
In der Skalierbarkeit sowie im Einsatzzweck. V4 Flash stellt die aktuelle 284B-Mischung aus verschiedenen Modulen dar, verarbeitet bis zu 1M Tokens und eignet sich besonders für agentenbasierte Aufgaben sowie Programmierung auf Systemen mit mindestens 128 GB Arbeitsspeicher. Die R1 Distill-Modelle hingegen sind kleinere, dichte Modelle, die problemlos auf einer einzigen Consumer-GPU laufen – sie opfern dabei zwar an Leistungsfähigkeit, erreichen aber eine breitere Nutzbarkeit. Falls Ihre Hardware lediglich eine einzige 24-GB-Grafikkarte besitzt, ist das Distill-Modell keine Kompromisslösung – es ist schlichtweg das einzige Modell, das Sie überhaupt ausführen können.
Wie gelangt man von einem anderen Rechner aus zu einer V4 Flash-Deployment?
Wie gelangt man von einem anderen Rechner aus zu einer V4 Flash-Deployment?
Starten Sie den Dienst lokal und verknüpfen Sie anschließend den Tokios Connector mit dem Rechner, auf dem die Runtime läuft – bei einem Cluster lediglich mit dem Head-Node. Der Connector initiiert alle Verbindungen nach außen, weshalb der Rechner mit den GPUs keinerlei eingehende Ports benötigt. Danach können Clients
https://api.tokios.com/v1 aufrufen, indem sie einen sk-tok-…-API-Schlüssel sowie den Namen Ihrer Deployment-Instanz im Feld model angeben.Hardware-Anforderungen für V4 Flash
Vergleichen Sie hierzu die 2 RTX PRO 6000-Karten, die 2 DGX Spark-Systeme sowie die 2 Strix Halo-Plattformen.
DeepSeek-R1
Wählen Sie ein R1 Reasoning-Distill-Modell aus und führen Sie es auf schwächerer Hardware aus.
Wählen Sie ein Modell entsprechend der jeweiligen Aufgabe aus.
Vergleichen Sie lokale Modelle hinsichtlich ihrer Fähigkeiten im logischen Schlussfolgern, beim Programmieren sowie bei Agenten-Aufgaben.
Wählen Sie ein Modell aus, das optimal zu Ihrer GPU passt.
Erfassen Sie die Speicheranforderungen hinsichtlich Gewichte, Cache und Quantisierung.