DeepSeek V4.1-Flash: das neueste DeepSeek lokal ausführen

DeepSeek V4.1-Flash ist die aktuelle DeepSeek-Flaggschiff-Open-Weight-Veröffentlichung. Es löst V4-Flash-0731 ab und bietet natives multimodales Vision, eine asymmetrische 552B-MoE-Architektur (8B aktiv für Input, 16B aktiv für Output), 1M-Token-Kontext mit bis zu 384K Output-Tokens und einen deutlich komprimierten KV-Cache — 890 Bytes pro Token global, etwa 3.9× kleiner als V4 Flash. DeepSeek hat es am 8.–10. September 2026 veröffentlicht (limitierte Beta am 8. September, Produktion am 10. September) unter der MIT-Lizenz. Verwenden Sie stattdessen ein R1 distill, wenn Sie DeepSeek-typisches Reasoning auf einem Laptop oder 1 Consumer-GPU benötigen. Die vollständigen R1- und V3-Modelle bleiben 671B-Klasse-Multi-GPU-Optionen.

Last verified: 2026-10-14

Die DeepSeek-Modellreihe

Model	What it is	Parameters	Context	Practical local hardware
DeepSeek-V4.1-Flash	Current flagship: native vision, asymmetric MoE, 3.9× smaller KV cache	552B total / 8B input active, 16B output active	1M (384K output)	2 high-memory systems; see hardware requirements below
DeepSeek-V4-Flash-0731	Superseded V4 Flash release with DSpark head	284B target / 13B active	1M	2 high-memory systems; see hardware guide
R1 distills	Qwen- and Llama-based models trained on R1 reasoning traces	1.5B–70B dense	128K	Laptop or 1 GPU with 24–48 GB of memory
DeepSeek-R1 / R1-0528	The full reasoning MoE	671B / 37B active	160K	Multi-GPU server; about 404 GB of `Q4_K_M` weights
DeepSeek-V3 / V3.1 / V3.2	The base-model line behind R1	671B-class MoE	160K	Multi-GPU server

Die Anzahl der aktiven Parameter beeinflusst den Rechenaufwand pro generiertem Token. Sie reduziert nicht den Speicher, der erforderlich ist, um alle Experten resident zu halten. Deshalb benötigt ein 552B V4.1-Flash weiterhin alle Gewichte resident, obwohl nur 8B oder 16B pro Token aktiviert werden.

Welches DeepSeek sollten Sie ausführen?

Sie möchten das aktuelle DeepSeek-Flaggschiff: Verwenden Sie deepseek-ai/DeepSeek-V4.1-Flash. Es fügt natives Vision, asymmetrische 8B/16B aktive Parameter und einen 3.9× kleineren KV-Cache gegenüber V4-Flash-0731 hinzu. Es ist möglich, es selbst zu hosten, aber Hardware-Kapazität allein reicht nicht aus — prüfen Sie die Anforderungen unten.
Sie haben einen Laptop oder 1 Consumer-GPU: Beginnen Sie mit einem R1 distill. deepseek-r1:14b ist ein praktischer Ollama-Ausgangspunkt auf einer 24 GB GPU. Siehe DeepSeek-R1.
Sie benötigen das ursprüngliche R1-Reasoning-Modell: Planen Sie einen echten Multi-GPU-Server ein. Das vollständige 671b-Modell ist kein Single-Workstation-Pull.
Sie benötigen ein allgemeines DeepSeek-Basismodell: Die V3-Linie bleibt 671B-Klasse und Multi-GPU. Verwenden Sie V3.1-Tags in Ollama, wo sie in Ihren Deployment-Plan passen; prüfen Sie aktuelle Tags vor der Standardisierung.
Sie benötigen speziell V4-Flash-0731: Es wurde jetzt durch V4.1-Flash abgelöst. Die DeepSeek API leitet alte deepseek-v4-flash-Routen zu V4.1-Flash um. Wenn Sie bei 0731 bleiben müssen, siehe den abgelösten Abschnitt unten.

DeepSeek V4.1-Flash

DeepSeek hat V4.1-Flash am 8.–10. September 2026 veröffentlicht (limitierte Beta am 8. September, Produktion am 10. September). Die offizielle Modellkarte identifiziert es als aktuelle Flaggschiff-Veröffentlichung, die V4-Flash-0731 ablöst. Sie beschreibt ein 552B-Parameter-Mixture-of-Experts-Modell mit einer neuartigen Causal-Encoder-Decoder-Architektur, asymmetrischer Aktivierung (8B aktiv für Input-Tokens, 16B aktiv für Output-Tokens), natives multimodales Vision (Text + Bild-Input), 1M-Token-Kontext mit bis zu 384K Output-Tokens und MIT-Lizenzierung.

Was ist neu gegenüber V4-Flash-0731

V4.1-Flash liefert 6 wesentliche Verbesserungen gegenüber der Veröffentlichung vom 31. Juli:

Native Vision-Fähigkeit — das erste DeepSeek Flash-Modell mit eingebauter multimodaler Bildverarbeitung, nicht nur Text
Asymmetrische Architektur — 8B aktive Parameter für die Input-Verarbeitung, 16B für die Output-Generierung, optimiert den Compute/Quality-Tradeoff
Deutlich komprimierter KV-Cache — 890 Bytes globaler KV pro Token, etwa 3.9× kleiner als V4 Flash
Reduzierter Hardware-Footprint — 1/4 des HBM, 1/8 der SSD gegenüber der vorherigen Generation
Stärkere Benchmarks — schlägt V4 Flash 0731 bei allen 8 ausgewählten Tests
Niedrigere Betriebskosten — etwa 75.5% günstiger im Betrieb

NVIDIA NVFP4-Variante

NVIDIA hat eine optimierte NVFP4-Quantisierung unter nvidia/DeepSeek-V4.1-Flash-NVFP4 veröffentlicht. Diese Variante zielt auf NVIDIA Blackwell- und Hopper-GPUs mit FP4-Präzision ab und reduziert den Speicherbedarf bei erhaltener Qualität.

Serving-Unterstützung

vLLM- und SGLang-Unterstützung wird erwartet, ist zum Zeitpunkt der Erstellung aber noch nicht bestätigt. Ollama-Unterstützung ist noch nicht verfügbar — prüfen Sie die Ollama-Bibliothek auf aktuelle Verfügbarkeit. Die Architektur ist neu (Causal-Encoder-Decoder), daher kann die Stabilisierung der Runtime-Implementierungen länger dauern als bei früheren DeepSeek-Veröffentlichungen.

Kennungen für V4.1-Flash

Verwenden Sie diese Kennungen bewusst:

Identifier	Use it for
`deepseek-ai/DeepSeek-V4.1-Flash`	The upstream model id when you download or serve the official checkpoint
`nvidia/DeepSeek-V4.1-Flash-NVFP4`	The NVIDIA NVFP4 variant for Blackwell/Hopper GPUs
`deepseek-flash`	The official DeepSeek API model id (replaces `deepseek-v4-flash`)
`deepseek-flash`	A clear example Tokios deployment name; you can choose another public deployment name

The DeepSeek API now routes old deepseek-v4-flash requests to V4.1-Flash. If you registered a Tokios deployment named deepseek-v4-flash, update it to deepseek-flash to match the new API id.

A Tokios deployment is your public name. It is separate from the upstream model id. If you register deepseek-flash, clients send that in the model field while your runtime serves deepseek-ai/DeepSeek-V4.1-Flash.

Fähigkeiten

Natives Vision. Eingebaute multimodale Bildverarbeitung — Text- und Bild-Input, nicht nur Text.
Asymmetrischer Compute. 8B aktive Parameter für die Input-Verarbeitung, 16B für die Output-Generierung, optimiert den Compute/Quality-Tradeoff.
Langer Kontext. 1M-Token-Kontextfenster mit bis zu 384K Output-Tokens.
Coding und agentische Aufgaben. Schlägt V4-Flash-0731 bei allen 8 ausgewählten Benchmarks, einschließlich Coding und agentischer Aufgaben.
Mehrsprachig. Unterstützt mehrere Sprachen sowohl für Input als auch Output.
Komprimierter KV-Cache. 890 Bytes pro Token global, etwa 3.9× kleiner als V4 Flash — reduziert den pro-Token-Speicher-Overhead bei langen Kontexten.

Hardware-Eignung

V4.1-Flash ist ein 552B-Parameter-Modell. Spezifische Quantisierungsgrößen sind noch nicht veröffentlicht — die Schätzungen unten verwenden die Standardberechnung (Parameter × Bytes pro Gewicht + Overhead). Prüfen Sie die Modellkarte auf aktuelle GGUF-Builds.

Precision	Estimated size	Hardware
BF16	~1 TB	8× H200 or equivalent
4-bit	~275 GB	4× RTX Pro 6000 or 2× Mac Studio M5 Ultra
2-bit	~150 GB	Mac Studio M5 Ultra 256 GB

Die NVIDIA NVFP4-Variante zielt auf Blackwell- und Hopper-GPUs mit FP4-Präzision ab und sollte den Speicherbedarf weiter reduzieren. Die asymmetrische Architektur (8B/16B aktiv) reduziert nicht den Speicher, der erforderlich ist, um alle Experten resident zu halten — alle 552B Parameter müssen geladen bleiben.

Ausführen

vLLM (GPU serving)
SGLang

vllm serve "deepseek-ai/DeepSeek-V4.1-Flash"

Prüfen Sie die Modellkarte auf aktuelle Flags und Tensor-Parallel-Einstellungen für Ihre Hardware. Die Causal-Encoder-Decoder-Architektur ist neu — bestätigen Sie, dass Ihre vLLM-Version sie unterstützt, bevor Sie standardisieren.

python -m sglang.launch_server --model-path "deepseek-ai/DeepSeek-V4.1-Flash"

Prüfen Sie die Modellkarte auf aktuelle Flags und Tensor-Parallel-Einstellungen. SGLang-Unterstützung wird erwartet, ist zum Zeitpunkt der Erstellung aber noch nicht bestätigt.

Ollama- und LM Studio-Unterstützung für V4.1-Flash steht noch aus. Die Causal-Encoder-Decoder-Architektur ist neu, und Runtime-Implementierungen brauchen Zeit zur Stabilisierung. Prüfen Sie die Ollama-Bibliothek und LM Studio auf aktuelle Verfügbarkeit.

DeepSeek-V4-Flash-0731 (abgelöst)

V4-Flash-0731 ist die vorherige DeepSeek Flash-Veröffentlichung, abgelöst durch V4.1-Flash im September 2026. Verwenden Sie V4.1-Flash für neue Deployments, außer Sie haben einen bestimmten Grund, bei 0731 zu bleiben.

DeepSeek hat DeepSeek-V4-Flash-0731 am 31. Juli 2026 veröffentlicht. Die offizielle Modellkarte identifiziert es als die offizielle V4 Flash-Veröffentlichung, die die Preview ablöst. Sie beschreibt ein 284B-Target-Modell, 13B-aktives Mixture-of-Experts-Modell mit einem integrierten DSpark-Head, 1M-Token-Kontext, low-, high- und max-Reasoning-Effort sowie Tool-Calling. SGLang meldet etwa 304B Parameter, wenn es den angehängten Draft-Head mitzählt. Die Gewichte sind MIT-lizenziert.

V4-Flash-0731 wurde jetzt durch V4.1-Flash abgelöst. Die DeepSeek API leitet alte deepseek-v4-flash-Routen zu V4.1-Flash um. Verwenden Sie V4.1-Flash für neue Deployments, außer Sie haben einen bestimmten Grund, bei 0731 zu bleiben.

Das 0731-Repository enthält kein Jinja-Chat-Template. Es enthält ein dediziertes encoding-Paket zum Umwandeln von OpenAI-kompatiblen Nachrichten in Modell-Input und zum Parsen von Completions. Verwenden Sie ein Runtime-Rezept, das dieses Encoding unterstützt, und testen Sie Multi-Turn-Chat, Reasoning-Inhalte und Tool-Aufrufe vor der Freigabe des Deployments.

Verwenden Sie diese Kennungen bewusst:

Identifier	Use it for
`deepseek-ai/DeepSeek-V4-Flash-0731`	The upstream model id when you download or serve the 0731 checkpoint
`deepseek-v4-flash`	The old DeepSeek API model id (now redirects to `deepseek-flash`)

A Tokios deployment is your public name. It is separate from the upstream model id. If you register deepseek-v4-flash, clients send that in the model field while your runtime serves deepseek-ai/DeepSeek-V4-Flash-0731.

Wie nahe kommt V4-Flash-0731 an GPT-5.6 heran?

Betrachten Sie Vergleiche als konfigurationsspezifisch, nicht als allgemeine Paritätsaussage. Artificial Analysis meldet Flash Max at 50 und GPT-5.6 Sol Low at 49 in seinem benannten Vergleich. Dieses Ergebnis vergleicht Flash Max mit Sol bei seiner Low-Effort-Einstellung. Es stellt keine Parität mit GPT-5.6 Sol bei höherem Effort oder über alle Workloads her.

Lokale Pfade für V4-Flash-0731

Configuration	Capacity conclusion	Maturity	What to know
1× DGX Spark or Strix Halo	128 GB holds the 103 GB 3-bit build with cache headroom, but not the 155–162 GB builds	Community-tested	Unsloth’s guide targets `UD-IQ3_XXS` for exactly this case. Cheapest way to run Flash at all; expect quality loss against near-lossless builds.
2× RTX PRO 6000 Blackwell	192 GB VRAM can hold 162–167 GB of weights with limited initial cache headroom	Community validation required	SGLang documents TP=2 for the earlier Flash checkpoint, but does not list 0731 as officially verified at TP=2. Start conservatively and validate your exact build.
2× DGX Spark	256 GB aggregate unified memory gives more room for weights and cache	Community-tested	NVIDIA documents clustering over ConnectX-7. Dual-Spark DeepSeek recipes target the preview checkpoint; rerun validation for 0731.
2× Strix Halo	256 GB aggregate unified memory can hold the 162 GB GGUF	Experimental	The distributed route uses llama.cpp RPC, which its maintainers describe as proof-of-concept, fragile, and insecure. Do not use it as a production serving design.
4× GB300	Official reference configuration	Verified	The 0731 model card’s reference configuration.

Jeder Pfad benötigt Speicherplatz für den Checkpoint, Raum für temporäre Downloads und Runtime-Allokationen sowie bemessenen KV-Cache-Headroom. Beginnen Sie bei 32K–128K Kontext. Betrachten Sie 384K und 1M als separate Optimierungsziele, nicht als Standardeinstellungen.

Wenn Sie bereits V4-Flash-0731 ausführen, belassen Sie den Serving-Endpunkt auf der Loopback-Schnittstelle des Head-Nodes. Betreiben Sie 1 Tokios-Connector auf diesem Head-Node und richten Sie ihn nur auf den /v1-Endpunkt der Runtime aus. Der Hardware-Leitfaden zeigt die Topologie und das Deployment-Mapping.

Quantisierungsgrößen für V4-Flash-0731

Unsloth veröffentlicht GGUF-Builds unter unsloth/DeepSeek-V4-Flash-0731-GGUF. Die Größen sind hier wichtiger als sonst, denn sie entscheiden darüber, ob ein einzelner Rechner ausreicht.

Build	File size	Memory to run it
`UD-Q8_K_XL`, lossless	162 GB	~169 GB
`UD-Q4_K_XL`, near lossless	155 GB	~162 GB
`UD-IQ3_XXS`, 3-bit	103 GB	110 to 135 GB
2-bit	102 GB	Fits the same class of machine, with more quality loss
1-bit	92 GB	Smallest published build; expect real degradation

Kann ein DGX Spark DeepSeek-V4-Flash-0731 ausführen?

Ja, bei 3 Bit auf einer einzigen Einheit. Unsloths Leitfaden wählt UD-IQ3_XXS genau deshalb, weil es auf eine 128 GB-Maschine passt, und meldet im NVIDIA-Entwicklerforum, dass man es auf einem einzigen Spark über llama-server ausführt, einschließlich bei 262K Kontext mit kleineren 2-Bit-Builds. Was ein einzelner Spark nicht fassen kann, ist einer der Near-Lossless-Builds: UD-Q4_K_XL bei 155 GB und UD-Q8_K_XL bei 162 GB überschreiten beide 128 GB. Diese benötigen zwei Sparks und den gepoolten Speicher aus der Tabelle oben.

Kann Strix Halo DeepSeek-V4-Flash-0731 ausführen?

Ja, unter derselben 3-Bit-Bedingung. Ein 128 GB Strix Halo fasst den 103 GB-Build; alles Near-Lossless benötigt eine zweite Maschine, und dieser verteilte Pfad läuft über llama.cpp RPC, den seine eigenen Maintainer als Proof-of-Concept beschreiben. Der Durchsatz wird hier durch die Speicherbandbreite begrenzt, nicht durch die Kapazität. Die 13B aktiven Parameter arbeiten zu Ihren Gunsten: der pro-Token-Compute bleibt klein, obwohl alle 284B Parameter resident bleiben müssen.

Kann eine 24 GB GPU DeepSeek-V4-Flash-0731 ausführen?

Nein. Der kleinste veröffentlichte Build ist 92 GB, daher liegt keine einzelne Consumer-Karte bei keiner Quantisierung in der Nähe, und das Auslagern so viel Gewicht in den System-RAM gibt den Geschwindigkeitsvorteil auf, der Flash lohnenswert macht. Verwenden Sie stattdessen ein DeepSeek-R1 distill — diese sind für eine GPU dimensioniert.

Die R1- und V3-Familie

V4.1-Flash ersetzt nicht jede frühere DeepSeek-Option. Die R1-Distillate bleiben die praktische Wahl für kleine Hardware. Die vollständigen R1- und V3-Linien bleiben nützlich, wenn Sie bereits einen 671B-Klasse-Serving-Cluster betreiben.

Model	Availability and local route	License
R1 distills	Ollama, LM Studio, vLLM, or SGLang; choose a size that fits 1 machine	MIT for Qwen-based distills; Llama terms for the Llama-based tags
Full DeepSeek-R1 / R1-0528	Multi-GPU server	MIT
DeepSeek-V3 / V3.1	Multi-GPU server; V3.1 has Ollama tags	MIT
DeepSeek-V3.2	Official Hugging Face checkpoint; multi-GPU server	MIT

Siehe DeepSeek-R1 für Distill-Größen, Kontext und Einrichtungsberatung. Siehe Welche Modellgröße passt zu Ihrer GPU? für die Speicherberechnung hinter den größeren Modellen.

Ein DeepSeek-Deployment mit Tokios verbinden

Sobald Ihre gewählte Runtime läuft, installieren Sie den Connector auf derselben Maschine wie der Runtime-Endpunkt. Der Connector wählt sich zu Tokios hinaus; er legt keinen eingehenden Port frei. Betreiben Sie für einen V4-Cluster den Connector nur auf dem Head-Node, wo er den OpenAI-kompatiblen /v1-Endpunkt des Clusters erreichen kann.

Keep your local runtime running

Starten Sie DeepSeek V4.1-Flash in vLLM oder SGLang und belassen Sie es auf Loopback. Verwenden Sie für V4-Flash-0731 das Serving-Rezept aus dem Hardware-Leitfaden.

Pair the Tokios connector

Melden Sie sich bei tokios.com/console an, öffnen Sie den Setup-Tab und klicken Sie auf Start pairing, um einen einmaligen Pairing-Code (TKS-XXXX-XXXX) zu erhalten. Führen Sie den Installer auf der Maschine aus, die das Modell betreibt:

Windows

irm https://tokios.com/downloads/install/windows | iex; tokios-install -Code 'TKS-XXXX-XXXX'

macOS

curl -fsSL https://tokios.com/downloads/install/macos | sh -s -- --code TKS-XXXX-XXXX

Linux

curl -fsSL https://tokios.com/downloads/install/linux | sh -s -- --code TKS-XXXX-XXXX

Dann approve Sie das Gerät auf dem Setup- oder Connectors-Tab.

Registrieren Sie im Models-Tab die Upstream-Modell-ID unter einem öffentlichen Deployment-Namen. Registrieren Sie für V4.1-Flash deepseek-flash und mappen Sie es zu deepseek-ai/DeepSeek-V4.1-Flash. Registrieren Sie für V4-Flash-0731 deepseek-v4-flash und mappen Sie es zu deepseek-ai/DeepSeek-V4-Flash-0731. Clients senden den Deployment-Namen im model-Feld, niemals die lokale ID.

Create an API key

Klicken Sie im Keys-Tab auf Create key. Kopieren Sie den sk-tok-…-Schlüssel jetzt — er wird nur einmal angezeigt.

Von überall aufrufen

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-flash",
    "stream": true,
    "messages": [
      {"role": "system", "content": "You are a helpful coding assistant."},
      {"role": "user", "content": "Audit this repository and propose a phased refactor."}
    ]
  }'

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model deepseek-flash

Einschränkungen

Benchmarks sind vom Hersteller gemeldet. DeepSeek hat die V4.1-Flash-Vergleiche am Veröffentlichungstag publiziert. Warten Sie auf unabhängige Auswertungen, bevor Sie die Scores als abgeschlossen betrachten.
Hardware-Anforderungen sind Schätzungen. Spezifische Quantisierungsgrößen für V4.1-Flash sind noch nicht veröffentlicht. Die Hardware-Eignungstabelle verwendet die Standardberechnung (Parameter × Bytes pro Gewicht). Prüfen Sie die Modellkarte auf aktuelle GGUF-Builds vor der Hardware-Festlegung.
V4.1-Flash-Runtime-Unterstützung ist neu. Die Causal-Encoder-Decoder-Architektur unterscheidet sich von früheren DeepSeek-Veröffentlichungen. vLLM- und SGLang-Unterstützung wird erwartet, ist aber nicht bestätigt. Ollama und LM Studio stehen noch aus.
Alle 552B Parameter bleiben resident. Die asymmetrische Architektur (8B/16B aktiv) reduziert den Compute pro Token, nicht den Speicher. Jedes Expert-Gewicht muss geladen bleiben, unabhängig von der aktiven Anzahl.
MIT-Lizenz ist permissiv. Die Gewichte erlauben kommerzielle Nutzung ohne Acceptable-Use-Policy oder Benutzer-Schwellenwert, aber lesen Sie die Lizenz selbst vor dem Aufbau darauf.

FAQ

How much VRAM does DeepSeek V4.1-Flash need?

V4.1-Flash ist ein 552B-Parameter-Modell. Spezifische Quantisierungsgrößen sind zum Zeitpunkt der Erstellung noch nicht veröffentlicht. Die asymmetrische Architektur (8B/16B aktiv) und der 3.9× kleinere KV-Cache (890 Bytes pro Token) deuten darauf hin, dass es auf ähnliche Hardware wie V4-Flash-0731 passen könnte (110–169 GB je nach Build), aber prüfen Sie die Modellkarte auf aktuelle GGUF-Builds und Speicheranforderungen. Die NVIDIA NVFP4-Variante zielt auf Blackwell/Hopper-GPUs mit FP4-Präzision für reduzierten Speicher.

How much VRAM does DeepSeek-V4-Flash-0731 need?

Zwischen etwa 110 GB und 169 GB, je nachdem, welchen Build Sie ziehen. Der 3-Bit-UD-IQ3_XXS ist 103 GB auf der Festplatte und benötigt 110 bis 135 GB Speicher, weshalb er auf eine einzelne 128 GB-Unified-Memory-Maschine passt. Der Near-Lossless-UD-Q4_K_XL ist 155 GB und der Lossless-UD-Q8_K_XL ist 162 GB, beide benötigen mehr als eine solche Maschine. Alle 284B Parameter bleiben resident unabhängig von der 13B aktiven Anzahl.

Is DeepSeek V4.1-Flash free to use?

Die Gewichte sind MIT-lizenziert, was ungewöhnlich permissiv für ein Modell dieser Leistungsfähigkeit ist und kommerzielle Nutzung erlaubt. Kostenlos ist nicht dasselbe wie kostenlos im Betrieb: Die 552B-Parameteranzahl bedeutet erhebliche Hardware-Anforderungen. DeepSeek betreibt auch eine kostenpflichtige gehostete API, wenn Sie nicht selbst hosten möchten.

Is DeepSeek-V4-Flash-0731 free to use?

Die Gewichte sind MIT-lizenziert, was ungewöhnlich permissiv für ein Modell dieser Leistungsfähigkeit ist und kommerzielle Nutzung erlaubt. Kostenlos ist nicht dasselbe wie kostenlos im Betrieb: Bei 92 GB selbst für den kleinsten Build sind die Hardware die eigentlichen Kosten. DeepSeek betreibt auch eine kostenpflichtige gehostete API, wenn Sie nicht selbst hosten möchten.

What is the difference between V4.1-Flash and V4-Flash-0731?

V4.1-Flash löst V4-Flash-0731 ab mit 6 wesentlichen Verbesserungen: native Vision-Fähigkeit (Text + Bild-Input), asymmetrische Architektur (8B aktiv für Input, 16B für Output vs. 13B aktiv in 0731), 3.9× kleinerer KV-Cache (890 Bytes pro Token), 1/4 HBM-Footprint, 1/8 SSD-Footprint und etwa 75.5% niedrigere Betriebskosten. V4.1-Flash schlägt 0731 bei allen 8 ausgewählten Benchmarks. Die DeepSeek API leitet jetzt alte deepseek-v4-flash-Routen zu V4.1-Flash um.

Can I run DeepSeek V4.1-Flash with Ollama?

Noch nicht zum Zeitpunkt der Erstellung. Die Causal-Encoder-Decoder-Architektur ist neu, und Runtime-Unterstützung braucht Zeit zur Stabilisierung. vLLM- und SGLang-Unterstützung wird erwartet, ist aber nicht bestätigt. Prüfen Sie Ollamas Bibliothek auf aktuelle Verfügbarkeit. Für V4-Flash-0731 haben die R1-Distillate und DeepSeek-V3.1 Ollama-Tags — siehe DeepSeek-R1.

Can I run DeepSeek-V4-Flash-0731 with Ollama?

Nicht als dokumentierter Pfad. Unsloths Leitfaden treibt den 0731-Checkpoint über llama.cpp mit den geteilten GGUF-Dateien an, und das Hauptversion-llama.cpp trägt die V4-Architektur-Unterstützung. Prüfen Sie Ollamas Bibliothek auf aktuelle Verfügbarkeit, statt anzunehmen, dass ein lokaler Tag existiert. Die R1-Distillate und DeepSeek-V3.1 haben Ollama-Tags — siehe DeepSeek-R1.

What is the difference between V4 Flash and an R1 distill?

Skalierung und Zweck. V4.1-Flash ist die aktuelle 552B-Mixture-of-Experts-Veröffentlichung mit nativem Vision, 1M-Token-Kontext und asymmetrischen 8B/16B aktiven Parametern, ausgerichtet auf multimodale und agentische Arbeit auf Multi-GPU-Systemen. V4-Flash-0731 ist die abgelöste 284B-Veröffentlichung. Die R1-Distillate sind kleine dichte Modelle, die auf eine einzelne Consumer-GPU passen und tauschen Leistungsfähigkeit gegen Reichweite. Wenn Ihre Hardware eine einzelne 24 GB-Karte ist, ist das Distill kein Kompromiss — es ist das einzige der beiden, das läuft.

How do I reach a DeepSeek deployment from another machine?

Betreiben Sie es lokal und koppeln Sie dann den Tokios-Connector auf der Maschine mit der Runtime — bei einem Cluster nur auf dem Head-Node. Der Connector wählt sich nach außen, daher benötigt die Kiste mit den GPUs niemals einen eingehenden Port. Clients rufen dann https://api.tokios.com/v1 mit einem sk-tok-…-Schlüssel und Ihrem Deployment-Namen im model-Feld auf.

V4 Flash local hardware

Vergleichen Sie 2 RTX PRO 6000s, 2 DGX Sparks und 2 Strix Halo-Systeme für V4-Flash-0731.

DeepSeek-R1

Wählen und betreiben Sie ein R1-Reasoning-Distill auf kleinerer Hardware.

Choose a model by task

Vergleichen Sie lokale Modelle für Reasoning, Coding und Agentenarbeit.

Match a model to your GPU

Verstehen Sie die Speicheranforderungen für Gewichte, Cache und Quantisierung.

Erste Schritte

Modelle

Konzepte

Referenz

DeepSeek V4.1-Flash: das neueste DeepSeek lokal ausführen

Die DeepSeek-Modellreihe

Welches DeepSeek sollten Sie ausführen?

DeepSeek V4.1-Flash

Was ist neu gegenüber V4-Flash-0731

NVIDIA NVFP4-Variante

Serving-Unterstützung

Kennungen für V4.1-Flash

Fähigkeiten

Hardware-Eignung

Ausführen

DeepSeek-V4-Flash-0731 (abgelöst)

Wie nahe kommt V4-Flash-0731 an GPT-5.6 heran?

Lokale Pfade für V4-Flash-0731

Quantisierungsgrößen für V4-Flash-0731

Kann ein DGX Spark DeepSeek-V4-Flash-0731 ausführen?

Kann Strix Halo DeepSeek-V4-Flash-0731 ausführen?

Kann eine 24 GB GPU DeepSeek-V4-Flash-0731 ausführen?

Die R1- und V3-Familie

Ein DeepSeek-Deployment mit Tokios verbinden

Von überall aufrufen

Einschränkungen

FAQ

V4 Flash local hardware

DeepSeek-R1

Choose a model by task

Match a model to your GPU

​Die DeepSeek-Modellreihe

​Welches DeepSeek sollten Sie ausführen?

​DeepSeek V4.1-Flash

​Was ist neu gegenüber V4-Flash-0731

​NVIDIA NVFP4-Variante

​Serving-Unterstützung

​Kennungen für V4.1-Flash

​Fähigkeiten

​Hardware-Eignung

​Ausführen

​DeepSeek-V4-Flash-0731 (abgelöst)

​Wie nahe kommt V4-Flash-0731 an GPT-5.6 heran?

​Lokale Pfade für V4-Flash-0731

​Quantisierungsgrößen für V4-Flash-0731

​Kann ein DGX Spark DeepSeek-V4-Flash-0731 ausführen?

​Kann Strix Halo DeepSeek-V4-Flash-0731 ausführen?

​Kann eine 24 GB GPU DeepSeek-V4-Flash-0731 ausführen?

​Die R1- und V3-Familie

​Ein DeepSeek-Deployment mit Tokios verbinden

​Von überall aufrufen

​Einschränkungen

​FAQ

V4 Flash local hardware

DeepSeek-R1

Choose a model by task

Match a model to your GPU

Die DeepSeek-Modellreihe

Welches DeepSeek sollten Sie ausführen?

DeepSeek V4.1-Flash

Was ist neu gegenüber V4-Flash-0731

NVIDIA NVFP4-Variante

Serving-Unterstützung

Kennungen für V4.1-Flash

Fähigkeiten

Hardware-Eignung

Ausführen

DeepSeek-V4-Flash-0731 (abgelöst)

Wie nahe kommt V4-Flash-0731 an GPT-5.6 heran?

Lokale Pfade für V4-Flash-0731

Quantisierungsgrößen für V4-Flash-0731

Kann ein DGX Spark DeepSeek-V4-Flash-0731 ausführen?

Kann Strix Halo DeepSeek-V4-Flash-0731 ausführen?

Kann eine 24 GB GPU DeepSeek-V4-Flash-0731 ausführen?

Die R1- und V3-Familie

Ein DeepSeek-Deployment mit Tokios verbinden

Von überall aufrufen

Einschränkungen

FAQ