Skip to main content
DeepSeek-R1 stellt die frühere Reasoning-Familie von DeepSeek dar. Die gängigste Methode zur lokalen Nutzung ist ein Distill-Verfahren: Dabei wird ein kleineres Qwen- oder Llama-Modell anhand der Reasoning-Daten von R1 feinabgestimmt, sodass die Reasoning-Funktionen auf einer GPU für Laptops statt auf einem Server mit mehreren GPUs ausgeführt werden können. Nutzen Sie diese Seite, falls Sie diesen Weg mit geringeren Hardware-Anforderungen wählen möchten. Für DeepSeeks aktuelle Open-Weight-Version, Verbesserungen im Bereich der Code-Generierung, Tool-Aufrufe sowie 1M-Kontextinformationen starten Sie bitte mit DeepSeek-V4-Flash-0731. Kombinieren Sie Tokios mit dem jeweiligen Modell, um von beliebigen Geräten, Teammitgliedern oder gehosteten Agenten aus über https://api.tokios.com darauf zuzugreifen – ohne dass dazu eingehende Ports oder VPN-Verbindungen erforderlich sind.

​
Ausführen lokal mittels Ollama

Das im Ollama-Repository verfügbare deepseek-r1-Tag enthält die Distillationsmodelle, nicht das vollständige Modell. Laden Sie das Standardmodell herunter und führen Sie es aus – derzeit handelt es sich dabei um das 7b Qwen-Distillationsmodell.
Für eine spezifische Modellgröße geben Sie das entsprechende Tag direkt an – beispielsweise ollama run deepseek-r1:14b. Die vollständige Liste aller verfügbaren Tags finden Sie auf der Ollama-Bibliotheksseite.
Der Standard-Kontextfensterwert in Ollama beträgt 2048 Tokens; das ist deutlich geringer als die eigentliche Kapazität dieser Modelle. Zudem verbraucht das Reasoning nach Art von R1 den Kontext sehr schnell. Erhöhen Sie daher den Wert von num_ctx – entweder über /set parameter num_ctx <value> in der Kommandozeile oder in Ihrer Modelfile bzw. API-Anfrage – bis er der in der nachfolgenden Tabelle angegebenen Kontextgröße entspricht.

​
Varianten und Tags

Alle unten aufgeführten Werte stammen aus der Ollama-Bibliothek sowie den Konfigurationen der Modelle auf Hugging Face. Tags, Größenangaben und Standardwerte ändern sich ständig, sobald neue Quantisierungen veröffentlicht werden – prüfen Sie daher vor der endgültigen Auswahl bitte auf ollama.com/library/deepseek-r1. Quellen: ollama.com/library/deepseek-r1/tags, deepseek-ai/DeepSeek-R1 README.
Die 671b-Tags bezeichnen das vollständige DeepSeek-R1 (sowie R1-0528) und keine abgespeckten Varianten; Ollama veröffentlicht sie lediglich unter demselben deepseek-r1-Namen. Alle Modelle von 1.5b bis 70b sind hingegen abgespeckte Versionen: Qwen- oder Llama-Modelle, die anhand der Schlussfolgerungsdaten von R1 feinabgestimmt wurden – nicht etwa verkleinerte Ausgaben von R1 selbst. Lesen Sie wie die Inferenz funktioniert, um zu verstehen, welche Auswirkungen dieser Unterschied auf die Ausgabequalität hat.

​
Quantisierung und Formate

Ollama’s default tags are GGUF Q4_K_M. Every distill size and the full 671b also publish -q8_0 and -fp16 tags on the library page for less lossy (and much larger) downloads. See Quantization formats and the hardware they need for what runs on your GPU, and what quantization is for how to read the Q4_K_M-style names.

​
Kompatibilität mit Hardware

Bei einer überschaubaren Kontextlänge reicht ein Speicherbedarf von etwa Q4 aus. Jeder Wert stellt lediglich eine Schätzung dar; der tatsächliche Speicherbedarf ergibt sich aus der Größe des GGUF-Modells sowie dem KV-Cache für den jeweiligen Kontext. Die Berechnungsformel finden Sie unter welches Modell passt zu Ihrer GPU?. The full 671b needs roughly 404 GB just for weights at Q4_K_M — that’s multiple datacenter-class GPUs or an equivalent unified-memory cluster, not a single workstation. Everything 70b and under is realistic on the hardware hobbyists actually own.

​
Führen Sie es aus – von Anfängern bis zu Fortgeschrittenen

Lassen Sie Ollama auf dem Standard-http://127.0.0.1:11434 weiterlaufen. Erhöhen Sie num_ctx, um mehr Speicherplatz für das Modell zu nutzen.

​
Fähigkeiten

  • Schlussfolgern: R1 sowie alle abgespeckten Varianten geben vor der endgültigen Antwort einen <think>…</think>-Block aus. Die offizielle Modellbeschreibung von DeepSeek empfiehlt eine Temperatur von 0.5–0.7 (0.6 wird ebenfalls empfohlen), kein System-Prompt sowie – bei mathematischen Aufgaben – die explizite Aufforderung an das Modell, „Schritt für Schritt zu schlussfolgern“ und das Endergebnis in einem Kasten darzustellen.
  • Native Tool-Aufrufe: Bei den Distill-Modellen ist dies nicht zuverlässig. Das Chat-Template von Ollama für die R1 Distill-Modelle unterstützt Tool- bzw. Funktionsaufrufe nicht in dem Maße, wie es bei Llama 3.1/3.3 oder Qwen3 der Fall ist – siehe dazu ollama/ollama#8517 (geschlossen und für das Distill-Template ungelöst). Falls Ihre Aufgabe einen Agenten erfordert, der Tools aufruft, sollten Sie ein dafür geeignetes Modell wählen – siehe dazu Modell nach Aufgabe auswählen.
  • Kontext: 128K gilt für jede Destillation (von 1.5b bis 70b); 160K ist anzuwenden für die vollständige 671b R1- sowie R1-0528-Deployment.
  • Bildverarbeitung: Keines der auf dieser Seite aufgeführten Modelle ist multimodal – DeepSeek-R1 samt seinen Distills arbeiten ausschließlich mit Text.

​
Jenseits von R1: für aktuelle Spitzenleistungen nutzen Sie V4 Flash 0731.

R1 ist ein auf die logische Schlussfolgerung optimierter Checkpoint, der auf DeepSeeks V3-Architektur basiert. Die aktuelle offizielle Version lautet deepseek-ai/DeepSeek-V4-Flash-0731 und ersetzt das V4-Flash-Preview. Er steht unter der MIT-Lizenz und verfügt über offene Gewichte, erfordert jedoch einen Server mit mehreren Geräten statt einer gewöhnlichen Einzelarbeitsstation. Im Überblick über die DeepSeek-Familie werden seine 284B-Ziel- und 13B-Aktiv-Architektur, der mitgelieferte DSpark-Head, die Werkzeugaufruf-Funktion, der 1M-Kontext sowie lokale Hardware-Optionen erläutert.

​
Verbinden Sie es mit dem Tokios-Connector.

Sobald ein DeepSeek-Modell lokal läuft, koppeln Sie den Tokios-Connector, sodass Sie es als https://api.tokios.com von Claude Code, Cline oder anderen kompatiblen Clients aus nutzen können – nicht nur von localhost:11434 aus.
1

Richten Sie den Tokios-Connector ein.

Melden Sie sich unter tokios.com/console an, öffnen Sie den Reiter Setup und klicken Sie auf Start pairing, um einen einmalig gültigen Anmeldecode (TKS-XXXX-XXXX) zu erhalten. Installieren und starten Sie anschließend den Connector auf dem Rechner, auf dem Ollama läuft.
Windows
macOS
Linux
Then approve the device on the Setup or Connectors tab.
2

Weisen Sie den Connector auf die /v1-API von Ollama hin.

Ollama stellt unter /v1 eine OpenAI-kompatible Schnittstelle bereit. Bei einer Einzelmodell-Konfiguration füllt der Einrichtungsassistent diese Angabe automatisch als http://127.0.0.1:11434/v1 aus. Bei mehreren Modellen müssen Sie sie explizit in tokios-connector.json eingeben – siehe dazu Connector-Konfiguration.
3

Eine Deployment-Registration vornehmen

Wechseln Sie im Tab Models zur Modellregistrierung und wählen Sie einen öffentlichen Namen für die Deployment aus, etwa deepseek-r1-tunnel. Dieser Name – nicht die lokale Modell-ID von Ollama – wird von Clients im Feld model übermittelt.
4

Einen API-Schlüssel erstellen

Im Tab Keys klicken Sie auf Create key. Kopieren Sie anschließend den sk-tok-…-Schlüssel – er wird nur ein einziges Mal angezeigt.

​
Von überall aus darauf zugreifen

Im Feld model muss stets der registrierte Deployment-Name angegeben werden (wie oben deepseek-r1-tunnel); niemals die lokale Modell-ID von Ollama. Tokios verwandelt alles, was auf localhost läuft, in einen stabilen, authentifizierten Endpunkt – ohne die Funktionsfähigkeit des Modells zu beeinflussen. Für die vollständige Client-Konfiguration lesen Sie bitte Claude Code nutzen sowie Cline nutzen.

​
Wichtige Hinweise

  • Die Zuverlässigkeit von Tool-Aufrufen ist auf dem R1-Distill-Modell gering. Falls Sie einen Agenten, eine CLI oder ein IDE-Plugin einrichten, bei dem das Modell Tools aufrufen muss, empfiehlt es sich, stattdessen ein Modell zu nutzen, dessen native Tool-Unterstützung bereits nachgewiesen wurde – siehe dazu Auswahl eines Modells nach Aufgabe.
  • Den Kontextfensterwert erhöhen. Der Standardwert von Ollama beträgt 2048 Token; dadurch wird komplexe, R1-typische Schlussfolgerungslogik schnell abgeschnitten. Für echte Anwendungen sollte num_ctx erhöht werden – bis zu 128K bei Distill-Modellen bzw. 160K bei vollständigen 671b-Modellen.
  • A distill is not the full model. The 1.5b–70b tags are Qwen/Llama checkpoints fine-tuned on R1’s reasoning traces — they reproduce the reasoning behavior on light hardware, not R1’s full capability. Benchmark quality drops as size drops; see the DeepSeek-R1 model card for the distill evaluation table.
  • Lizenzen variieren je nach Distill. Die vollständigen R1/R1-0528-Gewichte sowie die Qwen-basierten Distill-Modelle (1.5b, 7b, 14b, 32b) unterliegen der MIT-Lizenz. Die Llama-basierten Varianten (8b, 70b) nutzen stattdessen die Llama 3.1/3.3-Lizenz von Meta – prüfen Sie diese vor kommerzieller Nutzung.
  • 671B needs real multi-GPU hardware — roughly 404 GB at Q4_K_M alone — not a typical single-workstation setup. The current V4 Flash 0731 checkpoint is smaller but still needs roughly 162–167 GB before KV cache and runtime overhead; see the DeepSeek family overview.
  • Tokios leitet Anfragen zum Aufrufen von Werkzeugen direkt an das jeweilige Upstream-Modell weiter; es fügt keine zusätzlichen Funktionen hinzu, die das Basismodell nicht bereits bietet.

Übersicht über die DeepSeek-Produktfamilie

R1 im Vergleich zu V3.x sowie zur V4-Frontier – welche Variante passt zu Ihrer Hardware?

Wählen Sie ein Modell entsprechend der jeweiligen Aufgabe

Falls Sie einen Agenten entwickeln, wählen Sie ein Modell, das das Aufrufen von Werkzeugen zuverlässig beherrscht.

Wählen Sie ein Modell, das optimal zu Ihrer GPU passt

Vergleichen Sie die VRAM-Klassen bei verschiedenen Modellgrößen, bevor Sie ein Tag auswählen.

Quantisierung und Hardware

Welche Formate – GGUF, FP16 und weitere – lassen sich auf Ihrer Hardware nutzen?