DeepSeek-V4-Flash-0731 から確認できる。Tokiosを併用すれば、どのモデルを利用してもhttps://api.tokios.com経由で任意のマシンやチームメンバー、ホスティングされたエージェントから簡単に接続可能だ。インバウンドポートやVPNも不要だ。
Ollamaを使ってローカルで実行する
Ollama上のdeepseek-r1タグではフルモデルではなくディストイル版が提供される。デフォルト設定(現在は7b Qwenディストイル版)を取得・実行するには以下の手順に従う。
ollama run deepseek-r1:14bのように。全タグ一覧は Ollamaライブラリページ を参照してほしい。
バリアントとタグ
以下の値はすべてOllamaライブラリおよび各モデルのHugging Face設定情報に基づく。新たな量子化版がリリースされるたびにタグ名やサイズ、デフォルト値が変更されるため、標準仕様として採用する前に ollama.com/library/deepseek-r1 で最新情報を確認してほしい。
情報源:ollama.com/library/deepseek-r1/tags、deepseek-ai/DeepSeek-R1 README。
量子化とフォーマット
Ollama’s default tags areGGUF Q4_K_M. Every distill size and the full 671b also publish -q8_0 and -fp16 tags on the library page for less lossy (and much larger) downloads. See Quantization formats and the hardware they need for what runs on your GPU, and what quantization is for how to read the Q4_K_M-style names.
ハードウェアへの適合性
適度なコンテキスト長であれば、およそQ4程度のメモリで問題なく動作する。記載されている数値はすべて概算値であり、実際の必要メモリ量はモデル本体の GGUFサイズにコンテキスト用KVキャッシュ分を加えた値となる。ご自身のGPUに適したモデルサイズの算出方法はどのサイズのモデルがGPUに適合するかを参照されたい。
The full
671b needs roughly 404 GB just for weights at Q4_K_M — that’s multiple datacenter-class GPUs or an equivalent unified-memory cluster, not a single workstation. Everything 70b and under is realistic on the hardware hobbyists actually own.
実行方法 — 初心者から上級者まで
- Ollama(最も簡単)
- LM Studio(GUI版)
- vLLM(上級者向け)
- SGLang(上級者向け)
http://127.0.0.1:11434 で待機状態にしておきましょう。より多くのモデルコンテキストを利用したい場合は num_ctx の値を引き上げてください。機能概要
- 推論機能: R1 およびすべてのディストイル版モデルは、最終的な回答の前に
<think>…</think>形式のブロックを出力します。DeepSeek公式のモデルカードでは温度パラメータを0.5–0.7に設定することを推奨しており(0.6 も推奨値です)、システムプロンプトは不要です。数学問題を解く際には「段階的に推論せよ」と明示的に指示し、最終回答をボックスで囲むようにするのが良いでしょう。 - ネイティブなツール呼び出し機能: ディスティル版では信頼性に欠ける。 OllamaのR1ディスティル版用チャットテンプレートは、Llama 3.1/3.3やQwen3のようにツールや関数呼び出しをサポートしていません。詳細は ollama/ollama#8517 をご覧ください(ディスティル版テンプレートに関する問題は未解決のままです)。ツール呼び出し機能が必要な場合は、それに適したモデルを選ぶべきです。参考として タスク別モデル選定ガイド もご覧ください。
- Context: 128K for every distill (
1.5bthrough70b); 160K for the full671bR1 and R1-0528. - ビジョン機能: このページに掲載されているモデルはいずれもマルチモーダルではなく、DeepSeek-R1およびそのディスティル版はテキスト専用モデルです。
R1以降の用途には、最先端性能を求める場合は V4 Flash 0731をご利用ください。
R1はDeepSeekのV3アーキテクチャを基盤とした推論用チェックポイントです。現在の公式リリース版はdeepseek-ai/DeepSeek-V4-Flash-0731 で、これがV4 Flashプレビュー版に取って代わっています。オープンウェイトかつMITライセンスが適用されていますが、通常のワークステーションではなく複数デバイスからなるサーバーが必要です。DeepSeekファミリー概要 では、284B向けの設計や13Bで有効なアーキテクチャ、同梱されているDSparkヘッド、ツール呼び出し機能、1Mのコンテキスト長、そしてローカルハードウェアでの利用方法について解説しています。
Tokiosコネクターを接続してください。
DeepSeekモデルをローカルで稼働させた後、Tokiosコネクターをペアリングすれば、Claude CodeやCline、その他互換性のあるクライアントからhttps://api.tokios.com としてそのモデルにアクセスできるようになります。これにより localhost:11434 からのみアクセス可能だった制限が解消されます。
1
Tokiosコネクターをペアリングする手順です。
Sign in at tokios.com/console, open the Setup tab, and click Start pairing to get a one-time claim code (Then approve the device on the Setup or Connectors tab.
TKS-XXXX-XXXX). Install and run the connector on the machine running Ollama:Windows
macOS
Linux
2
コネクターの接続先をOllamaの /v1 APIに指定してください。
Ollamaは
/v1 にてOpenAI互換のインターフェースを提供しています。単一モデル環境ではコンソールのセットアップウィザードが自動的に http://127.0.0.1:11434/v1 を設定します。複数モデルを利用する場合は tokios-connector.json で手動設定が必要です。詳細は コネクター設定ガイド をご参照ください。3
デプロイを登録する
In the Models tab, register the model and choose a public deployment name, for example
deepseek-r1-tunnel. This name — not Ollama’s local model id — is what clients send in the model field.4
APIキーを作成する
In the Keys tab, click Create key. Copy the
sk-tok-… key now — it’s shown only once.どこからでも呼び出せる
注意点
- R1ディストイル版ではツール呼び出し機能が不安定です。 エージェントやCLI、あるいはIDEプラグインを構築しており、モデルにツールを呼び出させる必要がある場合は、ネイティブなツールサポートが確認済みのモデルをご利用ください。詳細は タスク別モデル選択 をご覧ください。
- コンテキストウィンドウのサイズを拡大する。 Ollamaのデフォルト設定では 2048 トークンまでしか対応せず、R1形式の推論出力がすぐに途切れてしまいます。実際の利用には
num_ctx以上に設定値を引き上げる必要があり、最大で 128K まで(簡略化モード)または 160K まで(完全な671bモード)設定可能です。 - A distill is not the full model. The
1.5b–70btags are Qwen/Llama checkpoints fine-tuned on R1’s reasoning traces — they reproduce the reasoning behavior on light hardware, not R1’s full capability. Benchmark quality drops as size drops; see the DeepSeek-R1 model card for the distill evaluation table. - ライセンスはディストイルごとに異なります。 R1/R1-0528の完全な重みデータおよびQwenベースのディストイル(
1.5b、7b、14b、32b)はMITライセンスが適用されます。一方、Llamaベースのディストイル(8b、70b)はベースモデルから引き継がれたMeta社のLlama 3.1/3.3ライセンスが適用されるため、これら二つのタグを商業利用する際には必ず該当ライセンスをご確認ください。 - 671B needs real multi-GPU hardware — roughly 404 GB at
Q4_K_Malone — not a typical single-workstation setup. The current V4 Flash 0731 checkpoint is smaller but still needs roughly 162–167 GB before KV cache and runtime overhead; see the DeepSeek family overview. - Tokiosはツール呼び出しリクエストをアップストリームモデルが対応可能な範囲内でそのまま転送するだけで、元のモデルに備わっていないツール呼び出し機能を追加することはありません。
DeepSeekファミリーの概要
R1版、V3.x版、そしてV4フロンティア版 — それぞれどのレベルがご自身のハードウェアに適しているかを確認しましょう。
タスクに応じたモデルの選定方法
エージェントを構築する場合は、ツール呼び出し機能が確実に動作するモデルを選ぶべきです。
ご使用のGPUに合ったモデルの選び方
タグを選ぶ前に、各ディストイルサイズごとのVRAM要件を比較しておきましょう。
量子化処理とハードウェアの関係
どのフォーマット、すなわち
GGUF や FP16 その他がご使用のハードウェア上で動作するか。