最近验证：2026-10-14
DeepSeek 系列模型
活跃参数量影响每个生成 token 的计算开销，但不会减少保持所有专家常驻所需的内存。这就是 552B 的 V4.1-Flash 即使每个 token 只激活 8B 或 16B 参数，仍然需要全部权重常驻的原因。
应该运行哪个 DeepSeek？
- 需要当前 DeepSeek 旗舰： 使用
deepseek-ai/DeepSeek-V4.1-Flash。它增加原生视觉和非对称 8B/16B 活跃参数，KV 缓存缩小 3.9×（相比 V4-Flash-0731）。可以自托管，但仅有硬件条件还不够——请仔细查阅下方需求。 - 只有笔记本或 1 个消费级 GPU： 从 R1 蒸馏版 入手。在 24 GB GPU 上，
deepseek-r1:14b是实用的 Ollama 起点。参见 DeepSeek-R1。 - 需要原版 R1 推理模型： 请准备真正的多 GPU 服务器。完整的
671b模型不是单台工作站能承载的。 - 需要通用 DeepSeek 基础模型： V3 系列仍然是 671B 级别的多 GPU 模型。根据部署计划在 Ollama 中使用 V3.1 标签；正式确定前请核实当前标签。
- 需要 V4-Flash-0731： 它已被 V4.1-Flash 替代。DeepSeek API 将旧的
deepseek-v4-flash路由重定向到 V4.1-Flash。如果必须留在 0731，请参见下方的已被替代部分。
DeepSeek V4.1-Flash
V4.1-Flash 于 8–10 日九月，2026 年发布（8 日有限测试版，10 日正式版）。官方模型卡将其定义为替代 V4-Flash-0731 的当前旗舰发布版本。它描述了一个 552B 参数的混合专家模型，采用全新的 Causal-Encoder-Decoder 架构，非对称激活（输入 token 活跃 8B，输出 token 活跃 16B），原生多模态视觉（文本 + 图像输入），1M token 上下文（最高 384K 输出 token），以及 MIT 许可证。相比 V4-Flash-0731 的改进
V4.1-Flash 带来 6 项主要改进（相比 七月 31 日版本）：- 原生视觉能力 — 首个内置多模态图像理解的 DeepSeek Flash 模型，不再仅限文本
- 非对称架构 — 输入处理活跃 8B 参数，输出生成活跃 16B 参数，优化计算与质量的平衡
- 大幅压缩的 KV 缓存 — 每个 token 全局 890 字节 KV，缩小 3.9×（对比 V4 Flash）
- 更低的硬件占用 — 1/4 的 HBM、1/8 的 SSD，相比上一代
- 更强的基准测试 — 超越 V4 Flash 0731 的全部 8 项选定测试
- 更低的运行成本 — 约降低 75.5%
NVIDIA NVFP4 变体
NVIDIA 发布了优化的 NVFP4 量化变体nvidia/DeepSeek-V4.1-Flash-NVFP4。该变体面向 NVIDIA Blackwell 和 Hopper GPU，采用 FP4 精度，在保持质量的同时降低内存需求。
推理框架支持
vLLM 和 SGLang 预计支持但撰写本文时尚未确认。Ollama 支持尚不可用——请查看 Ollama 库了解当前可用性。该架构是全新的（Causal-Encoder-Decoder），运行时实现可能比以往的 DeepSeek 发布版本需要更长时间才能稳定。V4.1-Flash 的标识符
请审慎使用以下标识符：DeepSeek API 现在将旧的
deepseek-v4-flash 请求路由到 V4.1-Flash。如果您注册了名为 deepseek-v4-flash 的 Tokios 部署，请将其更新为 deepseek-flash 以匹配新的 API ID。Tokios 部署是您的公共名称，与上游模型 ID 相互独立。如果您注册
deepseek-flash，客户端在 model 字段中发送该名称，而您的运行时提供 deepseek-ai/DeepSeek-V4.1-Flash。能力
- 原生视觉。 内置多模态图像理解——文本和图像输入，不再仅限文本。
- 非对称计算。 输入处理活跃 8B 参数，输出生成活跃 16B 参数，优化计算与质量的平衡。
- 长上下文。 1M token 上下文窗口，最高 384K 输出 token。
- 编程和智能体任务。 超越 V4-Flash-0731 的全部 8 项选定基准测试，包括编程和智能体任务。
- 多语言。 支持多种语言的输入和输出。
- 压缩 KV 缓存。 每个 token 全局 890 字节，缩小 3.9×（对比 V4 Flash）——降低长上下文场景下每个 token 的内存开销。
硬件适配
V4.1-Flash 是一个 552B 参数的模型。具体的量化尺寸尚未发布——以下估算使用标准计算方式（参数量 × 每权字节数 + 开销）。请查看模型卡了解当前 GGUF 构建。
NVIDIA NVFP4 变体面向 Blackwell 和 Hopper GPU，采用 FP4 精度，可进一步降低内存需求。非对称架构（8B/16B 活跃）不会减少保持所有专家常驻所需的内存——全部 552B 参数必须保持加载。
运行方式
- vLLM (GPU serving)
- SGLang
Ollama 和 LM Studio 对 V4.1-Flash 的支持尚在等待中。Causal-Encoder-Decoder 架构是全新的，运行时实现需要时间才能稳定。请查看 Ollama 库和 LM Studio 了解当前可用性。
DeepSeek-V4-Flash-0731（已被替代）
V4-Flash-0731 是上一代 DeepSeek Flash 发布版本，被 V4.1-Flash 在 2026 年九月替代。新部署请使用 V4.1-Flash，除非有特定原因需要留在 0731。
DeepSeek-V4-Flash-0731。官方模型卡将其定义为替代预览版的正式 V4 Flash 发布版本。它描述了一个 284B 目标模型、13B 活跃参数的混合专家模型，附带 DSpark 头，1M token 上下文，low、high 和 max 推理力度，以及工具调用。SGLang 在计入附加草稿头时报告约 304B 参数。权重采用 MIT 许可证。
0731 代码库未附带 Jinja 对话模板。它包含一个专用的
encoding 包，用于将兼容 OpenAI 的消息转换为模型输入并解析补全。请使用支持该编码方式的运行时方案，然后在对外提供部署前测试多轮对话、推理内容和工具调用。Tokios 部署是您的公共名称，与上游模型 ID 相互独立。如果您注册
deepseek-v4-flash，客户端在 model 字段中发送该名称，而您的运行时提供 deepseek-ai/DeepSeek-V4-Flash-0731。V4-Flash-0731 与 GPT-5.6 有多接近？
请将对比视为配置特定的结果，而非通用等价声明。Artificial Analysis 报告 Flash Max 为 50 和 GPT-5.6 Sol Low 为 49，在其命名对比中。该结果对比的是 Flash Max 与 Low 力度设置下的 Sol。它并不能证明与更高力度下的 GPT-5.6 Sol 或所有工作负载的等价性。V4-Flash-0731 的本地路径
每条路径都需要检查点的磁盘空间、临时下载和运行时分配的空间，以及经过测量的 KV 缓存余量。从 32K–128K 上下文开始。将 384K 和 1M 视为独立的调优目标，而非默认设置。
V4-Flash-0731 的量化尺寸
Unsloth 在unsloth/DeepSeek-V4-Flash-0731-GGUF 发布了 GGUF 构建。这些尺寸比平时更重要，因为它们决定了是否一台机器就够。
DGX Spark 能运行 DeepSeek-V4-Flash-0731 吗？
3-bit 可以，单台即可。Unsloth 的指南选择UD-IQ3_XXS 正是因为它适合 128 GB 机器，NVIDIA 的开发者论坛上有报告通过 llama-server 在单台 Spark 上运行，包括达到 262K 上下文（使用较小的 2-bit 构建）。
单台 Spark 无法容纳的是两个近乎无损的构建：UD-Q4_K_XL 为 155 GB，UD-Q8_K_XL 为 162 GB，均超过 128 GB。它们需要两台 Spark 和上表中的池化内存。
Strix Halo 能运行 DeepSeek-V4-Flash-0731 吗？
可以，同样需要 3-bit 条件。128 GB 的 Strix Halo 可容纳 103 GB 的构建；近乎无损的版本需要第二台机器，而分布式路径通过 llama.cpp RPC 运行，其维护者将其描述为概念验证。 此处的吞吐量受内存带宽限制而非容量。13B 活跃参数量对您有利：每个 token 的计算仍然很小，即使全部 284B 参数必须保持常驻。24 GB GPU 能运行 DeepSeek-V4-Flash-0731 吗？
不能。最小的已发布构建为 92 GB，因此任何量化下没有单张消费级显卡在范围内，将这么多权重卸载到系统 RAM 会丧失 Flash 值得运行的速度优势。请改用 DeepSeek-R1 蒸馏版——它们专为单个 GPU 设计。R1 和 V3 系列
V4.1-Flash 并不能替代所有早期 DeepSeek 选项。R1 蒸馏版仍然是小型硬件的实用选择。完整的 R1 和 V3 系列在您已经运营 671B 级别推理集群时仍然有用。
蒸馏版尺寸、上下文和设置建议请参见 DeepSeek-R1。多大多小的模型适合您的 GPU 的内存计算请参见什么尺寸的模型适合您的 GPU？。
通过 Tokios 连接 DeepSeek 部署
选定运行时正常运行后，在与运行时端点相同的机器上安装连接器。连接器向 Tokios 拨出；不暴露入站端口。对于 V4 集群，仅在头节点上运行连接器，它可以访问集群兼容 OpenAI 的/v1 端点。
1
保持本地运行时运行
在 vLLM 或 SGLang 中启动 DeepSeek V4.1-Flash 并绑定到回环接口。对于 V4-Flash-0731，使用硬件指南中的推理方案。
2
配对 Tokios 连接器
在 tokios.com/console 登录，打开 Setup 标签页，点击 Start pairing 获取一次性配对码（然后 approve 该设备，可在 Setup 或 Connectors 标签页上操作。
TKS-XXXX-XXXX）。在运行模型的机器上运行安装程序：Windows
macOS
Linux
3
注册部署
在 Models 标签页中，以公共部署名称注册上游模型 ID。对于 V4.1-Flash，注册
deepseek-flash 并映射到 deepseek-ai/DeepSeek-V4.1-Flash。对于 V4-Flash-0731，注册 deepseek-v4-flash 并映射到 deepseek-ai/DeepSeek-V4-Flash-0731。客户端在 model 字段中发送部署名称，而非本地 ID。4
创建 API 密钥
在 Keys 标签页中，点击 Create key。立即复制
sk-tok-… 密钥——它仅显示一次。从任何地方调用
注意事项
- 基准测试由厂商报告。 DeepSeek 在发布当天公布了 V4.1-Flash 的对比数据。在将分数视为定论之前，请等待独立评估。
- 硬件需求为估算值。 V4.1-Flash 的具体量化尺寸尚未发布。硬件适配表使用标准计算（参数量 × 每权字节数）。在确定硬件之前，请查看模型卡了解当前 GGUF 构建。
- V4.1-Flash 运行时支持尚新。 Causal-Encoder-Decoder 架构与以往的 DeepSeek 发布版本不同。vLLM 和 SGLang 支持预计可用但尚未确认。Ollama 和 LM Studio 尚在等待中。
- 全部 552B 参数保持常驻。 非对称架构（8B/16B 活跃）减少的是每个 token 的计算，而非内存。无论活跃数量多少，每个专家权重必须保持加载。
- MIT 许可证较为宽松。 权重允许商业使用，无可接受使用政策或用户数阈值，但在构建之前请自行阅读许可证。
常见问题
DeepSeek V4.1-Flash 需要多少 VRAM？
DeepSeek V4.1-Flash 需要多少 VRAM？
V4.1-Flash 是一个 552B 参数的模型。撰写本文时具体的量化尺寸尚未发布。非对称架构（8B/16B 活跃）和缩小 3.9× 的 KV 缓存（每个 token 890 字节）表明它可能适合与 V4-Flash-0731 类似的硬件（根据构建不同为 110–169 GB），但请查看模型卡了解当前 GGUF 构建和内存需求。NVIDIA NVFP4 变体面向 Blackwell/Hopper GPU，采用 FP4 精度以降低内存。
DeepSeek-V4-Flash-0731 需要多少 VRAM？
DeepSeek-V4-Flash-0731 需要多少 VRAM？
大约 110 GB 到 169 GB，取决于您拉取的构建。3-bit
UD-IQ3_XXS 磁盘上为 103 GB，需要 110 至 135 GB 内存，因此它适合单台 128 GB 统一内存机器。近乎无损的 UD-Q4_K_XL 为 155 GB，无损的 UD-Q8_K_XL 为 162 GB，两者都需要多台此类机器。全部 284B 参数保持常驻，无论 13B 活跃数量多少。DeepSeek V4.1-Flash 可以免费使用吗？
DeepSeek V4.1-Flash 可以免费使用吗？
权重采用 MIT 许可证，对于如此强大的模型而言极为宽松，允许商业使用。免费使用不等于免费运行：552B 参数量意味着显著的硬件需求。如果您不想自托管，DeepSeek 也提供付费的托管 API。
DeepSeek-V4-Flash-0731 可以免费使用吗？
DeepSeek-V4-Flash-0731 可以免费使用吗？
权重采用 MIT 许可证，对于如此强大的模型而言极为宽松，允许商业使用。免费使用不等于免费运行：即使最小的构建也需要 92 GB，硬件才是真正的成本。如果您不想自托管，DeepSeek 也提供付费的托管 API。
V4.1-Flash 和 V4-Flash-0731 有什么区别？
V4.1-Flash 和 V4-Flash-0731 有什么区别？
V4.1-Flash 替代 V4-Flash-0731，带来 6 项主要改进：原生视觉能力（文本 + 图像输入）、非对称架构（输入活跃 8B、输出活跃 16B，而 13B 活跃在 0731 中）、缩小 3.9× 的 KV 缓存（每个 token 890 字节）、1/4 HBM 占用、1/8 SSD 占用，以及约降低 75.5% 的运行成本。V4.1-Flash 超越 0731 的全部 8 项选定基准测试。DeepSeek API 现在将旧的
deepseek-v4-flash 路由重定向到 V4.1-Flash。可以用 Ollama 运行 DeepSeek V4.1-Flash 吗？
可以用 Ollama 运行 DeepSeek V4.1-Flash 吗？
撰写本文时还不行。Causal-Encoder-Decoder 架构是全新的，运行时支持需要时间才能稳定。vLLM 和 SGLang 支持预计可用但尚未确认。请查看 Ollama 库了解当前可用性。对于 V4-Flash-0731，R1 蒸馏版和 DeepSeek-V3.1 确实有 Ollama 标签——参见 DeepSeek-R1。
可以用 Ollama 运行 DeepSeek-V4-Flash-0731 吗？
可以用 Ollama 运行 DeepSeek-V4-Flash-0731 吗？
不是文档记录的路径。Unsloth 的指南通过 llama.cpp 使用拆分 GGUF 文件驱动 0731 检查点，主线 llama.cpp 包含 V4 架构支持。请查看 Ollama 库了解当前可用性，而非假设存在本地标签。R1 蒸馏版和 DeepSeek-V3.1 确实有 Ollama 标签——参见 DeepSeek-R1。
V4 Flash 和 R1 蒸馏版有什么区别？
V4 Flash 和 R1 蒸馏版有什么区别？
规模和用途不同。V4.1-Flash 是当前的 552B 混合专家发布版本，具备原生视觉、1M token 上下文和非对称 8B/16B 活跃参数，面向多 GPU 系统上的多模态和智能体工作。V4-Flash-0731 是已被替代的 284B 发布版本。R1 蒸馏版是适合单个消费级 GPU 的小型密集模型，以能力换取覆盖面。如果您的硬件是单张 24 GB 显卡，蒸馏版不是妥协——它是两者中唯一能运行的。
如何从另一台机器访问 DeepSeek 部署？
如何从另一台机器访问 DeepSeek 部署？
在本地提供推理服务，然后在持有运行时的机器上配对 Tokios 连接器——对于集群，仅在头节点上。连接器向外拨出，因此装有 GPU 的机器无需入站端口。客户端随后通过
https://api.tokios.com/v1 使用 sk-tok-… 密钥进行调用，并在 model 字段中填入您的部署名称。V4 Flash 本地硬件
对比 2 个 RTX PRO 6000、2 个 DGX Spark 和 2 个 Strix Halo 系统运行 V4-Flash-0731 的方案。
DeepSeek-R1
在较小的硬件上选择和运行 R1 推理蒸馏版。
按任务选择模型
对比适用于推理、编程和智能体工作的本地模型。
将模型匹配到您的 GPU
了解权重、缓存和量化的内存需求。