DeepSeek V4.1-Flash: 최신 DeepSeek를 로컬에서 실행하기

DeepSeek V4.1-Flash는 현재 DeepSeek의 플래그십 오픈 웨이트 릴리스입니다. V4-Flash-0731을 대체하며, 네이티브 멀티모달 비전, 비대칭 552B MoE 아키텍처(입력에 8B 활성, 출력에 16B 활성), 1M 토큰 컨텍스트(최대 384K 출력 토큰), 그리고 대폭 압축된 KV 캐시 — 토큰당 전역 890바이트, 약 3.9× 더 작으며 V4 Flash 대비 — 를 제공합니다. DeepSeek는 8–10일 2026년에 이를 릴리스했으며(제한적 베타 8일, 프로덕션 10일), MIT 라이선스입니다. 노트북이나 소비자용 GPU 1개에서 DeepSeek 스타일 추론이 필요하면 대신 R1 distill을 사용하세요. 전체 R1 및 V3 모델은 여전히 671B급 다중 GPU 옵션입니다.

마지막 확인: 2026-10-14

DeepSeek 라인업

모델	설명	파라미터	컨텍스트	실용적 로컬 하드웨어
DeepSeek-V4.1-Flash	현재 플래그십: 네이티브 비전, 비대칭 MoE, 3.9× 더 작은 KV 캐시	552B 총합 / 8B 입력 활성, 16B 출력 활성	1M (384K 출력)	고메모리 시스템 2대; 아래 하드웨어 요구 사항 참조
DeepSeek-V4-Flash-0731	DSpark 헤드가 포함된 대체된 V4 Flash 릴리스	284B 타겟 / 13B 활성	1M	고메모리 시스템 2대; 하드웨어 가이드 참조
R1 distills	R1 추론 트레이스로 학습된 Qwen 및 Llama 기반 모델	1.5B–70B 밀집	128K	노트북 또는 GPU 1개(메모리 24–48 GB)
DeepSeek-R1 / R1-0528	전체 추론 MoE	671B / 37B 활성	160K	다중 GPU 서버; 약 404 GB의 `Q4_K_M` 가중치
DeepSeek-V3 / V3.1 / V3.2	R1 뒤의 기본 모델 라인	671B급 MoE	160K	다중 GPU 서버

활성 파라미터 수는 생성된 토큰당 연산에 영향을 줍니다. 모든 전문가를 메모리에 상주시키는 데 필요한 메모리를 줄이지는 않습니다. 이것이 552B V4.1-Flash가 토큰당 8B 또는 16B만 활성화되더라도 모든 가중치를 메모리에 유지해야 하는 이유입니다.

어떤 DeepSeek를 실행해야 할까요?

현재 DeepSeek 플래그십을 원합니다: deepseek-ai/DeepSeek-V4.1-Flash를 사용하세요. 네이티브 비전, 비대칭 8B/16B 활성 파라미터, 3.9× 더 작은 KV 캐시를 V4-Flash-0731 대비 추가합니다. 자체 호스팅이 가능하지만 하드웨어 용량만으로는 충분하지 않습니다 — 아래 요구 사항을 확인하세요.
노트북이나 소비자용 GPU 1개가 있습니다: R1 distill로 시작하세요. deepseek-r1:14b는 24 GB GPU에서 실용적인 Ollama 시작점입니다. DeepSeek-R1을 참조하세요.
원본 R1 추론 모델이 필요합니다: 실제 다중 GPU 서버를 계획하세요. 전체 671b 모델은 단일 워크스테이션으로 감당할 수 없습니다.
범용 DeepSeek 기본 모델이 필요합니다: V3 라인은 여전히 671B급이며 다중 GPU가 필요합니다. 배포 계획에 맞는 V3.1 태그를 Ollama에서 사용하세요; 하나를 표준화하기 전에 현재 태그를 확인하세요.
V4-Flash-0731이 특별히 필요합니다: 이제 V4.1-Flash로 대체되었습니다. DeepSeek API는 이전 deepseek-v4-flash 라우트를 V4.1-Flash로 리디렉션합니다. 0731을 계속 사용해야 하면 아래의 대체된 섹션을 참조하세요.

DeepSeek V4.1-Flash

DeepSeek는 V4.1-Flash를 8–10일 2026년에 릴리스했습니다(제한적 베타 8일, 프로덕션 10일). 공식 모델 카드는 이를 V4-Flash-0731을 대체하는 현재 플래그십 릴리스로 식별합니다. 이는 새로운 Causal-Encoder-Decoder 아키텍처를 갖춘 552B 파라미터 혼합 전문가 모델로, 비대칭 활성화(입력 토큰에 8B 활성, 출력 토큰에 16B 활성), 네이티브 멀티모달 비전(텍스트 + 이미지 입력), 1M 토큰 컨텍스트(최대 384K 출력 토큰), 그리고 MIT 라이선스를 설명합니다.

V4-Flash-0731 대비 새로운 점

V4.1-Flash는 6가지 주요 개선 사항을 이전 31일 릴리스 대비 제공합니다:

네이티브 비전 기능 — 텍스트뿐만 아니라 내장 멀티모달 이미지 이해를 갖춘 첫 번째 DeepSeek Flash 모델
비대칭 아키텍처 — 입력 처리에 8B 활성 파라미터, 출력 생성에 16B, 연산/품질 트레이드오프 최적화
대폭 압축된 KV 캐시 — 토큰당 전역 890바이트 KV, 약 3.9× V4 Flash 대비 더 작음
줄어든 하드웨어 풋프린트 — 이전 세대 대비 HBM 1/4, SSD 1/8
강화된 벤치마크 — V4 Flash 0731을 선택된 8개 테스트 모두에서 초과
낮은 운영 비용 — 실행 비용 약 75.5% 절감

NVIDIA NVFP4 변형

NVIDIA NVFP4 최적화 양자화를 nvidia/DeepSeek-V4.1-Flash-NVFP4에 게시했습니다. 이 변형은 NVIDIA Blackwell 및 Hopper GPU를 FP4 정밀도로 대상으로 하여 메모리 요구 사항을 줄이면서 품질을 유지합니다.

서빙 지원

vLLM과 SGLang 지원은 예상되지만 작성 시점 아직 확인되지 않았습니다. Ollama 지원은 아직 사용할 수 없습니다 — 현재 사용 가능 여부는 Ollama 라이브러리를 확인하세요. 아키텍처가 새로운(Causal-Encoder-Decoder)므로, 런타임 구현이 이전 DeepSeek 릴리스보다 안정화에 더 오래 걸릴 수 있습니다.

V4.1-Flash 식별자

다음 식별자를 의도적으로 사용하세요:

식별자	용도
`deepseek-ai/DeepSeek-V4.1-Flash`	공식 체크포인트를 다운로드하거나 서빙할 때 업스트림 모델 id
`nvidia/DeepSeek-V4.1-Flash-NVFP4`	Blackwell/Hopper GPU용 NVIDIA NVFP4 변형
`deepseek-flash`	공식 DeepSeek API 모델 id(`deepseek-v4-flash` 대체)
`deepseek-flash`	명확한 예시 Tokios 배포 이름; 다른 공개 배포 이름을 선택할 수 있음

DeepSeek API는 이제 이전 deepseek-v4-flash 요청을 V4.1-Flash로 라우팅합니다. deepseek-v4-flash라는 Tokios 배포를 등록했다면 새 API id와 일치하도록 deepseek-flash로 업데이트하세요.

Tokios 배포는 공개 이름입니다. 업스트림 모델 id와 별개입니다. deepseek-flash를 등록하면 클라이언트가 model 필드로 이를 전송하고 런타임은 deepseek-ai/DeepSeek-V4.1-Flash를 서빙합니다.

기능

네이티브 비전. 내장 멀티모달 이미지 이해 — 텍스트와 이미지 입력, 텍스트만 아님.
비대칭 연산. 입력 처리에 8B 활성 파라미터, 출력 생성에 16B, 연산/품질 트레이드오프 최적화.
긴 컨텍스트. 1M 토큰 컨텍스트 윈도우(최대 384K 출력 토큰).
코딩 및 에이전트 작업. 코딩 및 에이전트 작업을 포함하여 V4-Flash-0731을 선택된 8개 벤치마크 모두에서 초과.
다국어. 입력과 출력 모두 여러 언어 지원.
압축된 KV 캐시. 토큰당 전역 890바이트, 약 3.9× V4 Flash 대비 더 작음 — 긴 컨텍스트에서 토큰당 메모리 오버헤드 감소.

하드웨어 적합성

V4.1-Flash는 552B 파라미터 모델입니다. 특정 양자화 크기는 아직 게시되지 않았습니다 — 아래 추정치는 표준 계산(파라미터 × 가중치당 바이트 + 오버헤드)을 사용합니다. 현재 GGUF 빌드는 모델 카드를 확인하세요.

정밀도	추정 크기	하드웨어
BF16	~1 TB	8× H200 또는 동급
4-bit	~275 GB	4× RTX Pro 6000 또는 2× Mac Studio M5 Ultra
2-bit	~150 GB	Mac Studio M5 Ultra 256 GB

NVIDIA NVFP4 변형은 Blackwell 및 Hopper GPU를 FP4 정밀도로 대상으로 하며 메모리 요구 사항을 추가로 줄여줍니다. 비대칭 아키텍처(8B/16B 활성)는 모든 전문가를 메모리에 상주시키는 데 필요한 메모리를 줄이지 않습니다 — 모든 552B 파라미터가 로드된 상태로 유지되어야 합니다.

실행하기

vLLM (GPU 서빙)
SGLang

vllm serve "deepseek-ai/DeepSeek-V4.1-Flash"

하드웨어에 대한 현재 플래그 및 텐서 병렬 설정은 모델 카드를 확인하세요. Causal-Encoder-Decoder 아키텍처가 새로우므로 — 표준화 전에 vLLM 버전이 지원하는지 확인하세요.

python -m sglang.launch_server --model-path "deepseek-ai/DeepSeek-V4.1-Flash"

현재 플래그 및 텐서 병렬 설정은 모델 카드를 확인하세요. SGLang 지원은 예상되지만 작성 시점 아직 확인되지 않았습니다.

Ollama 및 LM Studio 지원은 V4.1-Flash에서 보류 중입니다. Causal-Encoder-Decoder 아키텍처가 새로우며, 런타임 구현은 안정화에 시간이 걸립니다. 현재 사용 가능 여부는 Ollama 라이브러리와 LM Studio를 확인하세요.

DeepSeek-V4-Flash-0731 (대체됨)

V4-Flash-0731은 이전 DeepSeek Flash 릴리스로, V4.1-Flash에 의해 2026년에 대체되었습니다. 새 배포에는 V4.1-Flash를 사용하세요 — 0731에 머물러야 할 특별한 이유가 없다면.

DeepSeek는 DeepSeek-V4-Flash-0731을 31일 2026년에 릴리스했습니다. 공식 모델 카드는 이를 프리뷰를 대체하는 공식 V4 Flash 릴리스로 식별합니다. 이는 번들 DSpark 헤드를 포함한 284B 타겟 모델, 13B 활성 혼합 전문가 모델, 1M 토큰 컨텍스트, low, high, max 추론 노력, 그리고 도구 호출을 설명합니다. SGLang은 첨부된 드래프트 헤드를 포함하면 약 304B 파라미터를 보고합니다. 가중치는 MIT 라이선스입니다.

V4-Flash-0731은 이제 V4.1-Flash로 대체되었습니다. DeepSeek API는 이전 deepseek-v4-flash 라우트를 V4.1-Flash로 리디렉션합니다. 새 배포에는 V4.1-Flash를 사용하세요 — 0731에 머물러야 할 특별한 이유가 없다면.

0731 저장소는 Jinja 채팅 템플릿을 제공하지 않습니다. OpenAI 호환 메시지를 모델 입력으로 변환하고 완성을 구문 분석하기 위한 전용 encoding 패키지를 포함합니다. 이 인코딩을 지원하는 런타임 레시피를 사용한 다음, 배포를 노출하기 전에 다중 턴 채팅, 추론 콘텐츠 및 도구 호출을 테스트하세요.

다음 식별자를 의도적으로 사용하세요:

식별자	용도
`deepseek-ai/DeepSeek-V4-Flash-0731`	0731 체크포인트를 다운로드하거나 서빙할 때 업스트림 모델 id
`deepseek-v4-flash`	이전 DeepSeek API 모델 id(이제 `deepseek-flash`로 리디렉션)

Tokios 배포는 공개 이름입니다. 업스트림 모델 id와 별개입니다. deepseek-v4-flash를 등록하면 클라이언트가 model 필드로 이를 전송하고 런타임은 deepseek-ai/DeepSeek-V4-Flash-0731을 서빙합니다.

V4-Flash-0731은 GPT-5.6과 얼마나 가까운가?

비교를 구성별로 해석하고 일반적인 동등성 주장으로 보지 마세요. Artificial Analysis는 Flash Max가 50이고 GPT-5.6 Sol Low가 49라고 이름 비교에서 보고합니다. 이 결과는 Low 노력 설정에서 Flash Max와 Sol을 비교합니다. 더 높은 노력에서, 또는 모든 워크로드에서 GPT-5.6 Sol과의 동등성을 확립하는 것은 아닙니다.

V4-Flash-0731의 로컬 경로

구성	용량 결론	성숙도	알아야 할 사항
1× DGX Spark 또는 Strix Halo	128 GB는 103 GB 3-bit 빌드를 캐시 여유를 두고 수용하지만, 155–162 GB 빌드는 불가	커뮤니티 테스트됨	Unsloth의 가이드는 정확히 이 경우를 위해 `UD-IQ3_XXS`를 대상으로 합니다. Flash를 실행하는 가장 저렴한 방법; 근손실 빌드 대비 품질 저하 예상.
2× RTX PRO 6000 Blackwell	192 GB VRAM이 제한적 초기 캐시 여유로 162–167 GB의 가중치를 수용 가능	커뮤니티 검증 필요	SGLang은 이전 Flash 체크포인트에 대해 TP=2를 문서화하지만, 0731을 TP=2에서 공식 검증된 것으로 목록화하지는 않습니다. 보수적으로 시작하고 정확한 빌드를 검증하세요.
2× DGX Spark	256 GB 집계 통합 메모리가 가중치와 캐시를 위한 더 많은 여유를 제공	커뮤니티 테스트됨	NVIDIA는 ConnectX-7을 통한 클러스터링을 문서화합니다. Dual-Spark DeepSeek 레시피는 프리뷰 체크포인트를 대상으로 합니다; 0731에 대한 검증을 다시 실행하세요.
2× Strix Halo	256 GB 집계 통합 메모리가 162 GB GGUF를 수용 가능	실험적	분산 경로는 llama.cpp RPC를 사용하며, 관리자는 이를 개념 증명, 취약하며 안전하지 않다고 설명합니다. 프로덕션 서빙 설계로 사용하지 마세요.
4× GB300	공식 참조 구성	검증됨	0731 모델 카드의 참조 구성.

모든 경로에 체크포인트를 위한 디스크 공간, 임시 다운로드 및 런타임 할당을 위한 여유, 그리고 측정된 KV 캐시 여유가 필요합니다. 32K–128K 컨텍스트에서 시작하세요. 384K와 1M을 기본 설정이 아닌 별도의 튜닝 목표로 취급하세요.

이미 V4-Flash-0731을 실행 중이라면, 서빙 엔드포인트를 헤드 노드의 루프백 인터페이스에 유지하세요. 해당 헤드 노드에서 Tokios 커넥터 1개를 실행하고 런타임의 /v1 엔드포인트에만 연결하세요. 하드웨어 가이드에 토폴로지와 배포 매핑이 나와 있습니다.

V4-Flash-0731의 양자화 크기

Unsloth는 unsloth/DeepSeek-V4-Flash-0731-GGUF에서 GGUF 빌드를 게시합니다. 크기가 평소보다 더 중요합니다 — 머신 한 대로 충분한지 결정하기 때문입니다.

빌드	파일 크기	실행 메모리
`UD-Q8_K_XL`, 무손실	162 GB	~169 GB
`UD-Q4_K_XL`, 근무역 무손실	155 GB	~162 GB
`UD-IQ3_XXS`, 3-bit	103 GB	110~135 GB
2-bit	102 GB	같은 등급의 머신에 적합, 더 큰 품질 저하
1-bit	92 GB	가장 작은 게시 빌드; 실제 열화 예상

DGX Spark로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

3-bit에서 가능합니다. 단일 장치에서 됩니다. Unsloth의 가이드는 UD-IQ3_XXS를 128 GB 머신에 맞기 때문에 선택하며, NVIDIA의 개발자 포럼에서 llama-server를 통해 262K 컨텍스트와 더 작은 2-bit 빌드로 하나의 Spark에서 실행하는 것을 보고합니다. 하나의 Spark로 수용할 수 없는 것은 근무역 빌드입니다: UD-Q4_K_XL 155 GB와 UD-Q8_K_XL 162 GB는 모두 128 GB를 초과합니다. 이 경우 두 개의 Spark와 위 표의 풀링 메모리가 필요합니다.

Strix Halo로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

네, 같은 3-bit 조건에서 가능합니다. 128 GB Strix Halo는 103 GB 빌드를 수용합니다; 근무역 수준의ものは 두 번째 머신이 필요하며, 해당 분산 경로는 llama.cpp RPC를 통해 실행되며 자체 관리자들이 개념 증명이라고 설명합니다. 여기서 처리량은 용량이 아닌 메모리 대역폭에 의해 제한됩니다. 13B 활성 파라미터 수가 유리하게 작용합니다: 모든 284B 파라미터가 메모리에 상주해야 하지만 토큰당 연산은 작게 유지됩니다.

24 GB GPU로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

아니요. 가장 작은 게시 빌드가 92 GB이므로, 어떤 양자화에서도 단일 소비자 카드는 범위 내에 있지 않으며, 그만큼의 가중치를 시스템 RAM으로 오프로딩하면 Flash를 실행할 가치가 있는 속도를 포기하게 됩니다. 대신 DeepSeek-R1 distill을 사용하세요 — 그것들은 GPU 한 대에 맞게 설계되었습니다.

R1 및 V3 패밀리

V4.1-Flash가 이전의 모든 DeepSeek 옵션을 대체하지는 않습니다. R1 distill은 작은 하드웨어에 대한 실용적인 선택으로 남아 있습니다. 전체 R1과 V3 라인은 이미 671B급 서빙 클러스터를 운영 중일 때 유용합니다.

모델	가용성 및 로컬 경로	라이선스
R1 distills	Ollama, LM Studio, vLLM 또는 SGLang; 머신 1대에 맞는 크기를 선택	Qwen 기반 distill은 MIT; Llama 기반 태그는 Llama 약관
Full DeepSeek-R1 / R1-0528	다중 GPU 서버	MIT
DeepSeek-V3 / V3.1	다중 GPU 서버; V3.1은 Ollama 태그 보유	MIT
DeepSeek-V3.2	공식 Hugging Face 체크포인트; 다중 GPU 서버	MIT

Distill 크기, 컨텍스트 및 설정 조언은 DeepSeek-R1을 참조하세요. 더 큰 모델의 메모리 계산은 어떤 크기의 모델이 GPU에 맞나요?를 참조하세요.

Tokios로 DeepSeek 배포 연결하기

선택한 런타임이 정상 상태가 되면, 런타임 엔드포인트와 같은 머신에 커넥터를 설치하세요. 커넥터는 Tokios로 외부 연결하며, 인바운드 포트를 노출하지 않습니다. V4 클러스터의 경우, 클러스터의 OpenAI 호환 /v1 엔드포인트에 접근할 수 있는 헤드 노드에서만 커넥터를 실행하세요.

Keep your local runtime running

vLLM 또는 SGLang에서 DeepSeek V4.1-Flash를 시작하고 루프백에 바인딩된 상태로 두세요. V4-Flash-0731의 경우, 하드웨어 가이드의 서빙 레시피를 사용하세요.

Pair the Tokios connector

먼저 tokios.com/console에서 로그인하고, Setup 탭을 연 다음, Start pairing을 클릭하여 일회용 페어링 코드(TKS-XXXX-XXXX)를 받으세요. 모델을 실행하는 머신에서 설치 프로그램을 실행하세요:

Windows

irm https://tokios.com/downloads/install/windows | iex; tokios-install -Code 'TKS-XXXX-XXXX'

macOS

curl -fsSL https://tokios.com/downloads/install/macos | sh -s -- --code TKS-XXXX-XXXX

Linux

curl -fsSL https://tokios.com/downloads/install/linux | sh -s -- --code TKS-XXXX-XXXX

그런 다음 approve하고 Setup 또는 Connectors 탭에서 확인하세요.

그 다음 Models 탭에서 공개 배포 이름 아래에 업스트림 모델 id를 등록하세요. V4.1-Flash의 경우 deepseek-flash를 등록하고 deepseek-ai/DeepSeek-V4.1-Flash에 매핑하세요. V4-Flash-0731의 경우 deepseek-v4-flash를 등록하고 deepseek-ai/DeepSeek-V4-Flash-0731에 매핑하세요. 클라이언트는 로컬 id가 아닌 배포 이름을 model 필드로 전송합니다.

Create an API key

마지막으로 Keys 탭에서 Create key를 클릭하세요. sk-tok-… 키를 지금 복사하세요 — 한 번만 표시됩니다.

어디에서든 호출하기

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-flash",
    "stream": true,
    "messages": [
      {"role": "system", "content": "You are a helpful coding assistant."},
      {"role": "user", "content": "Audit this repository and propose a phased refactor."}
    ]
  }'

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model deepseek-flash

주의 사항

벤치마크는 벤더 보고입니다. DeepSeek는 릴리스일에 V4.1-Flash 비교를 게시했습니다. 독립 평가가 나올 때까지 점수를 확정된 것으로 보지 마세요.
하드웨어 요구 사항은 추정치입니다. V4.1-Flash의 특정 양자화 크기는 아직 게시되지 않았습니다. 하드웨어 적합성 표는 표준 계산(파라미터 × 가중치당 바이트)을 사용합니다. 하드웨어를 확정하기 전에 현재 GGUF 빌드는 모델 카드를 확인하세요.
V4.1-Flash 런타임 지원은 새롭습니다. Causal-Encoder-Decoder 아키텍처는 이전 DeepSeek 릴리스와 다릅니다. vLLM과 SGLang 지원은 예상되지만 확인되지 않았습니다. Ollama와 LM Studio는 보류 중입니다.
모든 552B 파라미터가 메모리에 상주합니다. 비대칭 아키텍처(8B/16B 활성)는 토큰당 연산을 줄이지, 메모리를 줄이지 않습니다. 활성 수와 관계없이 모든 전문가 가중치가 로드된 상태로 유지되어야 합니다.
MIT 라이선스는 허용적입니다. 가중치는 상업적 사용을 허용하며 수용 가능한 사용 정책이나 사용자 수 임계값이 없지만, 구축 전에 라이선스를 직접 읽어보세요.

FAQ

How much VRAM does DeepSeek V4.1-Flash need?

V4.1-Flash는 552B 파라미터 모델입니다. 특정 양자화 크기는 작성 시점 아직 게시되지 않았습니다. 비대칭 아키텍처(8B/16B 활성)와 3.9× 더 작은 KV 캐시(토큰당 890바이트)는 V4-Flash-0731과 유사한 하드웨어(빌드에 따라 110–169 GB)에 적합할 수 있음을 시사하지만, 현재 GGUF 빌드와 메모리 요구 사항은 모델 카드를 확인하세요. NVIDIA NVFP4 변형은 감소된 메모리를 위해 Blackwell/Hopper GPU를 FP4 정밀도로 대상으로 합니다.

How much VRAM does DeepSeek-V4-Flash-0731 need?

가져오는 빌드에 따라 약 110 GB에서 169 GB 사이입니다. 3-bit UD-IQ3_XXS는 디스크에서 103 GB이고 110~135 GB의 메모리가 필요하므로, 단일 128 GB 통합 메모리 머신에 적합합니다. 근무역 UD-Q4_K_XL은 155 GB이고 무손실 UD-Q8_K_XL은 162 GB로, 둘 다 하나 이상의 머신이 필요합니다. 모든 284B 파라미터는 13B 활성 수와 관계없이 메모리에 상주합니다.

Is DeepSeek V4.1-Flash free to use?

가중치는 MIT 라이선스로, 이 정도로 유능한 모델에게는 비정상적으로 허용적이며 상업적 사용을 허용합니다. 무료로 사용하는 것과 무료로 실행하는 것은 다릅니다: 552B 파라미터 수는 상당한 하드웨어 요구 사항을 의미합니다. DeepSeek는 자체 호스팅을 원하지 않는 경우 유료 호스트 API도 운영합니다.

Is DeepSeek-V4-Flash-0731 free to use?

가중치는 MIT 라이선스로, 이 정도로 유능한 모델에게는 비정상적으로 허용적이며 상업적 사용을 허용합니다. 무료로 사용하는 것과 무료로 실행하는 것은 다릅니다: 가장 작은 빌드라도 92 GB이므로, 하드웨어가 실제 비용입니다. DeepSeek는 자체 호스팅을 원하지 않는 경우 유료 호스트 API도 운영합니다.

What is the difference between V4.1-Flash and V4-Flash-0731?

V4.1-Flash가 V4-Flash-0731을 6가지 주요 개선 사항으로 대체합니다: 네이티브 비전 기능(텍스트 + 이미지 입력), 비대칭 아키텍처(입력에 8B 활성, 출력에 16B 활성 — 13B만 활성인 0731과 달리), 3.9× 더 작은 KV 캐시(토큰당 890바이트), 1/4 HBM 풋프린트, 1/8 SSD 풋프린트, 그리고 약 75.5% 낮은 운영 비용. V4.1-Flash는 0731을 선택된 8개 벤치마크 모두에서 초과하며, DeepSeek API는 이제 이전 deepseek-v4-flash 라우트를 V4.1-Flash로 리디렉션합니다.

Can I run DeepSeek V4.1-Flash with Ollama?

작성 시점 아직 아닙니다. Causal-Encoder-Decoder 아키텍처가 새로우며, 런타임 지원은 안정화에 시간이 걸립니다. vLLM과 SGLang 지원은 예상되지만 확인되지 않았습니다. 현재 사용 가능 여부는 Ollama 라이브러리를 확인하세요. V4-Flash-0731의 경우, R1 distill과 DeepSeek-V3.1은 Ollama 태그가 있습니다 — DeepSeek-R1을 참조하세요.

Can I run DeepSeek-V4-Flash-0731 with Ollama?

문서화된 경로로는 아닙니다. Unsloth의 가이드는 분할 GGUF 파일을 사용하여 llama.cpp를 통해 0731 체크포인트를 구동하며, 메인라인 llama.cpp는 V4 아키텍처 지원을 포함합니다. 로컬 태그가 존재한다고 가정하기보다 현재 사용 가능 여부는 Ollama 라이브러리를 확인하세요. R1 distill과 DeepSeek-V3.1은 Ollama 태그가 있습니다 — DeepSeek-R1을 참조하세요.

What is the difference between V4 Flash and an R1 distill?

규모와 목적입니다. V4.1-Flash는 현재 552B 혼합 전문가 릴리스로, 네이티브 비전, 1M 토큰 컨텍스트, 비대칭 8B/16B 활성 파라미터를 갖추었으며, 멀티모달 및 에이전트 작업을 위한 다중 GPU 시스템을 목표로 합니다. V4-Flash-0731은 대체된 284B 릴리스입니다. R1 distill은 능력을 도달 가능성으로 교환하는 소형 밀집 모델입니다. 하드웨어가 24 GB 카드라면, distill은 타협이 아니라 — 두 가지 중 실행 가능한 유일한 옵션입니다.

How do I reach a DeepSeek deployment from another machine?

로컬에서 서빙한 다음, 런타임이 있는 머신에서 Tokios 커넥터를 페어링하세요 — 클러스터의 경우 헤드 노드에서만. 커넥터는 외부로 연결하므로 GPU가 있는 박스는 인바운드 포트가 필요 없습니다. 클라이언트는 https://api.tokios.com/v1을 sk-tok-… 키와 model 필드의 배포 이름으로 호출합니다.

V4 Flash 로컬 하드웨어

2× RTX PRO 6000, 2× DGX Spark, 2× Strix Halo 시스템을 V4-Flash-0731과 비교합니다.

DeepSeek-R1

더 작은 하드웨어에서 R1 추론 distill을 선택하고 실행하세요.

작업별 모델 선택

추론, 코딩 및 에이전트 작업을 위한 로컬 모델을 비교합니다.

GPU에 맞는 모델 매칭

가중치, 캐시 및 양자화 메모리 요구 사항을 이해하세요.

시작하기

모델

개념

참고

DeepSeek V4.1-Flash: 최신 DeepSeek를 로컬에서 실행하기

DeepSeek 라인업

어떤 DeepSeek를 실행해야 할까요?

DeepSeek V4.1-Flash

V4-Flash-0731 대비 새로운 점

NVIDIA NVFP4 변형

서빙 지원

V4.1-Flash 식별자

기능

하드웨어 적합성

실행하기

DeepSeek-V4-Flash-0731 (대체됨)

V4-Flash-0731은 GPT-5.6과 얼마나 가까운가?

V4-Flash-0731의 로컬 경로

V4-Flash-0731의 양자화 크기

DGX Spark로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

Strix Halo로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

24 GB GPU로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

R1 및 V3 패밀리

Tokios로 DeepSeek 배포 연결하기

어디에서든 호출하기

주의 사항

FAQ

V4 Flash 로컬 하드웨어

DeepSeek-R1

작업별 모델 선택

GPU에 맞는 모델 매칭

​DeepSeek 라인업

​어떤 DeepSeek를 실행해야 할까요?

​DeepSeek V4.1-Flash

​V4-Flash-0731 대비 새로운 점

​NVIDIA NVFP4 변형

​서빙 지원

​V4.1-Flash 식별자

​기능

​하드웨어 적합성

​실행하기

​DeepSeek-V4-Flash-0731 (대체됨)

​V4-Flash-0731은 GPT-5.6과 얼마나 가까운가?

​V4-Flash-0731의 로컬 경로

​V4-Flash-0731의 양자화 크기

​DGX Spark로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

​Strix Halo로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

​24 GB GPU로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

​R1 및 V3 패밀리

​Tokios로 DeepSeek 배포 연결하기

​어디에서든 호출하기

​주의 사항

​FAQ

V4 Flash 로컬 하드웨어

DeepSeek-R1

작업별 모델 선택

GPU에 맞는 모델 매칭

DeepSeek 라인업

어떤 DeepSeek를 실행해야 할까요?

DeepSeek V4.1-Flash

V4-Flash-0731 대비 새로운 점

NVIDIA NVFP4 변형

서빙 지원

V4.1-Flash 식별자

기능

하드웨어 적합성

실행하기

DeepSeek-V4-Flash-0731 (대체됨)

V4-Flash-0731은 GPT-5.6과 얼마나 가까운가?

V4-Flash-0731의 로컬 경로

V4-Flash-0731의 양자화 크기

DGX Spark로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

Strix Halo로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

24 GB GPU로 DeepSeek-V4-Flash-0731을 실행할 수 있나요?

R1 및 V3 패밀리

Tokios로 DeepSeek 배포 연결하기

어디에서든 호출하기

주의 사항

FAQ