메인 콘텐츠로 건너뛰기
선택 기준으로 선택하세요, 이번 주 유행하는 이름이 아니라: 에이전트를 실행한다면 네이티브 도구 호출 지원, VRAM 예산에 맞는 컨텍스트 윈도우, 라이선스, 그리고 모델이 지침을 얼마나 잘 따르는지. DeepSeek의 경우 현재 평가할 체크포인트는 deepseek-ai/DeepSeek-V4-Flash-0731이며, R1 디스트일은 하드웨어가 V4 가중치 최소 요구량을 충족하지 못할 때만 사용하세요.
특정 모델명과 버전 번호는 빠르게 구식이 됩니다 — 이번 분기에 최첨단이었던 모델도 몇 달 내에 대체될 수 있습니다. 아래 표를 모델 계열과 선택 기준을 파악하는 출발점으로 삼고, 출처 링크를 따라가며, 하드웨어에 투자하기 전에 각 계열의 현재 최적 릴리스를 다시 확인하세요.

​
Match the task to a family

Tokios는 현재 게이트웨이에서 임베딩을 제공하지 않습니다 — API 표면은 채팅 및 메시지 엔드포인트만 커버합니다. 위의 임베딩 항목은 Tokios 배포를 통하지 않고 백엔드에서 직접 로컬로 실행할 모델을 선택하기 위한 것입니다.
대상 DeepSeek-V4-Flash-0731 체크포인트는 로컬 하드웨어 가이드부터 시작하세요. 1M 토큰 사양이 모든 로컬 구성이 해당 컨텍스트 길이에 충분한 KV-캐시 용량을 갖는다는 의미는 아닙니다.

​
Choosing a model for agents specifically

코딩 에이전트와 기타 도구를 사용하는 클라이언트는 채팅 UI보다 까다롭습니다. 세 가지 기준을 사용하세요:
  1. 네이티브 도구/함수 호출. 에이전트 루프는 모델이 클라이언트가 파싱할 수 있는 구조화된 도구 호출을 반환하는지에 의존합니다. DeepSeek-V4-Flash-0731은 이 워크로드에 대한 현재 DeepSeek 옵션입니다. 사용할 서빙 런타임, 추론 강도, 채팅 인코딩으로 정확히 검증하세요.
  2. 최소 32–64K, 이상적으로 128K 이상의 컨텍스트 윈도우. 에이전트는 턴마다 파일 내용, diffs, 도구 출력을 축적하므로 짧은 컨텍스트는 금방 찹니다. 모델 가중치 위에 목표 컨텍스트 길이에 대한 KV 캐시용 VRAM을 확보하세요 — Fit a model to your GPU or unified memory를 참조하세요.
  3. 지침 따르기, 구조화된 출력, 그리고 관대한 라이선스. Apache-2.0 계열인 Qwen3와 gpt-oss는 라이선스 마찰 없이 도입하기 쉽습니다.
예를 들어 Roo Code 같은 클라이언트는 네이티브 도구 호출을 필수로 요구합니다. 기본 모델이 이를 지원하지 않으면, 클라이언트는 응답을 작업으로 파싱할 수 없고 진전 대신 같은 단계를 재시도합니다 — 이것은 모델의 한계이며 Tokios나 커넥터 문제가 아닙니다.

​
Fit it to your hardware

올바른 계열을 선택하는 것은 결정의 절반일 뿐입니다 — 모델은 실제로 가진 VRAM이나 통합 메모리에, 필요한 컨텍스트 길이로 맞아야 합니다. 매개변수 수와 양자화별 크기 추정치는 Fit a model to your GPU or unified memory를 참조하세요. 결정의 워크플로우, 백엔드, 명명 측면 — 어떤 백엔드를 실행할지, 등록 후 배포 이름을 무엇으로 할지 — 는 Choose a local model and backend를 참조하세요.

​
Once you’ve picked one

Tokios는 사용자를 대신해 모델을 선택하지 않습니다; 실행 중인 모델에 어디서든 호출할 수 있는 안정적인 배포 엔드포인트를 부여합니다.

Register your deployment

선택한 모델을 공개 이름과 API 키가 있는 Tokios 배포로 전환하세요.

Compare candidates

하나로 정하기 전에 두 개 이상의 배포를 나란히 테스트하세요.