https://api.tokios.com/v1로 지시하고 sk-tok-… 키를 붙여넣은 후, Tokios 배포 이름을 모델로 사용하면 Jan은 로컬에 설치된 모델이 아닌 다른 머신에서 실행 중인 모델과 통신하게 됩니다.
전제 조건
커넥터 페어링 완료
Jan이 접근하려는 모델 옆에
tokios-connector를 설치하고 페어링합니다.모델 등록 완료
해당 모델에 대한 배포(공개 이름)를 등록합니다.
API 키 생성 완료
해당 배포에 범위가 한정된
sk-tok-… 키를 생성합니다.지원되는 백엔드
로컬 백엔드(Ollama, llama.cpp, vLLM, LM Studio)가 실행 중인지 확인합니다.
Jan에 Tokios를 모델 제공자로 추가하기
1
Jan의 모델 제공자 설정 열기
Jan에서 Settings → Model Providers를 엽니다. 정확한 메뉴 경로 및 라벨은 Jan 버전에 따라 약간 다를 수 있으므로, 실행 중인 버전과 비교하여 확인합니다.
2
OpenAI 호환 제공자 추가
Jan의 OpenAI-compatible 옵션을 사용하여 커스텀 제공자를 추가합니다.
3
기본 URL 및 API 키 설정
Tokios 엔드포인트와 키를 입력합니다:제공자를 저장합니다.
4
배포를 모델로 추가
등록한 공개 배포 이름을 사용하여 Models 탭에서 모델 항목을 추가하십시오 — 예를 들어
gemma-tunnel. 이는 Jan이 model 필드에서 전송하는 값이며, Ollama, llama.cpp, vLLM 또는 LM Studio의 로컬 모델 ID가 아닙니다.예시
gemma-tunnel은 등록한 배포 이름으로, sk-tok-YOUR_KEY는 사용자의 고유 키로 대체합니다. 이 둘 중 어느 것도 공유 구성 파일에 커밋하지 않습니다.노트북 UI, 데스크톱 모델
이 설정이 해결하는 일반적인 시나리오는 다음과 같습니다. Jan이 노트북에 설치되어 있지만, 실제로 사용하려는 모델(해당 노트북이 실행할 수 있는 것보다 더 큰 모델)은 네트워크의 다른 위치나 완전히 다른 장소의 데스크톱 또는 서버에 있습니다. Jan의 온디바이스 모델로 제한되거나 데스크톱의 백엔드를 노트북에 직접 노출시키려 시도하는 대신, 데스크톱의 커넥터가 Tokios로 아웃바운드 연결을 설정하고, 노트북의 Jan은https://api.tokios.com/v1 키와 함께 sk-tok-…을 호출합니다. 이렇게 하면 사용자가 타이핑하는 머신에 로컬로 존재하지 않는 모델과 함께 Jan의 로컬 우선 UI를 사용할 수 있습니다.
문제 해결
401 오류
401 오류
Jan이 전송한 API 키가 누락되었거나, 형식이 잘못되었거나, 취소되었습니다. 추가 공백 없이 전체
sk-tok-… 키를 붙여넣었는지 확인하고, Keys 탭에서 키 상태를 확인합니다.404 오류
404 오류
Jan이 전송한 모델 값이 등록된 배포와 일치하지 않습니다. Jan의 모델 이름이 Models 탭의 공개 이름과 정확히 일치하는지 확인합니다. 이는 Ollama/llama.cpp/vLLM/LM Studio의 로컬 모델 ID가 아닙니다.
503 오류
503 오류
해당 배포의 커넥터가 오프라인 상태이거나 동시 처리 한도에 도달했습니다. Connectors 탭을 확인합니다 — 커넥터는 Online로 표시되어야 하며, 해당 커넥터를 실행 중인 머신은 여전히 가동 중이고 접근 가능해야 합니다.
다음 단계
호환 클라이언트
다른 OpenAI 및 Anthropic 호환 클라이언트의 기본 URL 및 키 설정을 참조합니다.
API 키
팀원 및 에이전트를 위한
sk-tok-… 키를 생성, 범위 지정 및 순환합니다.