메인 콘텐츠로 건너뛰기
Msty는 로컬 및 원격 모델과 대화할 수 있는 다듬어진 데스크톱 앱으로, 나란히 여러 모델을 비교하는 채팅 기능으로 유명합니다. Tokios를 OpenAI Compatible 원격 모델 제공자로 추가하고 https://api.tokios.com/v1로 sk-tok-… 키를 설정하면, Msty는 사용자의 자체 하드웨어에서 실행 중인 모델에 접근할 수 있습니다.

​
전제 조건

커넥터 페어링 완료

Msty가 접근하려는 모델 옆에 tokios-connector를 설치하고 페어링합니다.

모델 등록 완료

해당 모델에 대한 배포(공개 이름)를 등록합니다.

API 키 생성 완료

해당 배포에 범위를 한정할 수 있는 sk-tok-… 키를 생성합니다.

지원되는 백엔드

로컬 백엔드(Ollama, llama.cpp, vLLM, LM Studio)가 실행 중인지 확인합니다.

​
원격 모델 제공자로 Tokios 추가

1

원격 모델 제공자 열기

Msty에서 모델 제공자 영역을 열고 Remote Model Provider 추가를 선택합니다. 정확한 라벨과 위치는 Msty 및 Msty Studio 버전에 따라 다를 수 있으니 자신의 버전을 확인합니다.
2

OpenAI Compatible 선택

제공자 유형으로 OpenAI Compatible을 선택합니다.
3

엔드포인트 및 키 설정

제공자 필드를 다음과 같이 입력합니다:
해당 API Endpoint는 /v1로 끝나야 합니다.
4

배포 가져오기 또는 추가

먼저 Fetch Models를 클릭합니다. Tokios는 GET /v1/models를 구현하므로, 등록한 배포(예: gemma-tunnel)가 자동으로 채워집니다. 제공자가 모델을 자동으로 반환하지 않으면 배포 이름을 수동으로 추가합니다. 그런 다음 Add를 클릭하여 제공자를 저장합니다.
예시 gemma-tunnel은 사용자가 등록한 배포 이름으로, sk-tok-YOUR_KEY는 사용자의 고유 키로 대체합니다. Msty가 보내는 모델 이름은 사용자의 공개 배포 이름이며, Ollama, llama.cpp, vLLM 또는 LM Studio의 로컬 모델 ID가 아닙니다.

​
데스크톱 앱, 모델은 다른 곳에

Msty는 데스크톱에서 실행되며, 원하는 모델은 완전히 다른 머신에 있을 수 있습니다. 해당 모델 옆의 커넥터가 Tokios로 아웃바운드 연결을 설정하고, Msty는 https://api.tokios.com/v1 키와 함께 sk-tok-…을 호출합니다 — 인바운드 포트나 VPN이 필요 없습니다. Msty의 다중 모델 채팅은 이제 Tokios 배포와 사용자가 추가한 다른 제공자 간에 작동합니다.

​
문제 해결

Msty가 보낸 API 키가 누락되었거나 형식이 잘못되었거나 취소되었습니다. 추가 공백 없이 전체 sk-tok-… 키를 붙여넣었는지 확인하고, Keys 탭에서 키 상태를 확인합니다.
엔드포인트 또는 키 범위가 잘못되었습니다. API Endpoint가 https://api.tokios.com/v1인지, Models 탭에 배포가 등록되어 있는지, 키의 범위에 해당 배포가 포함되어 있는지 확인합니다.
해당 배포의 커넥터가 오프라인 상태이거나 동시 처리 한도에 도달했습니다. Connectors 탭을 확인합니다 — 커넥터는 Online로 표시되어야 하며, 커넥터를 실행 중인 머신이 여전히 가동 중이고 접근 가능해야 합니다.

​
다음 단계

호환되는 클라이언트

다른 OpenAI 및 Anthropic 호환 클라이언트의 기본 URL 및 키 설정을 참조합니다.

API 키

팀원 및 에이전트를 위한 sk-tok-… 키를 생성, 범위 지정 및 순환합니다.