메인 콘텐츠로 건너뛰기
Chatbox는 데스크톱 앱과 모바일 앱을 갖춘 크로스플랫폼 채팅 클라이언트입니다. 데스크톱(및 Android)에서는 Tokios를 사용자 정의 OpenAI API 호환 제공자로 추가할 수 있습니다. 호스트를 https://api.tokios.com으로 설정하고 sk-tok-… 키를 붙여넣은 후 Tokios 배포 이름을 모델로 사용하면, Chatbox는 호스팅 제공자가 아닌 다른 하드웨어에서 실행되는 모델과 통신하게 됩니다.
이 페이지는 데스크톱 및 Android용 Chatbox를 다룹니다. iOS용 Chatbox에는 WKWebView 네트워킹 경로에서 CORS 사전 요청(preflight) 문제로 인해 Bearer API 키를 사용하는 사용자 정의 OpenAI 호환 엔드포인트가 실패하는 알려진 버그가 있습니다 (chatboxai/chatbox#3516). iPhone 또는 iPad를 사용하는 경우, 대신 해당 기기에서 작동하는 앱에 대해 전화기에서 로컬 모델 사용을 참조하십시오.

사전 요구 사항

커넥터 페어링 완료

Chatbox가 접근하려는 모델 옆에 tokios-connector를 설치하고 페어링하십시오.

모델 등록 완료

해당 모델에 대한 배포(공개 이름)를 등록하십시오.

API 키 생성 완료

다음 sk-tok-… 키를 생성하고, 선택적으로 해당 배포에 범위를 제한하십시오.

지원되는 백엔드

로컬 백엔드(Ollama, llama.cpp, vLLM, LM Studio)가 실행 중인지 확인하십시오.

Chatbox에 Tokios를 사용자 정의 제공자로 추가

1

Chatbox의 모델 설정 열기

Chatbox에서 Settings → Model을 엽니다.
2

사용자 정의 제공자 추가

다음에서 Add Custom Provider를 클릭하고 API 모드로 OpenAI API Compatible을 선택합니다.
3

API 호스트, 경로 및 키 설정

제공자 필드를 채웁니다. Chatbox는 완성(completions) 경로를 자체적으로 추가하므로, /v1이 없는 기본 호스트만 입력하십시오:
이는 대부분의 OpenAI 호환 클라이언트와 반대입니다. Chatbox의 자체 문서에 따르면 API 경로는 기본적으로 /v1/chat/completions이며 입력한 호스트에 추가됩니다. 여기에 https://api.tokios.com/v1을 붙여넣으면 Chatbox가 잘못된 경로를 호출하게 됩니다.
4

배포를 모델로 추가

다음과 같이 공개 배포 이름을 Models 탭에서 등록한 이름으로 입력합니다(예: gemma-tunnel). Chatbox가 자동으로 목록에 표시하지 않으면 모델 이름을 수동으로 입력하십시오. 이는 Chatbox가 model 필드에서 전송하는 값이며, Ollama, llama.cpp, vLLM 또는 LM Studio의 로컬 모델 ID가 아닙니다.
다음 값을 교체하십시오. gemma-tunnel은 등록한 배포 이름으로, sk-tok-YOUR_KEY는 본인의 키로 교체하십시오. 이 둘 중 어느 것도 공유 구성 파일에 커밋하지 마십시오.

Android에서의 동일한 설정

Chatbox의 Android 앱은 동일한 Add Custom Provider → OpenAI API Compatible 흐름을 사용하며, https://api.tokios.com이 없는 동일한 기본 호스트 /v1 값을 사용합니다. 위의 iOS CORS 문제는 Android에는 영향을 미치지 않습니다.

문제 해결

Chatbox가 전송한 API 키가 누락되었거나 형식이 잘못되었거나 취소되었습니다. 추가 공백 없이 전체 sk-tok-… 키를 붙여넣었는지 확인하고, Keys 탭에서 상태를 확인하십시오.
Chatbox가 전송한 모델 값이 등록된 배포와 일치하지 않습니다. Chatbox의 모델 이름이 Models 탭의 공개 이름과 정확히 일치하는지 확인하십시오. 이는 Ollama/llama.cpp/vLLM/LM Studio의 로컬 모델 ID가 아닙니다. 또한 API 호스트에 /v1을 추가하여 Chatbox가 잘못된 경로를 호출한 경우에도 동일한 오류가 발생합니다.
해당 배포의 커넥터가 오프라인 상태이거나 동시성 한도에 도달했습니다. Connectors 탭을 확인하십시오. 커넥터는 Online로 표시되어야 하며, 실행 중인 머신은 여전히 가동 중이고 접근 가능해야 합니다.
이는 Bearer 키를 사용하는 사용자 정의 OpenAI 호환 엔드포인트가 CORS 사전 요청 확인에서 실패하는 알려진 Chatbox iOS 버그(#3516)와 일치합니다. 이는 Tokios 측의 문제가 아닙니다. 데스크톱 또는 Android에서 Chatbox를 사용하거나, iOS 친화적인 클라이언트에 대해 전화기에서 로컬 모델 사용을 참조하십시오.

다음 단계

빠른 시작

커넥터를 설정하고, 배포를 등록하며, 첫 번째 키를 생성하십시오.

호환 클라이언트

다른 OpenAI 및 Anthropic 호환 클라이언트의 기본 URL 및 키 설정을 확인하십시오.