https://api.tokios.com/v1로 설정하고 sk-tok-… 키를 사용하면, 기본 호스팅 API 대신 사용자의 자체 하드웨어에서 실행되는 모델과 LobeChat이 대화할 수 있습니다.
전제 조건
커넥터 페어링 완료
LobeChat이 접근할 모델 옆에
tokios-connector를 설치하고 페어링합니다.모델 등록 완료
해당 모델에 대한 배포(공개 이름)를 등록합니다.
API 키 생성 완료
해당 배포에 범위를 한정할 수 있는
sk-tok-… 키를 생성합니다.지원되는 백엔드
로컬 백엔드(Ollama, llama.cpp, vLLM, LM Studio)가 실행 중인지 확인합니다.
옵션 A — 앱 내에서 구성하기
1
OpenAI 제공자 설정 열기
LobeChat에서 Settings → Language Model → OpenAI로 이동합니다. 제공자를 활성화합니다.
2
API 키 및 프록시 주소 설정
키를 입력하고 프록시 주소를 Tokios로 지정합니다:해당 API Proxy Address는 LobeChat의 기본 URL 재정의 항목입니다 —
/v1을 포함해야 합니다.3
모델로 배포 추가하기
모델을 추가할 때 공개 배포 이름을 Models 탭에서 등록한 이름으로 사용하십시오(예:
gemma-tunnel). 이는 백엔드의 로컬 모델 ID가 아니라, LobeChat이 model 필드에서 전송하는 값입니다.옵션 B — 환경 변수로 구성하기
LobeChat을 셀프 호스팅하는 경우(예: Docker 사용), 앱 내 필드 대신 다음 환경 변수를 설정합니다:.env
OPENAI_PROXY_URL은 기본 URL을 재정의합니다(/v1 포함), OPENAI_MODEL_LIST=+gemma-tunnel은 모델 선택기에 배포를 추가합니다. 정확한 변수 이름은 LobeChat 릴리스 간에 변경될 수 있으므로, 사용 중인 버전의 셀프 호스팅 모델 제공자 문서를 참고하여 확인하십시오.
호스팅 UI, 홈 모델
LobeChat을 브라우저, VPS, 또는 컨테이너 등 편리한 곳에서 실행해도, 여전히 사용자의 홈 머신에 있는 모델에 접근할 수 있습니다. 해당 모델 옆의 커넥터가 Tokios로 아웃바운드를 연결하고, LobeChat은 키와 함께https://api.tokios.com/v1을 호출합니다. 백엔드를 0.0.0.0에 바인딩하거나, 인바운드 포트를 열거나, VPN을 설정할 필요가 없습니다.
문제 해결
401 오류
401 오류
LobeChat이 전송한 API 키가 누락되었거나, 형식이 잘못되었거나, 취소되었습니다. 키(앱 내 또는
OPENAI_API_KEY)가 추가 공백 없이 전체 sk-tok-… 값인지 확인하고, Keys 탭에서 상태를 확인하십시오.404 오류
404 오류
모델 값이 등록된 배포와 일치하지 않거나, 프록시 주소에
/v1이 누락되었습니다. 모델 이름이 Models 탭의 공개 이름과 일치하는지, 주소가 https://api.tokios.com/v1인지 확인하십시오.503 오류
503 오류
해당 배포의 커넥터가 오프라인 상태이거나 동시성 한도에 도달했습니다. Connectors 탭을 확인하십시오 — 커넥터는 Online로 표시되어야 하며, 실행 중인 머신이 여전히 가동 중이고 접근 가능해야 합니다.
다음 단계
호환 클라이언트
다른 OpenAI 및 Anthropic 호환 클라이언트의 기본 URL 및 키 설정을 확인합니다.
API 키
동일한 LobeChat 인스턴스를 사용하는 팀원을 위해 별도의 범위 한정 키를 생성합니다.