https://api.tokios.com/v1 키와 함께 sk-tok-…을 지목하면, big-AGI는 사용자가 구성한 다른 제공자들과 함께 사용자의 자체 하드웨어에서 실행 중인 모델과 통신합니다.
전제 조건
커넥터 페어링 완료
big-AGI가 도달해야 할 모델 옆에
tokios-connector를 설치하고 페어링합니다.모델 등록 완료
해당 모델에 대한 배포(공개 이름)를 등록합니다.
API 키 생성 완료
해당 배포에 범위가 한정된
sk-tok-… 키를 생성합니다.지원되는 백엔드
로컬 백엔드(Ollama, llama.cpp, vLLM, LM Studio)가 실행 중인지 확인합니다.
Tokios를 커스텀 엔드포인트로 추가
1
모델 구성 열기
big-AGI의 Models 설정을 열고 소스를 추가합니다. OpenAI-compatible 벤더(커스텀 OpenAI 스타일 엔드포인트 옵션)를 선택합니다. 정확한 메뉴 경로와 라벨은 big-AGI 버전에 따라 다르므로, 실행 중인 버전과 일치하는지 확인하십시오.
2
API 호스트 및 키 설정
Tokios 엔드포인트와 키를 입력합니다:호스트에
/v1을 포함합니다.3
배포 로드
big-AGI는 엔드포인트에서 모델을 자동으로 감지합니다. Tokios가
GET /v1/models를 구현하므로, 등록한 배포(예: gemma-tunnel)가 선택용으로 표시됩니다. 모델이 목록에 없으면 Keys 탭에서 키가 해당 배포에 범위가 한정되어 있는지 확인합니다.자체 호스팅된 big-AGI의 경우, 환경 변수로 동일한 값을 설정할 수 있습니다 —
OPENAI_API_HOST=https://api.tokios.com/v1 및 OPENAI_API_KEY=sk-tok-YOUR_KEY. 실제 키를 버전 관리 시스템이나 공유 구성에 절대 커밋하지 마십시오.단일 프론트엔드, 어디서든 모델 사용
big-AGI는 여러 제공자와 동시에 통신하도록 설계되었습니다. Tokios를 커스텀 OpenAI 호환 엔드포인트 중 하나로 추가하면, 자체 로컬 모델이 다른 모든 항목과 나란히 배치됩니다 — 해당 모델 옆의 커넥터가 Tokios로 아웃바운드를 연결하고, big-AGI는 인바운드 포트나 VPN 없이https://api.tokios.com/v1에서 이를 도달합니다.
문제 해결
401 오류
401 오류
big-AGI가 보낸 API 키가 누락되었거나, 형식이 잘못되었거나, 취소되었습니다. 추가 공백 없이 전체
sk-tok-… 키를 사용했는지 확인하고, Keys 탭에서 상태를 확인하십시오.모델 목록이 비어 있음
모델 목록이 비어 있음
big-AGI는
GET /v1/models에서 모델을 채웁니다. Models 탭에 최소 하나의 배포가 등록되어 있고, 키의 범위에 해당 배포가 포함되어 있는지 확인하십시오. 호스트가 https://api.tokios.com/v1인지 확인합니다.503 오류
503 오류
해당 배포의 커넥터가 오프라인이거나 동시성 한도에 도달했습니다. Connectors 탭을 확인하십시오 — 커넥터는 Online로 표시되어야 하며, 이를 실행하는 머신이 여전히 가동 중이고 도달 가능해야 합니다.
다음 단계
호환 클라이언트
다른 OpenAI 및 Anthropic 호환 클라이언트의 기본 URL 및 키 설정을 참조하십시오.
API 키
팀원 및 에이전트를 위한
sk-tok-… 키를 생성, 범위 한정 및 순환합니다.