provider, model, apiBase를 설정합니다. 해당 apiBase를 https://api.tokios.com/v1로, sk-tok-… 키를, Tokios deployment 이름을 model로 지정하면 Continue는 하나의 인증된 엔드포인트를 통해 로컬 모델에 도달합니다 — LAN에 열린 포트가 필요 없습니다.
전제 조건
- 로컬 모델과 페어링된 실행 중인 Tokios 커넥터 — 참고: Connector install
- 등록된 모델 배포 이름 — 참고: Register a model
- Tokios API 키(
sk-tok-…) — 참고: API Keys - 에디터에 Continue 설치 완료
Continue 구성
1
Open Continue's config file
Continue는 홈 디렉토리에서 YAML 구성을 읽습니다:디렉토리는 앞에 점이 있는
.continue입니다. 이전 Continue 릴리스는 config.json을 사용했습니다 — 해당 파일이 있으면 YAML로 마이그레이션하거나 아래 블록을 해당 버전이 기대하는 JSON 스키마로 변환하세요.2
Add an OpenAI-compatible model block
OpenAI 호환
provider를 사용하는 모델 항목을 추가하고, apiBase를 Tokios로, model을 공개 배포 이름으로 설정합니다 — 예: gemma-tunnel:model은 Models 탭에서 등록한 배포 이름이며, Ollama, llama.cpp, vLLM, LM Studio의 로컬 모델 ID가 아닙니다. 전체 구성 키 목록은 Continue의 구성 문서를 참조하세요.3
Point chat, edit, and autocomplete at the same model
Continue를 사용하면 채팅, 편집, 자동 완성 같은 다양한 역할을 서로 다른 모델에 할당할 수 있습니다. 로컬 모델로 처리할 각 역할에 동일한 각 섹션은 독립적인 모델 목록입니다 — 상단의
Tokios 모델 블록을 참조하세요. tabAutocompleteModel 및 chat 섹션에 모델을 추가하세요:models 블록이 모델을 등록하고, 역할 섹션이 할당합니다. 전체 역할 할당 키 목록은 Continue의 구성 문서를 참조하세요.등록한 배포 이름으로
gemma-tunnel을, 실제 키로 sk-tok-YOUR_KEY를 교체하세요. 둘 다 공유되거나 체크인된 구성 파일에 커밋하지 마세요.Ollama를 0.0.0.0에 바인딩하지 마세요
Continue가 다른 머신의 Ollama 인스턴스에 도달하기 위해 문서화한 방법은 Ollama를 실행하는 머신에서OLLAMA_HOST=0.0.0.0을 설정하고 apiBase를 해당 머신의 LAN IP(예: http://192.168.1.50:11434)로 지정하는 것입니다. 이렇게 하면 Ollama가 모든 네트워크 인터페이스에서 수신하게 되고, Ollama에는 내장 인증이 없으므로 — 네트워크에서 포트에 도달할 수 있는 모든 것이 자격 증명 없이 모델을 나열하고 추론을 실행할 수 있습니다.
Ollama를 127.0.0.1에 유지하고 그 옆에서 Tokios 커넥터를 실행하세요. 커넥터는 https://api.tokios.com으로 외부 연결하며, Ollama는 인바인드 포트를 열지 않고, 모든 요청에는 유효한 sk-tok-… 키가 필요합니다:
- 인증 없는 노출 없음 — LAN이나 머신의 포트로 직접 도달할 필요가 없습니다.
- 어디에서나 동일한
apiBase사용 —https://api.tokios.com/v1은 Continue가 같은 LAN에 있든 완전히 다른 건물에 있든 작동합니다. - 범위 지정된 취소 가능한 키 — Keys 탭에서 유출된 키를 차단할 수 있으며, Ollama나 커넥터를 건드릴 필요가 없습니다.
문제 해결
401 error
401 error
Continue가 전송한 API 키가 없거나, 형식이 잘못되었거나, 취소되었습니다. 구성의
apiKey에 여분의 공백 없이 전체 sk-tok-… 키가 있는지 확인하고, Keys 탭에서 상태를 확인하세요.403 error
403 error
키는 존재하지만
model에서 참조한 배포에 대한 범위가 없거나, 계정이 정지되었습니다. Keys 탭에서 키의 모델 패턴을 확인하세요.404 error
404 error
구성의
model 값이 등록된 배포와 일치하지 않습니다. Models 탭의 공개 이름과 정확히 일치하는지 확인하세요 — Ollama/llama.cpp/vLLM/LM Studio 로컬 모델 ID가 아닙니다.503 error
503 error
해당 배포의 커넥터가 오프라인이거나 동시성 한도에 도달했습니다. Connectors 탭을 확인하세요 — 커넥터가 Online으로 표시되어야 하며, 실행 중인 머신이 여전히 켜져 있고 도달 가능해야 합니다.
다음 단계
Ollama remote access
Ollama를
0.0.0.0에 바인딩하지 않아야 하는 이유, 포트 포워딩 및 터널, 그리고 아웃바운드 전용 대안을 확인하세요.Compatible clients
다른 OpenAI 및 Anthropic 호환 클라이언트의 Base URL 및 키 설정을 확인하세요.