로컬 모델을 Tokios에 연결하기

Tokios는 아웃바운드 전용 터널을 통해 사설 모델에 접근합니다. 즉, 사용자의 기기에서는 인바운드 트래픽을 수신 대기하는 것이 없습니다. 이 빠른 시작 가이드에서는 3가지 주요 단계를 안내합니다. 런타임을 연결하고, 터널이 작동하는지 확인한 후 클라이언트를 연결합니다. 먼저 tokios.com/console에서 로그인한 후 Setup 탭을 엽니다. (처음 사용하시나요? 확인 링크에서 이메일을 확인하세요. 링크는 24시간 동안 유효합니다.)

단계 1: 런타임 연결

커넥터를 설치하고 모델을 등록하여 Tokios가 모델에 접근할 수 있도록 합니다.

커넥터 페어링

먼저 Setup 탭에서 커넥터에 이름을 선택적으로 부여한 후 Start pairing을 클릭합니다. Tokios는 일회용 페어링 코드(예: TKS-XXXX-XXXX)를 표시하며, 약 15분간 유효합니다.페어링 코드는 페어링 핸들입니다. 이 코드는 API 키가 아닙니다(API 키는 단계 3에서 생성합니다).

커넥터 설치 및 승인

모델이 실행 중인 기기에서 콘솔에 표시된 운영 체제에 맞는 설치 원라인을 실행합니다.

irm https://tokios.com/downloads/install/windows | iex; tokios-install -Code 'TKS-XXXX-XXXX'

curl -fsSL https://tokios.com/downloads/install/macos | sh -s -- --code TKS-XXXX-XXXX

curl -fsSL https://tokios.com/downloads/install/linux | sh -s -- --code TKS-XXXX-XXXX

이미 tokios-connector가 설치되어 있나요? 설치기를 건너뛰고 페어링 코드를 직접 전달합니다.

Already installed

tokios-connector TKS-XXXX-XXXX

커넥터는 단일 WebSocket을 통해 아웃바운드로 연결합니다. 인바운드 포트나 공용 IP가 필요하지 않습니다. 콘솔로 돌아가서 기기를 approve합니다. 토큰은 터널을 통해 안전하게 전달되며, 파일에 붙여 넣을 필요가 없습니다.

모델 등록

먼저 Models 탭에서 노출할 모델과 클라이언트가 사용할 공개 이름을 선택합니다. 예를 들어 gemma-tunnel과 같습니다. 이 공개 이름은 모든 API 요청에서 "model" 값으로 사용됩니다.

성공 상태: 모델이 활성 커넥터와 함께 Models 탭에 표시됩니다. 터널이 활성화되었지만 아직 테스트하지는 않았습니다.

단계 2: 종단 간 연결 확인

API 키를 생성하기 전에 Playground에서 테스트합니다. 이를 통해 터널과 모델이 함께 작동하는지 확인할 수 있습니다.

Playground에서 테스트

먼저 Playground 탭을 열고 모델을 선택한 후 프롬프트를 입력하고 Run을 클릭합니다. Playground는 현재 세션으로 인증하므로 API 키가 필요하지 않습니다. 이를 통해 클라이언트를 설정하기 전에 터널이 작동하는지 확인할 수 있습니다.성공 상태: Tokios 엔드포인트를 통해 로컬 모델로부터 응답을 받습니다. Playground가 완료를 반환하면 터널이 정상적으로 작동하며 클라이언트 연결 준비가 완료된 것입니다.

Playground가 시간 초과되면 로컬 모델이 실행 중인지 확인하고 콘솔에서 커넥터가 Connected로 표시되는지 확인합니다. 일반적인 해결 방법은 문제 해결을 참조하세요.

단계 3: 클라이언트 연결

API 키를 생성하고 코딩 에이전트를 Tokios를 가리키도록 설정합니다.

API 키 생성

먼저 Keys 탭에서 Create key를 클릭합니다. 표시 이름을 부여하고 선택적으로 범위를 제한할 모델 패턴을 지정합니다(모든 모델을 허용하려면 *를 그대로 둡니다). sk-tok-… 키를 즉시 복사합니다. 이 키는 한 번만 표시됩니다.

클라이언트 설정 및 테스트

클라이언트를 선택합니다. 각 클라이언트는 해당 방언에 맞는 기본 URL, sk-tok-… 키, 공개 모델 이름이 필요합니다.

Anthropic 스타일 (Claude Code): https://api.tokios.com
OpenAI 스타일 (Codex, OpenAI SDK): https://api.tokios.com/v1

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model gemma-tunnel

export OPENAI_API_KEY=sk-tok-YOUR_KEY
# add a Tokios provider to ~/.codex/config.toml:
#   base_url = "https://api.tokios.com/v1"  ·  wire_api = "responses"
codex --profile tokios

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-tunnel",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

클라이언트별 전체 설정: Claude Code · OpenAI Codex.성공적인 호출은 클라이언트의 방언에 맞게 구성된 완료를 반환합니다. 위의 curl 예시의 경우, OpenAI 형식의 응답이 반환됩니다(축약됨).

{
  "model": "gemma-tunnel",
  "choices": [
    {
      "message": { "role": "assistant", "content": "Hello! How can I help?" },
      "finish_reason": "stop"
    }
  ]
}

성공 상태: 클라이언트가 Tokios를 통해 로컬 모델과 통신합니다. 응답은 클라우드 제공자가 아닌 사용자의 자체 하드웨어에서 반환됩니다.

다음 단계

Claude Code와 함께 사용

Claude Code를 Tokios를 가리키도록 설정하고 자체 로컬 모델에 대해 코딩 에이전트를 실행합니다.

더 많은 모델 노출

구성 파일을 사용하여 하나의 커넥터를 통해 여러 모델을 제공합니다.

시작하기

모델

개념

참고

로컬 모델을 Tokios에 연결하기

단계 1: 런타임 연결

단계 2: 종단 간 연결 확인

단계 3: 클라이언트 연결

다음 단계

Claude Code와 함께 사용

더 많은 모델 노출

​단계 1: 런타임 연결

​단계 2: 종단 간 연결 확인

​단계 3: 클라이언트 연결

​다음 단계

Claude Code와 함께 사용

더 많은 모델 노출

단계 1: 런타임 연결

단계 2: 종단 간 연결 확인

단계 3: 클라이언트 연결

다음 단계