http://127.0.0.1:1234/v1 포트에서 대기하지만 다른 기기에서는 접근할 수 없습니다. LM Studio에는 serve on local network 옵션도 있지만 이는 LAN 전용 기능입니다. 동일 네트워크 내 기기들만 접근 가능하며 인증 기능은 기본적으로 비활성화되어 있습니다. 따라서 LM Studio는 로컬호스트 상태로 두고 Tokios 커넥터를 병행 실행하는 것이 좋습니다. 이 커넥터가 https://api.tokios.com으로 연결되면 여러분의 도구나 팀원, 에이전트들이 어디서든 인증된 단일 엔드포인트를 통해 접속할 수 있습니다.
LM Studio의 네트워크 서비스는 LAN 범위 내에서만 작동합니다
LM Studio의 serve on local network 토글 설명에는 명시적으로 ‘로컬 네트워크’라고 적혀 있습니다. 이 기능을 켜면 서버가 사용자 기기의 네트워크 인터페이스에 바인딩되며127.0.0.1뿐만 아니라 다른 포트도 사용됩니다. 동일 Wi-Fi나 LAN에 있는 기기들만 접근 가능하며 인증 기능은 기본적으로 꺼져 있어 활성화 시 경고 메시지가 뜹니다. 같은 네트워크 내 다른 기기에서 서버에 접근하려는 경우에는 적합하지만, 다른 네트워크에 있는 팀원이나 호스팅된 에이전트, 혹은 인터넷 전반에서 인증된 접근이 필요한 경우에는 적합하지 않습니다.
이는 LM Studio의 로컬 네트워크 서비스 기능을 폄하하는 말이 아닙니다. LAN 내 기기들에 대해서는 명시된 기능을 충실히 수행합니다. Tokios는 전혀 다른 문제를 해결합니다. 인증된 엔드포인트를 어디서든 접근 가능하게 하되 LM Studio 자체를 외부 네트워크에 노출시키지 않는 것이죠. LM Studio는 Ollama, llama.cpp, vLLM와 더불어 Tokios의 주요 백엔드 중 하나입니다.
아웃바운드 전용 방식
1
모델을 로드한 뒤 LM Studio 서버를 실행합니다
LM Studio를 열고 Developer 혹은 Local Server 탭으로 이동한 뒤 모델을 로드한 뒤 서버 실행 버튼을 클릭합니다. serve on local network 기능은 꺼둬도 됩니다. Tokios는 이 기능을 필요로 하지 않으니까요. LM Studio는 기본 설정된
http://127.0.0.1:1234/v1 포트에서 계속 대기합니다.2
Tokios 커넥터를 연동합니다
먼저 tokios.com/console에 로그인하고 Setup 탭을 열어 Start pairing을 클릭하세요. Tokios가 일회성 페어링 코드인 이미 콘솔로 돌아가서 기기를 approve합니다. Setup 또는 Connectors 탭에서 승인할 수 있습니다. 승인이 완료되면 커넥터의 토큰이 터널을 통해 전달되며, 화면에 표시되거나 파일에 직접 입력하는 일은 없습니다.
TKS-XXXX-XXXX를 표시하며, 약 15분 동안 유효합니다.LM Studio가 실행 중인 기기에서 사용 중인 OS에 맞는 설치 명령어를 실행하세요.Windows
macOS
Linux
tokios-connector이 설치되어 있다면 코드를 직접 입력해주시면 됩니다.3
커넥터가 LM Studio의 /v1 API를 가리키도록 설정하세요.
LM Studio에 내장된 서버는 Tokios가 기대하는 OpenAI 호환 인터페이스를 지원합니다. 단일 모델을 사용하는 경우 콘솔의 설정 마법사가 자동으로 업스트림 모델 ID로 다중 모델 환경에서 사용되는 파일 형식에 대해서는 Connector config 문서를 참고하세요.
http://127.0.0.1:1234/v1을 지정합니다. 여러 모델을 tokios-connector.json 설정으로 제공할 때는 업스트림 모델 ID를 BaseUrl로 명시적으로 지정해야 합니다.4
배포 작업을 등록하세요.
먼저 Models 탭에서 LM Studio 모델을 등록하고 public name을 선택하세요. 예를 들어
lmstudio-tunnel처럼 지정합니다. 클라이언트가 model 필드에 전송하는 것은 LM Studio의 로컬 모델 ID가 아닌 이 공개 이름입니다.5
API 키를 생성하세요.
다음으로 Keys 탭에서 Create key를 클릭하세요. 필요하면 모델 이름 패턴(쉼표로 구분된 글롭, 전체는
*)으로 특정 배포에만 범위를 지정할 수 있습니다. sk-tok-… 키는 지금 바로 복사하세요. 한 번만 표시됩니다.어디서든 자유롭게 활용하세요
배포 이름과 API 키만 확보하면 OpenAI나 Anthropic과 호환되는 모든 클라이언트가 다른 컴퓨터, 팀원의 노트북, 혹은 호스팅된 에이전트에서도 LM Studio 모델에 접근할 수 있습니다.자주 묻는 질문
스트리밍 기능도 지원되나요?
스트리밍 기능도 지원되나요?
물론입니다.
"stream": true을 설정하면 Tokios가 호출된 API 종류에 따라 OpenAI 또는 Anthropic 형식의 표준 서버 전송 이벤트(SSE)를 반환합니다.LM Studio에 로드된 여러 모델을 모두 외부에 공개할 수 있나요?
LM Studio에 로드된 여러 모델을 모두 외부에 공개할 수 있나요?
LM Studio 앱을 계속 실행해둬야 하나요? 아니면 커넥터를 서비스 형태로 구동할 수 있나요?
LM Studio 앱을 계속 실행해둬야 하나요? 아니면 커넥터를 서비스 형태로 구동할 수 있나요?
요청을 처리하려면 LM Studio 서버가 앱 실행 상태여야 합니다. 하지만
tokios-connector 프로세스 자체는 별도로 백그라운드에서 구동될 수 있습니다. 여러 모델을 지원하거나 백그라운드 서비스로 운영할 때 필요한 설정 파일 옵션은 커넥터 설정에서 확인하실 수 있습니다.LM Studio의 ‘로컬 네트워크에서 서비스 제공’ 옵션도 꼭 써야 하나요?
LM Studio의 ‘로컬 네트워크에서 서비스 제공’ 옵션도 꼭 써야 하나요?
꼭 필요하지 않습니다. 해당 기능은 꺼두셔도 됩니다. 커넥터는 루프백(
127.0.0.1:1234)을 통해 LM Studio에 접속하므로 LM Studio는 로컬호스트 외부로 연결을 허용할 필요가 없습니다. sk-tok-… API 키로 인증된 상태에서 Tokios가 다른 기기에서도 모델에 접근할 수 있도록 해줍니다.사용하시는 모델은 절대 사용자의 기기 밖으로 나가지 않습니다. 하지만 생성된 엔드포인트는 어디서든 사용 가능합니다.
LM Studio는 현재와 마찬가지로 로컬호스트에서 작동하며, 인바운드 포트나 네트워크 서비스 활성화 설정도 전혀 필요하지 않습니다. 커넥터는 오직 아웃바운드 연결만 수행합니다. 인증, 라우팅, 스트리밍 등 그 이후의 모든 과정은 단 하나의 엔드포인트로 처리되며, API 키를 부여한 어떤 기기나 팀원, 에이전트에서도 이를 호출할 수 있습니다.빠른 시작
커넥터를 연동하고 첫 번째 모델 엔드포인트를 전체 과정에 걸쳐 등록해보세요.
API 키
팀원이나 에이전트들을 위해
sk-tok-… API 키를 생성하고 권한을 설정하며 주기적으로 교체할 수 있습니다.