Skip to main content
Mac Studio의 통합 메모리는 일반 노트북에서는 감당하기 어려운 크기의 모델도 수용할 수 있기에 헤드리스 추론 서버로서 LM Studio나 Ollama를 실행하기에 적합합니다. 다만 Mac Studio 외부에서 해당 모델에 접근하는 방법은 별도로 해결해야 할 과제입니다. Tokios 커넥터를 LM Studio 또는 Ollama와 함께 실행하면 https://api.tokios.com 주소로 인증된 엔드포인트가 생성됩니다. 0.0.0.0에 서버를 직접 바인딩하거나 VPN을 설정하거나 팀원 개개인을 위한 네트워크 설정도 전혀 필요하지 않습니다.

​
로컬 네트워크와 팀은 별개의 개념입니다

LM Studio 공식 문서에서는 serve on local network에 대해 설명하고 있습니다. 즉 127.0.0.1 범위를 넘어서 서버를 바인딩해 Wi-Fi에 연결된 다른 기기들도 접근할 수 있도록 하는 방법인데, 이 과정에서 경고 문구도 함께 제시됩니다. 또한 요청 수준의 인증 기능은 기본적으로 비활성화되어 있습니다. 이 설정을 통해 가정용 네트워크 내의 다른 기기들이 Mac Studio와 통신할 수는 있지만 다음과 같은 상황은 해결되지 않습니다.
  • 로컬 네트워크에 속하지 않은 팀원들. 다른 건물이나 도시, 혹은 자택 네트워크에서 일하는 사람들은 로컬 서브넷에 바인딩된 서버에 접근할 수 없습니다.
  • 개인별 접근 권한 관리. LM Studio의 네트워크 서버에는 기본적인 API 키 기능이 없어서 바인딩된 포트와 경로에 접근 가능한 누구나 해당 엔드포인트를 호출할 수 있습니다. 특정 팀원에게만 접근 권한을 부여하거나 나중에 특정 사용자의 접근을 차단하려면 서버를 재시작해야만 합니다.
  • 기기 변경 시에도 유지되는 고정 주소. LAN IP는 네트워크에 종속됩니다. Mac Studio를 다른 장소로 옮기거나 라우터를 교체하거나 Mac mini로 교체하면 모든 클라이언트 설정이 무효화됩니다.
Tokios는 LM Studio나 Ollama의 실행 방식을 바꾸지 않습니다. 다만 Mac Studio에서 https://api.tokios.com으로 연결되는 커넥터를 추가해주므로 루프백 범위를 넘어서 서버를 바인딩하거나 수신 포트를 열 필요가 전혀 없습니다.
Meta tested Muse Glimmer 30B on MacBook M4 Max and M5 Max chips, alongside an RTX 5090, and ships MLX builds for Apple Silicon. A Mac Studio with 32 GB unified memory handles the 4-bit build comfortably; 64 GB or more handles every build up to BF16. DFlash adds a reported 1.8x speedup on M5 Max and 1.5x on M4 Max.

​
Mac Studio에서 설정 방법을 확인해보세요

1

Mac Studio에서 런타임을 시작하세요.

일반적인 방식대로 루프백 인터페이스를 통해 모델 서버를 실행합니다.
커넥터를 추가하기 전에 해당 서버가 OpenAI 호환 /v1 API에 정상적으로 응답하는지 확인하세요.
2

클레임 코드를 획득한 뒤 커넥터를 페어링합니다.

In the dashboard, open the Setup tab and select Start pairing to get a one-time claim code shaped TKS-XXXX-XXXX (valid about 15 minutes). On the Mac Studio, run:
Tokios ships a native Apple Silicon (arm64) build of tokios-connector, which covers Mac Studio, Mac mini, and MacBook Pro on Apple Silicon. If Gatekeeper flags the binary, clear it with xattr -d com.apple.quarantine ./tokios-connector; the install one-liner above avoids this.대시보드로 돌아가서 approve, Setup 또는 Connectors 탭에서 해당 기기를 선택하세요. 커넥터의 API 키는 터널을 통해 전달되므로 화면상에 표시되거나 파일에 붙여넣을 일은 없습니다.
3

커넥터가 런타임의 /v1 엔드포인트를 가리키도록 설정합니다.

커넥터의 업스트림은 Mac Studio 내 루프백 인터페이스에 위치한 LM Studio 또는 Ollama의 OpenAI 호환 API입니다. 이 경로는 외부 네트워크에 노출되지 않으며, 기본 포트는 LM Studio 1234, Ollama 11434입니다(둘 다 /v1 접미사가 붙음). 단일 머신 환경에서는 방화벽 규칙 설정이나 LAN 바인딩, 추가 커넥터 설정이 전혀 필요하지 않습니다.
4

배포 항목을 등록합니다.

On the Models tab, map your upstream model id (for example, the LM Studio or Ollama model you loaded) to a public deployment name such as studio-model. Clients send this deployment name in the model field, not the upstream id.
5

API 키를 생성합니다.

On the Keys tab, create a key. Keys are sk-tok-… Bearer tokens, shown once, and can be scoped to specific deployment name patterns — so a teammate’s key can be limited to just this deployment.

​
항상 활성 상태로 유지하세요

A terminal window works for testing, but a Mac Studio doing this job full time should keep the connector running across reboots and logouts. Run it as a launchd background service using a ~/Library/LaunchAgents/com.tokios.connector.plist agent that points ProgramArguments at tokios-connector --config and your tokios-connector.json, with RunAtLoad and KeepAlive set so it restarts automatically. See Connector config: running as a background service for the full plist and launchctl load / launchctl start commands. For a machine no one ever logs into interactively, consider a LaunchDaemon instead of a LaunchAgent — check Apple’s current guidance for your macOS version to confirm which is preferable for your setup.

​
어디서든 자유롭게 활용하세요

커넥터가 연결되고 배포가 등록되면, 클라이언트에서 Mac Studio의 IP 주소나 호스트명 대신 Tokios를 지정하시면 됩니다.
Claude Code의 모델 선택기에는 claude* ID만 표시되므로 Tokios 배포가 목록에 나타나지 않습니다. 따라서 --model studio-model 값을 명시적으로 입력해주셔야 합니다.
Mac Studio에서 여러 모델을 동시에 실행할 경우 — 예를 들어 LM Studio와 Ollama를 각각 다른 모델용으로 사용한다면 — 단일 모델 연결 방식 대신 커넥터 설정 파일을 통해 여러 경로와 업스트림 모델 ID를 정의하시기 바랍니다. 동일한 엔드포인트 뒤에서 여러 배포를 등록하고 전환하는 방법은 모델 라우팅 문서를 참고하세요.

​
왜 하나의 엔드포인트만 필요한가요

  • 네트워크를 공유하지 않고도 Mac Studio를 공유할 수 있습니다. 팀원들은 자신만을 위해 범위가 지정된 API 키를 사용해 https://api.tokios.com에 접속할 수 있으며, 귀하의 LAN이나 Tailscale 네트워크에 접속할 필요가 전혀 없습니다.
  • Swap models without touching client config. Point studio-model at a different upstream model or backend, and every agent and script that already targets it keeps working.
  • 인바운드 포트가 필요 없으며 0.0.0.0도 필요하지 않습니다. LM Studio와 Ollama는 127.0.0.1 상태를 유지하며, 커넥터는 오직 Tokios로만 아웃바운드 연결을 수행합니다.

​
다음 단계

빠른 시작

아무것도 없던 상태에서 작동 가능한 커넥터와 배포 환경, 그리고 API 키를 만들어보세요.

커넥터 설치하기

모든 플랫폼에서 커넥터를 설치하고 페어링하는 방법에 대한 상세 가이드입니다.

Claude Code 활용하기

Configure ANTHROPIC_BASE_URL and ANTHROPIC_API_KEY in detail.

커넥터 설정 관련 참고 자료

Serve multiple models from one Mac with tokios-connector.json, and run it as a launchd service.