Mac Studio をチーム用のモデルエンドポイントにする

​

LANはチームと同じではない

• LAN外にいるチームメンバー。 別の建物、別の都市、自宅ネットワークから作業している人は、ローカルサブネットにバインドされたサーバーにアクセスできない。
• 個人単位のアクセス制御。 LM StudioのネットワークサーバーにはAPIキー機能がなく、バインドされたポートとパスに到達できる者は誰でも呼び出せる。特定のチームメンバーにだけアクセス権を付与したり、サーバーを再起動せずに誰かのアクセスを遮断したりする手段はない。
• マシン変更後も有効なアドレス。 LAN IPはネットワークに紐付いている。Mac Studioを移動させたり、ルーターを変更したり、Mac miniに役割を引き継がせたりすると、全クライアントの設定が壊れる。

​

Mac Studioの構成と実行可能なモデル

• 70BモデルはQ4またはQ8量子化でM4 Ultra（192 GB）および全M5構成で快適に動作する。
• 500B以上のMoEモデル（DeepSeek V4.1-Flash（552B）やKimi K3（2.8Tの低量子化）など）はマルチデバイス構成が必要。DeepSeek V4.1-Flashローカルハードウェアを参照のこと。
• ネイティブ精度のDeepSeek V4-Flash（155 GB）はM5 Ultra 256 GB構成にKVキャッシュの余裕を持って収まる。
• 複数の小規模モデルを同時実行 — Ollamaでコーディングモデルを、MLX Studioで汎用モデルを同時に実行し、それぞれを独自のTokiosデプロイの背後に配置できる。

​

Mac Studioでセットアップを行う

# Developer (Local Server) tab → Start Server
# Listens on http://127.0.0.1:1234/v1 by default

ollama run gemma4:e4b
# Listens on http://127.0.0.1:11434/v1

pip install mlx-lm
mlx_lm.server --model mlx-community/Qwen-3.5-4B-8bit
# Listens on http://127.0.0.1:8080/v1

# Server tab → Start Server
# Listens on http://127.0.0.1:8000/v1 by default

curl -fsSL https://tokios.com/downloads/install/macos | sh -s -- --code TKS-XXXX-XXXX

​

常時稼働を維持する

​

どこからでも使用する

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model studio-model

from openai import OpenAI

client = OpenAI(
    base_url="https://api.tokios.com/v1",
    api_key="sk-tok-YOUR_KEY",
)

response = client.chat.completions.create(
    model="studio-model",
    messages=[{"role": "user", "content": "Hello from the team"}],
)

​

なぜ一つのエンドポイントなのか

• ネットワークを共有せずにMac Studioを共有できる。 チームメイトは自身にスコープされたキーでhttps://api.tokios.comを呼び出す。LANやTailscaleのtailnetに参加する必要はない。
• クライアント設定を変更せずにモデルを切り替えられる。 studio-modelを別のアップストリームモデルやバックエンドに向ければ、それを既に使用している全エージェントとスクリプトがそのまま動作し続ける。
• インバウンドポートなし、0.0.0.0なし。 LM Studio、Ollama、MLX Studio、MLX-LM Serverは127.0.0.1のまま。コネクターはTokiosへの外向き接続のみ行う。

​

次のステップ