Unsloth Studio をどこからでも安全に利用する

Unsloth Studio は、ローカルモデルの実行、トレーニング、エクスポートを行うためのオープンソースの ノーコード Web UI です。Studio でモデルを実行すると、マシン上で OpenAI 互換の API が提供されます（デフォルトは http://127.0.0.1:8888）。これはローカルに限定されます。Studio をマシン上で実行したまま、その隣で Tokios コネクタを実行します。コネクタは https://api.tokios.com へのアウトバウンド接続を行い、ツール、チームメンバー、またはエージェントはどこからでも一つの認証済みエンドポイントを呼び出すことができます。

初心者向け。 Unsloth Studio はポイントアンドクリックの UI です。モデルを選択して実行するだけで、すぐに提供を開始できます。Ollama や LM Studio とともに、Tokios エンドポイントの背後にローカルモデルを配置する最も簡単な方法の一つです。

アウトバウンド専用の方法

Unsloth Studio でモデルを実行する

Studio を起動し、UI を通じてモデルを読み込みます。Studio は以下のように起動します：

unsloth studio -H 0.0.0.0 -p 8888

モデルの実行が開始されると、Studio はポート 8888 で OpenAI 互換の API を公開します。マシン上でそのままにしておいてください。ネットワークに公開する必要はありません。

Tokios コネクタをペアリングする

まず tokios.com/console にサインインし、Setup タブを開いて Start pairing をクリックします。すると Tokios は、ペアリングコード として TKS-XXXX-XXXX のような文字列を、約 15 分間有効な状態で一度だけ表示します。Studio が実行されているマシンで、OS に合わせたインストール用ワンライナーを実行します：

irm https://tokios.com/downloads/install/windows | iex; tokios-install -Code 'TKS-XXXX-XXXX'

curl -fsSL https://tokios.com/downloads/install/macos | sh -s -- --code TKS-XXXX-XXXX

curl -fsSL https://tokios.com/downloads/install/linux | sh -s -- --code TKS-XXXX-XXXX

すでに tokios-connector がインストール済みの場合は、代わりにコードを直接渡します：

tokios-connector TKS-XXXX-XXXX

コンソールに戻ったら、approve の操作を Setup または Connectors タブで行い、デバイスを承認します。承認されると、コネクタのトークンはトンネル経由で配信されます。画面に表示されたり、ファイルに貼り付けたりすることはありません。

コネクタを Studio の /v1 API に向ける

基本的な単一モデルのパスでは、Studio の OpenAI 互換エンドポイントをアップストリームとして入力します：http://127.0.0.1:8888/v1。tokios-connector.json 設定を通じて複数のモデルを提供している場合は、アップストリーム BaseUrl を明示的に設定します：

{
  "Upstream": {
    "BaseUrl": "http://127.0.0.1:8888/v1"
  }
}

完全なマルチモデルファイル形式については、Connector config を参照してください。

デプロイメントを登録する

コンソールの Models タブでモデルを登録し、公開名 を選択します（例えば studio-tunnel）。この公開名は、Studio 内のモデル ID ではなく、クライアントが model フィールドに送信する値です。

API キーを作成する

コンソールの Keys タブで Create key をクリックします。オプションで、モデル名のパターン（カンマ区切りのグロブ、* はすべて）を使用して特定のデプロイメントにスコープを限定できます。今すぐ sk-tok-… キーをコピーしてください。一度だけ表示されます。

どこからでも利用する

デプロイメント名と API キーがあれば、OpenAI または Anthropic 互換のクライアントは、Studio で実行しているモデルにアクセスできます。別のマシン、チームメンバーのラップトップ、またはホストされたエージェントからでも可能です。

curl https://api.tokios.com/v1/chat/completions \
  -H "Authorization: Bearer sk-tok-YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "studio-tunnel",
    "stream": true,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

from openai import OpenAI

client = OpenAI(
    base_url="https://api.tokios.com/v1",
    api_key="sk-tok-YOUR_KEY",
)

response = client.chat.completions.create(
    model="studio-tunnel",
    messages=[{"role": "user", "content": "Hello!"}],
    stream=True,
)

for chunk in response:
    print(chunk.choices[0].delta.content or "", end="")

export ANTHROPIC_BASE_URL=https://api.tokios.com
export ANTHROPIC_API_KEY=sk-tok-YOUR_KEY
claude --model studio-tunnel

この model フィールドは、常に登録された デプロイメント 名（上記の studio-tunnel）であり、Studio 内のモデル ID ではありません。Studio でモデルをファインチューニングして GGUF にエクスポートしましたか？同じエンドポイントフローについては、Serve a fine-tune を参照してください。

FAQ

ストリーミングは動作しますか？

はい。"stream": true を設定すると、Tokios は呼び出した API サーフェスに応じて、OpenAI または Anthropic 形式の標準的なサーバー送信イベント（SSE）を返します。

Studio でトレーニングしたモデルを使用できますか？

はい。Studio で同じように実行するか、GGUF にエクスポートして Ollama または llama.cpp を通じて提供します。いずれにせよ、Tokios デプロイメントとして登録します。Serve a fine-tune を参照してください。

Studio を直接公開せずにチームメンバーとアクセスを共有できますか？

はい。チームメンバーごとに別の sk-tok-… キーを、Keys タブで作成し、各キーを必要なデプロイメントのみにスコープを限定します。キーを取り消すと、すぐに認証が停止するため、Studio やコネクタに触れることなくアクセスを遮断できます。

モデルはマシンを離れず、エンドポイントはどこでも動作します

Unsloth Studio はマシン上で実行され続け、インバウンドポートはなく、ネットワークに公開されるものはありません。コネクタはアウトバウンド接続のみを行います。それ以降のすべて — 認証、ルーティング、ストリーミング — は、キーを渡すことを選択した任意のマシン、チームメンバー、またはエージェントから呼び出せる一つのエンドポイントです。

クイックスタート

コネクタをペアリングし、最初のモデルをエンドツーエンドで登録します。

ファインチューニングの提供

トレーニングしたモデルをプライベート API エンドポイントに変換します。

ハードウェアと互換性

サービングとランタイム接続

クライアント接続

比較

Unsloth Studio をどこからでも安全に利用する

アウトバウンド専用の方法

どこからでも利用する

FAQ

モデルはマシンを離れず、エンドポイントはどこでも動作します

クイックスタート

ファインチューニングの提供

​アウトバウンド専用の方法

​どこからでも利用する

​FAQ

​モデルはマシンを離れず、エンドポイントはどこでも動作します

クイックスタート

ファインチューニングの提供

アウトバウンド専用の方法

どこからでも利用する

FAQ

モデルはマシンを離れず、エンドポイントはどこでも動作します