http://127.0.0.1:1234/v1 で待機しており他のマシンからはアクセス不可だ。LM Studioには serve on local network オプションも存在するがこれはLAN向け機能であり同一ネットワーク上のデバイス向けにループバック外でも接続可能となるが認証機能はデフォルトで無効化されている。そのためLM Studioを引き続きローカルホスト上で運用し、その隣でTokiosコネクターを起動するのが最適だ。このコネクターが https://api.tokios.com に接続し、各種ツールやチームメンバー、エージェントはどこからでも認証済みのエンドポイントを呼び出せるようになる。
LM Studioのネットワークサービス機能はLAN内に留まる
LM Studioの serve on local network 切り替え機能はまさに「ローカルネットワーク用」と説明されている。これを有効化するとサーバーがマシンのネットワークインターフェースにバインドされるため(単に127.0.0.1 だけではない)同一Wi-FiやLAN上の他デバイスからもアクセス可能となる。ただし認証機能がデフォルトで無効化されているため有効化時には警告が表示される。同一ネットワーク内の別デバイスからサーバーに接続するには適しているが、別ネットワーク上のチームメンバーやホスティングされたエージェント、あるいは公開インターネット上から実際の認証情報を用いてアクセスしたい場合には不向きだ。
これはLM Studioのローカルネットワーク機能を批判するものではない。LAN内のデバイス向けには確かにその役割を果たしている。Tokiosは別の課題を解決するものだ。つまりLM Studioをネットワークに公開することなくどこからでも認証済みのエンドポイントにアクセスできるようにするのだ。LM StudioはOllamaやllama.cpp、vLLMと並びTokiosの主要なバックエンドとして機能する。
送信専用の接続方式
1
モデルを読み込みLM Studioのサーバーを起動する
LM Studioを開き Developer または Local Server タブへ移動してモデルを読み込みサーバー起動用ボタンをクリックする。serve on local network は無効化したままにしておくこと。Tokiosではこれは不要だ。LM Studioは引き続き既定の
http://127.0.0.1:1234/v1 で待機し続ける。2
Tokiosコネクターのペアリング手順
まず tokios.com/console にサインインし、Setup タブを開いて Start pairing をクリックします。Tokios は一度だけ使える ペアリングコード を すでにコンソールに戻り、デバイスを approve してください。Setup タブまたは Connectors タブで操作できます。承認されると、コネクターのトークンがトンネル経由で配信されます。画面に表示されたり、ファイルに貼り付けたりすることはありません。
TKS-XXXX-XXXX のような形式で表示します。有効期間は約15分です。LM Studioが実行されているマシン上で、ご使用のOS向けのインストール用ワンライナーを実行します。Windows
macOS
Linux
tokios-connectorがインストール済みの場合は、代わりにそのコードを直接指定します。3
コネクターの接続先をLM Studioの /v1 APIに指定します。
LM Studioに内蔵されているサーバーは、Tokiosが期待するOpenAI互換のインターフェースに対応しています。単一モデルを利用する場合、コンソールのセットアップウィザードが自動的に複数モデルに対応したファイル形式の詳細は、コネクター設定をご覧ください。
http://127.0.0.1:1234/v1をアップストリームモデルIDとして設定します。複数モデルをtokios-connector.json設定で提供する場合は、アップストリームのBaseUrlを明示的に指定する必要があります。4
デプロイを登録します。
次に Models タブで、LM Studio モデルを登録し、public name(例:
lmstudio-tunnel)を選択します。クライアントが model フィールドに送信するのは、LM Studio のローカルモデルIDではなく、この公開名です。5
APIキーを作成します。
続いて Keys タブで、Create key をクリックします。必要に応じて、モデル名パターン(カンマ区切りのグロブ、すべての場合は
*)で特定のデプロイにスコープを設定できます。sk-tok-… キーは今すぐコピーしてください。一度だけしか表示されません。どこからでも利用可能
デプロイ名とAPIキーを取得すれば、OpenAIやAnthropicと互換性のあるあらゆるクライアントから、別のマシンやチームメイトのノートパソコン、あるいはホスティングされたエージェントからでもLM Studioのモデルにアクセスできる。よくある質問
ストリーミングは利用可能ですか?
ストリーミングは利用可能ですか?
はい。
"stream": trueを設定すれば、呼び出したAPIの種類に応じてTokiosがOpenAIまたはAnthropic形式の標準的なサーバー送信イベント(SSE)を返します。LM Studioに読み込ませた複数のモデルを公開できますか?
LM Studioに読み込ませた複数のモデルを公開できますか?
LM Studioアプリを常に起動したままにする必要がありますか?それともコネクターをサービスとして実行できますか?
LM Studioアプリを常に起動したままにする必要がありますか?それともコネクターをサービスとして実行できますか?
LM Studioのサーバーがリクエストに応答するにはアプリが起動している必要があります。一方で
tokios-connectorプロセス自体はバックグラウンドで実行可能です。複数モデル向けやバックグラウンドサービスとして長期間コネクターを運用する際の設定オプションについては、コネクター設定をご覧ください。引き続きLM Studioの「ローカルネットワーク上でサーブ」機能を有効にする必要がありますか?
引き続きLM Studioの「ローカルネットワーク上でサーブ」機能を有効にする必要がありますか?
いいえ、無効のままで構いません。コネクターはループバック(
127.0.0.1:1234)経由でLM Studioに接続するため、LM Studio側ではローカルホスト以外にバインドする必要はありません。他のマシンからモデルにアクセスできるようにするのはTokiosであり、sk-tok-…キーを用いて認証が行われます。ご使用のモデルは一切外部に流出せず、エンドポイントはあらゆる場所で利用可能です
LM Studioはこれまで通りローカルホスト上で動作し続けます。外部からの接続用ポートもネットワークサービス用の切り替えスイッチも一切使用されません。コネクターは外部への接続のみ行います。認証やルーティング、ストリーミングといった処理はすべて単一のエンドポイントで処理され、キーを付与した任意のマシンやチームメイト、エージェントから呼び出すことが可能です。クイックスタート
コネクターをペアリングし、最初のモデルエンドポイントを一通り登録しましょう。
APIキー
チームメイトやエージェント向けに
sk-tok-… APIキーを作成・権限設定・更新する方法です。