Skip to main content
Open WebUI で Admin Settings → Connections → OpenAI を開き、Add Connection をクリックし、URL を https://api.tokios.com/v1 に設定し、API キーとして sk-tok-… キーを設定します。Open WebUI は接続を確認し、モデルドロップダウンを埋めるために /v1/models を呼び出します。Tokios はそのエンドポイントを実装しているため、検証は成功し、登録済みのデプロイメントがすぐに表示されます。

前提条件

接続を追加する前に、以下の準備を行ってください。

コネクタがペアリング済み

モデルの横に tokios-connector をインストールし、ペアリングします。

モデルが登録済み

Open WebUI から見えるように、モデルのデプロイメント(公開名)を登録します。

API キーが作成済み

次に、sk-tok-… キーを作成します。必要に応じて、そのデプロイメントにスコープを限定します。

サポートされているバックエンド

ローカルバックエンド(Ollama、llama.cpp、vLLM、LM Studio)が実行中であることを確認します。

Tokios を OpenAI 接続として追加する

1

Connections 設定を開く

Open WebUI で、Admin Settings → Connections に移動します。正確なメニューパスとラベルは Open WebUI のバージョンによって若干異なる場合があります。実行中のバージョンに合わせて確認してください。
2

OpenAI 接続を追加する

次に、OpenAI セクションで、Add Connection(+ ボタンとして表示される場合もあります)をクリックします。
3

Tokios の URL とキーを入力する

接続フィールドを設定します。
  • URL: https://api.tokios.com/v1
  • Key: sk-tok-YOUR_KEY
接続を保存します。
他の管理者やエクスポートされた設定によって公開される可能性がある、共有または公開の Open WebUI インスタンスの設定に、実際のキーを貼り付けないでください。sk-tok-… キーは他の認証情報と同様に扱ってください。

モデルが自動的に表示される

Open WebUI は、入力した URL に対して GET /v1/models を呼び出し、接続を確認し、モデルピッカーを埋めます。Tokios は /v1/models を実装しており、キーがスコープされているデプロイメントを返すため、接続は正常に検証され、デプロイメント名(例:gemma-tunnel)が手動入力なしで Open WebUI のモデルドロップダウンに表示されます。 これはユニバーサルではないため、特筆すべき点です。一部の独自のカスタム OpenAI 互換エンドポイントは /v1/models を完全にスキップするため、チャット補完はそれ以外では機能するにもかかわらず、Open WebUI の接続チェックが失敗したり、モデルリストが空のままになったりします。Tokios は /v1/models を API サーフェスの第一級の一部として実装することで、この失敗モードを回避します。 ドロップダウンから使用するデプロイメントを選択し、チャットを開始してください。Open WebUI が送信するすべてのリクエストは、Bearer トークンとしてキーを使用して、トンネルを介してローカルバックエンドに https://api.tokios.com/v1/chat/completions へ送信されます。

ホストされた UI、ホームモデル

この設定が解決する一般的なシナリオは、VPS、コンテナホスト、またはモデルを実行しているマシン以外の任意のマシンで Open WebUI を実行し、そのモデルのポートをインターネットに公開することなく、モデルにアクセスしたい場合です。 Tokios コネクタは、モデルを実行しているマシンから外向きにダイヤルするのみであるため、以下の操作は不要です。
  • リモートの Open WebUI がアクセスできるように、バックエンドを 0.0.0.0 にバインドする(例:OLLAMA_HOST=0.0.0.0)。
  • コンテナ化された Open WebUI をホストまたは別のボックス上のモデルにブリッジするために、host.docker.internal やコンテナネットワークのトリックを扱う。
  • 二つのマシン間で着信ポートを開くか、VPN を設定する。
Open WebUI(どこにホストされていても)は、https://api.tokios.com/v1 と通信し、sk-tok-… キーで認証されます。Tokios はリクエストをトンネルを介して、モデルの横で実行されているコネクタにルーティングし、コネクタは常に localhost に留まります。

トラブルシューティング

URL に /v1 が含まれていること(https://api.tokios.com/v1 で、ドメインのみではない)、およびキーが sk-tok- で始まっていることを確認してください。401 はキーが欠落しているか無効であることを意味し、403 はキーがリクエストしているモデルにスコープされていないことを意味します。完全なエラーリストについては、API エンドポイント を参照してください。
コンソールの Models タブで少なくとも一つのデプロイメントを登録していること、およびキーのモデルパターンスコープ(Keys タブで設定)にそれが含まれていることを確認してください。
コンソールの Connectors タブでコネクタがオンラインであることを確認してください。503 レスポンスは、コネクタがオフラインであるか、並行処理の上限を超えていることを意味します。

次に、他の場所で活用する

Open WebUI が Tokios を通じてモデルと通信できるようになると、同じデプロイメントとキーが、他の任意の OpenAI または Anthropic 互換クライアントから機能します。クライアントごとに追加の設定は不要です。

互換性のあるクライアント

他のクライアントのベース URL とキー設定を確認します。

API キー

同じ Open WebUI インスタンスを使用するチームメンバーのために、個別のスコープ付きキーを作成します。