https://api.tokios.com/v1 に設定し、API キーとして sk-tok-… キーを設定します。Open WebUI は接続を確認し、モデルドロップダウンを埋めるために /v1/models を呼び出します。Tokios はそのエンドポイントを実装しているため、検証は成功し、登録済みのデプロイメントがすぐに表示されます。
前提条件
接続を追加する前に、以下の準備を行ってください。コネクタがペアリング済み
モデルの横に
tokios-connector をインストールし、ペアリングします。モデルが登録済み
Open WebUI から見えるように、モデルのデプロイメント(公開名)を登録します。
API キーが作成済み
次に、
sk-tok-… キーを作成します。必要に応じて、そのデプロイメントにスコープを限定します。サポートされているバックエンド
ローカルバックエンド(Ollama、llama.cpp、vLLM、LM Studio)が実行中であることを確認します。
Tokios を OpenAI 接続として追加する
1
Connections 設定を開く
Open WebUI で、Admin Settings → Connections に移動します。正確なメニューパスとラベルは Open WebUI のバージョンによって若干異なる場合があります。実行中のバージョンに合わせて確認してください。
2
OpenAI 接続を追加する
次に、OpenAI セクションで、Add Connection(+ ボタンとして表示される場合もあります)をクリックします。
3
Tokios の URL とキーを入力する
接続フィールドを設定します。接続を保存します。
- URL:
https://api.tokios.com/v1 - Key:
sk-tok-YOUR_KEY
モデルが自動的に表示される
Open WebUI は、入力した URL に対してGET /v1/models を呼び出し、接続を確認し、モデルピッカーを埋めます。Tokios は /v1/models を実装しており、キーがスコープされているデプロイメントを返すため、接続は正常に検証され、デプロイメント名(例:gemma-tunnel)が手動入力なしで Open WebUI のモデルドロップダウンに表示されます。
これはユニバーサルではないため、特筆すべき点です。一部の独自のカスタム OpenAI 互換エンドポイントは /v1/models を完全にスキップするため、チャット補完はそれ以外では機能するにもかかわらず、Open WebUI の接続チェックが失敗したり、モデルリストが空のままになったりします。Tokios は /v1/models を API サーフェスの第一級の一部として実装することで、この失敗モードを回避します。
ドロップダウンから使用するデプロイメントを選択し、チャットを開始してください。Open WebUI が送信するすべてのリクエストは、Bearer トークンとしてキーを使用して、トンネルを介してローカルバックエンドに https://api.tokios.com/v1/chat/completions へ送信されます。
ホストされた UI、ホームモデル
この設定が解決する一般的なシナリオは、VPS、コンテナホスト、またはモデルを実行しているマシン以外の任意のマシンで Open WebUI を実行し、そのモデルのポートをインターネットに公開することなく、モデルにアクセスしたい場合です。 Tokios コネクタは、モデルを実行しているマシンから外向きにダイヤルするのみであるため、以下の操作は不要です。- リモートの Open WebUI がアクセスできるように、バックエンドを
0.0.0.0にバインドする(例:OLLAMA_HOST=0.0.0.0)。 - コンテナ化された Open WebUI をホストまたは別のボックス上のモデルにブリッジするために、
host.docker.internalやコンテナネットワークのトリックを扱う。 - 二つのマシン間で着信ポートを開くか、VPN を設定する。
https://api.tokios.com/v1 と通信し、sk-tok-… キーで認証されます。Tokios はリクエストをトンネルを介して、モデルの横で実行されているコネクタにルーティングし、コネクタは常に localhost に留まります。
トラブルシューティング
Open WebUI が "could not connect" と表示するか、接続の検証に失敗する
Open WebUI が "could not connect" と表示するか、接続の検証に失敗する
URL に
/v1 が含まれていること(https://api.tokios.com/v1 で、ドメインのみではない)、およびキーが sk-tok- で始まっていることを確認してください。401 はキーが欠落しているか無効であることを意味し、403 はキーがリクエストしているモデルにスコープされていないことを意味します。完全なエラーリストについては、API エンドポイント を参照してください。接続は検証されるが、モデルドロップダウンが空である
接続は検証されるが、モデルドロップダウンが空である
接続は検証されるが、チャットリクエストが失敗する
接続は検証されるが、チャットリクエストが失敗する
コンソールの Connectors タブでコネクタがオンラインであることを確認してください。
503 レスポンスは、コネクタがオフラインであるか、並行処理の上限を超えていることを意味します。次に、他の場所で活用する
Open WebUI が Tokios を通じてモデルと通信できるようになると、同じデプロイメントとキーが、他の任意の OpenAI または Anthropic 互換クライアントから機能します。クライアントごとに追加の設定は不要です。互換性のあるクライアント
他のクライアントのベース URL とキー設定を確認します。
API キー
同じ Open WebUI インスタンスを使用するチームメンバーのために、個別のスコープ付きキーを作成します。