https://api.tokios.com に設定し、sk-tok-… キーを貼り付け、Tokios のデプロイメント名をモデルとして使用します。これにより、Chatbox はホスティングプロバイダではなく、別のハードウェアで実行中のモデルと通信します。
前提条件
コネクタのペアリング済み
Chatbox がアクセスするモデルの近くに
tokios-connector をインストールし、ペアリングします。モデルの登録済み
そのモデルのデプロイメント(公開名)を登録します。
API キーの作成済み
必要な
sk-tok-… キーを作成します。必要に応じて、そのデプロイメントにスコープを限定します。サポートされているバックエンド
ローカルバックエンド(Ollama、llama.cpp、vLLM、LM Studio)が実行中であることを確認します。
Chatbox に Tokios をカスタムプロバイダとして追加する
1
Chatbox のモデル設定を開く
Chatbox で Settings → Model を開きます。
2
カスタムプロバイダを追加する
続いて Add Custom Provider をクリックし、API モードとして OpenAI API Compatible を選択します。
3
API ホスト、パス、キーを設定する
プロバイダのフィールドに入力します。Chatbox は completions パスを自動的に追加するため、
/v1 を含まないホストのみを指定してください。これはほとんどの OpenAI 互換クライアントとは逆です。Chatbox のドキュメントによると、API パスのデフォルトは
/v1/chat/completions で、入力したホストに追加されます。ここで https://api.tokios.com/v1 を貼り付けると、Chatbox は誤ったパスを呼び出すことになります。4
デプロイメントをモデルとして追加する
続いて 公開デプロイメント名 を Models タブで登録したものを入力します。例:
gemma-tunnel。Chatbox が自動的にリスト表示しない場合は、モデル名を手動で入力します。これは Chatbox が model フィールドで送信する値であり、Ollama、llama.cpp、vLLM、または LM Studio のローカルモデル ID ではありません。たとえば
gemma-tunnel は登録したデプロイメント名に、sk-tok-YOUR_KEY は独自のキーに置き換えてください。いずれも共有設定ファイルにコミットしないでください。Android での同じ設定
Chatbox の Android アプリは、同じ Add Custom Provider → OpenAI API Compatible フローを使用し、同じベアホストhttps://api.tokios.com の値を使用し、/v1 は含めません。上記の iOS CORS 問題は Android には影響しません。
トラブルシューティング
401 エラー
401 エラー
Chatbox が送信した API キーが欠落している、形式が正しくない、または取り消されています。余分な空白なしで完全な
sk-tok-… キーを貼り付けたことを確認し、Keys タブでそのステータスを確認してください。404 エラー
404 エラー
Chatbox が送信したモデル値が登録されたデプロイメントと一致しません。Chatbox のモデル名が Models タブの公開名と完全に一致することを確認してください。Ollama/llama.cpp/vLLM/LM Studio のローカルモデル ID ではありません。また、API ホストに
/v1 を追加して Chatbox が誤ったパスを呼び出した場合にも、このエラーが発生します。503 エラー
503 エラー
そのデプロイメントのコネクタがオフラインであるか、並列処理の上限に達しています。Connectors タブを確認してください。コネクタは Online と表示されている必要があり、実行中のマシンは起動しており、到達可能である必要があります。
iOS ではリクエストが失敗するが、デスクトップでは動作する
iOS ではリクエストが失敗するが、デスクトップでは動作する
これは、Bearer キーを使用するカスタム OpenAI 互換エンドポイントが CORS プリフライトチェックに失敗する既知の Chatbox iOS バグ(#3516)に一致します。これは Tokios 側の問題ではありません。Chatbox をデスクトップまたは Android で使用するか、iOS 対応クライアントについては スマートフォンからローカルモデルを使用する を参照してください。
次のステップ
クイックスタート
コネクタを設定し、デプロイメントを登録し、最初のキーを作成します。
互換クライアント
その他の OpenAI および Anthropic 互換クライアントのベース URL とキーの設定を確認します。