https://api.tokios.com/v1 をポイントし sk-tok-… キーを使用すると、big-AGI は設定した他のプロバイダーと並行して、あなたのハードウェアで稼働しているモデルと通信できます。
前提条件
コネクタがペアリング済み
big-AGI がアクセスするモデルの隣に
tokios-connector をインストールし、ペアリングします。モデルが登録済み
そのモデルのデプロイメント(公開名)を登録します。
API キーが作成済み
そのデプロイメントにスコープを限定した
sk-tok-… キーを作成します。サポートされるバックエンド
ローカルバックエンド(Ollama、llama.cpp、vLLM、LM Studio)が稼働していることを確認します。
Tokios をカスタムエンドポイントとして追加
1
モデル設定を開く
big-AGI の Models 設定を開き、ソースの追加を選択します。OpenAI-compatible ベンダー(カスタム OpenAI スタイルのエンドポイント用オプション)を選択します。正確なメニューパスとラベルは big-AGI のバージョンによって異なりますので、実行中のバージョンで確認してください。
2
API ホストとキーを設定
Tokios エンドポイントとキーを入力します:ホストに
/v1 を含めてください。3
デプロイメントを読み込む
big-AGI はエンドポイントからモデルを自動検出します。Tokios は
GET /v1/models を実装しているため、登録済みのデプロイメント(例:gemma-tunnel)が選択可能に表示されます。モデルがリストに表示されない場合は、Keys タブで、キーがそのデプロイメントにスコープされていることを確認してください。セルフホストの big-AGI では、環境変数で同じ値を設定できます —
OPENAI_API_HOST=https://api.tokios.com/v1 および OPENAI_API_KEY=sk-tok-YOUR_KEY。本番のキーをバージョン管理システムや共有設定にコミットしないでください。フロントエンドは一つ、モデルはどこからでも
big-AGI は複数のプロバイダーと同時に通信するように設計されています。Tokios をカスタム OpenAI 互換エンドポイントの一つとして追加することで、他のすべてのプロバイダーの隣にあなたのローカルモデルを配置できます。そのモデルの隣のコネクタが Tokios に出向き、big-AGI はインバウンドポートや VPN を使用せずにhttps://api.tokios.com/v1 でそれに到達します。
トラブルシューティング
401 エラー
401 エラー
big-AGI が送信した API キーが欠落している、形式が不正である、または取り消されています。余分な空白なしで完全な
sk-tok-… キーを使用したことを確認し、Keys タブでそのステータスを確認してください。モデルリストが空
モデルリストが空
big-AGI は
GET /v1/models からモデルを埋め込みます。Models タブで少なくとも一つのデプロイメントを登録し、キーのスコープにそれが含まれていることを確認してください。ホストが https://api.tokios.com/v1 であることを確認してください。503 エラー
503 エラー
そのデプロイメントのコネクタがオフラインであるか、並列処理の上限に達しています。Connectors タブを確認してください — コネクタは Online と表示される必要があり、それを稼働させているマシンがまだ稼働中で到達可能である必要があります。
次のステップ
互換性のあるクライアント
他の OpenAI および Anthropic 互換クライアントのベース URL とキーの設定を確認します。
API キー
チームメンバーやエージェント用の
sk-tok-… キーを作成、スコープ設定、およびローテーションします。