メインコンテンツへスキップ
モデルの登録は、公開名をペアリング済みのコネクタとそのコネクタが提供するモデルにマッピングします。公開名は、すべての API 呼び出しで "model" として渡す文字列です。例えば、gemma-tunnel などです。 コネクタのペアリングと承認が完了した後に実行してください。コネクタのインストール を参照してください。

モデルを登録する

1

コネクタが接続されていることを確認

コンソールの Connectors タブで、コネクタが接続済みとして表示されていることを確認してください。表示されない場合は、コネクタがモデルを実行するマシン上でまだ実行中であり、ペアリング時にデバイスを承認したことを確認してください。
2

モデルと公開名を選択

「Models」タブを開きます(セットアップウィザードのステップ 3)。コネクタ経由で公開するモデルを選択し、クライアントが使用する公開名を割り当てます。短く、小文字、ハイフン区切りの名前を使用してください。例えば、gemma-tunnel、llama3-local、または mistral-home などです。
3

保存

モデルを保存します。これで、その公開名を使用して api.tokios.com からアクセス可能になります。

API 呼び出しで公開名を使用する

公開名を model フィールドとして渡します。ゲートウェイは、転送する前にこれをコネクタに解決します。

高度な設定: 一つのコネクタから複数のモデルを提供する

一つのコネクタで複数のモデルを公開できます。各モデルに公開名を登録するか、コネクタ設定ファイルで複数のアップストリームを定義します。モデルルーティング および コネクタ設定 を参照してください。