メインコンテンツへスキップ
Jan は通常、デバイス上でモデルを実行するローカルファーストのデスクトップアプリですが、カスタム / リモート OpenAI 互換プロバイダーを追加することもできます。そのプロバイダーを https://api.tokios.com/v1 に向け、sk-tok-… キーを貼り付け、Tokios のデプロイメント名をモデルとして使用します。これにより、Jan はローカルにインストールされたモデルだけでなく、別のマシン上で実行されているモデルと通信するようになります。

前提条件

コネクタがペアリング済み

Jan がアクセスしたいモデルの横に tokios-connector をインストールし、ペアリングします。

モデルが登録済み

そのモデルのデプロイメント(公開名)を登録します。

API キーが作成済み

必要な sk-tok-… キーを作成します。必要に応じて、そのデプロイメントにスコープを限定します。

サポートされているバックエンド

ローカルバックエンド(Ollama、llama.cpp、vLLM、LM Studio)が実行中であることを確認します。

Jan に Tokios をモデルプロバイダーとして追加する

1

Jan のモデルプロバイダー設定を開く

Jan で Settings → Model Providers を開きます。正確なメニューパスとラベルは Jan のバージョンによってわずかに異なる場合があります。実行中のバージョンで確認してください。
2

OpenAI 互換プロバイダーを追加する

Jan の OpenAI-compatible オプションを使用して、カスタムプロバイダーを追加します。
3

ベース URL と API キーを設定する

Tokios のエンドポイントとキーを入力します:
プロバイダーを保存します。
4

デプロイメントをモデルとして追加する

モデルエントリを追加する際は 公開デプロイメント名(Models タブで登録したもの)を使用します。例えば、gemma-tunnel のようになります。これは Jan が model フィールドで送信する値であり、Ollama、llama.cpp、vLLM、LM Studio のローカルモデル ID ではありません。
まず、gemma-tunnel は登録したデプロイメント名に、sk-tok-YOUR_KEY は自身のキーに置き換えてください。いずれも共有設定ファイルにコミットしないでください。

ラップトップの UI、デスクトップのモデル

この設定で解決する一般的なシナリオは以下の通りです。Jan はラップトップにインストールされていますが、実際に使用したいモデル(そのラップトップで実行できるものよりも大きなモデル)は、ネットワーク上の別の場所や完全に別の場所にあるデスクトップやサーバー上にあります。 Jan のデバイス上モデルに限定したり、デスクトップのバックエンドをラップトップに直接公開しようとしたりする代わりに、デスクトップ上のコネクタが Tokios へダイヤルアウトし、ラップトップ上の Jan が https://api.tokios.com/v1 を sk-tok-… キーを使用して呼び出します。これにより、入力しているマシンにはローカルに存在しないモデルを備えた Jan のローカルファースト UI を利用できます。

トラブルシューティング

Jan が送信した API キーが欠落している、形式が正しくない、または取り消されています。余分な空白なしで完全な sk-tok-… キーを貼り付けたことを確認し、Keys タブでそのステータスを確認してください。
Jan が送信したモデル値が登録されたデプロイメントと一致しません。Jan 内のモデル名が Models タブ上の公開名と完全に一致していることを確認してください。Ollama/llama.cpp/vLLM/LM Studio のローカルモデル ID ではありません。
そのデプロイメントのコネクタがオフラインであるか、並列処理の上限に達しています。Connectors タブを確認してください。コネクタは Online と表示されている必要があり、実行中のマシンは稼働中で到達可能である必要があります。

次のステップ

互換性のあるクライアント

他の OpenAI 互換および Anthropic 互換クライアントのベース URL とキーの設定を確認します。

API キー

チームメンバーやエージェント用の sk-tok-… キーを作成、スコープ設定、ローテーションします。