メインコンテンツへスキップ
Msty は、ローカルおよびリモートモデルとのチャットに特化した洗練されたデスクトップアプリで、複数のモデルを並べて表示するチャット機能が人気です。Tokios を OpenAI Compatible リモートモデルプロバイダーとして追加し、https://api.tokios.com/v1 を指定して sk-tok-… キーを使用すると、Msty はユーザー自身のハードウェアで実行されているモデルにアクセスできます。

前提条件

コネクタがペアリング済み

Msty がアクセスするモデルの横に tokios-connector をインストールし、ペアリングします。

モデルが登録済み

そのモデルのデプロイメント(公開名)を登録します。

API キーが作成済み

まず sk-tok-… キーを作成します。必要に応じて、そのデプロイメントにスコープを限定します。

サポートされているバックエンド

ローカルバックエンド(Ollama、llama.cpp、vLLM、LM Studio)が実行中であることを確認します。

Tokios をリモートモデルプロバイダーとして追加

1

リモートモデルプロバイダーを開く

Msty でモデルプロバイダー領域を開き、Remote Model Provider の追加を選択します。正確なラベルと場所は Msty と Msty Studio のバージョンによって異なりますので、ご自身の環境を確認してください。
2

OpenAI Compatible を選択

プロバイダータイプとして OpenAI Compatible を選択します。
3

エンドポイントとキーを設定

プロバイダーのフィールドを入力します:
この API Endpoint は /v1 で終わる必要があります。
4

デプロイメントを取得または追加

次に Fetch Models をクリックします。Tokios は GET /v1/models を実装しているため、登録済みのデプロイメント(例:gemma-tunnel)が自動的に一覧に表示されます。プロバイダーがモデルを自動返さない場合は、デプロイメント名を手動で追加します。その後、Add をクリックしてプロバイダーを保存します。
なお、gemma-tunnel は登録したデプロイメント名に、sk-tok-YOUR_KEY は自身のキーに置き換えてください。Msty が送信するモデル名は、公開デプロイメント名です。Ollama、llama.cpp、vLLM、LM Studio のローカルモデル ID ではありません。

デスクトップアプリ、モデルは別マシン

Msty はデスクトップで実行されますが、使用したいモデルは完全に別のマシン上に存在しても問題ありません。そのモデル横のコネクタが Tokios へのアウトバウンド接続を確立し、Msty は https://api.tokios.com/v1 を sk-tok-… キーで呼び出します。インバウンドポートや VPN は不要です。Msty のマルチモデルチャットは、Tokios デプロイメントと追加した他のプロバイダー間で機能します。

トラブルシューティング

Msty が送信した API キーが欠落している、形式が不正である、または失効しています。余分な空白文字なしで完全な sk-tok-… キーを貼り付けたことを確認し、Keys タブでそのステータスを確認してください。
エンドポイントまたはキーのスコープが誤っています。API Endpoint が https://api.tokios.com/v1 であることを確認し、Models タブでデプロイメントを登録済みであること、およびキーのスコープにそのデプロイメントが含まれていることを確認してください。
そのデプロイメントのコネクタがオフラインであるか、並列処理の上限に達しています。Connectors タブを確認してください。コネクタは Online と表示される必要があり、実行中のマシンは稼働中で到達可能である必要があります。

次のステップ

互換性のあるクライアント

他の OpenAI 互換および Anthropic 互換クライアントのベース URL とキーの設定を確認します。

API キー

チームメンバーやエージェント用の sk-tok-… キーを作成、スコープ設定、およびローテーションします。