メインコンテンツへスキップ
Hermes AgentはNous Researchが開発したオープンソースの自律型エージェントランタイムです。通常のチャットクライアントとは異なり、Hermesはフロントエンドが接続できる独自のOpenAI互換エンドポイントを公開すると同時に、自身の推論処理用にOpenAI互換のバックエンドも利用します。このページでは後者の設定、すなわちHermesのバックエンドLLMプロバイダーをTokiosに向けて設定し、エージェントループをローカル環境にあるプライベートモデル上で実行させる方法を解説します。
Hermes Agentはランタイムであり、通常のBYOKチャットUIではありません。この統合作業はチャットアプリの設定ではなく、あるシステム(Hermes)を別のシステム(Tokios)に接続する作業と捉えてください。

前提条件

  • A running Tokios connector paired with your local model — see Connector install
  • A registered model deployment name — see Register a model
  • A Tokios API key (sk-tok-…) — see API keys
  • Hermes Agentがインストール済みであること

Hermes Agentのバックエンドプロバイダーを設定する

Hermesはバックエンドプロバイダーの設定情報を ~/.hermes/config.yaml から読み取ります。プロバイダー関連のキーは 最上位レベルの model: マッピングの下に存在 します。これらは最上位レベルのキーではありません:
~/.hermes/config.yaml
階層構造が重要です。もし provider、base_url、api_key が最上位レベルに配置されている場合、Hermesはそれらを無視して既定のプロバイダーへ自動的に切り替えます。その結果、ローカルモデルを一切利用せずにエージェントが正常に動作することになります。
Replace gemma-tunnel with the public deployment name you registered on the Models tab — not the local model id your backend (Ollama, llama.cpp, vLLM, or LM Studio) uses. Replace sk-tok-YOUR_KEY with your own key, and avoid committing it into a shared or version-controlled config file.
base_url の内容には必ず /v1 を含める必要があります。Hermesのカスタムプロバイダーパスは /v1/chat/completions を実装している任意のサーバーへリクエストを送信する仕組みですが、/v1 が含まれていないベースURLでは Tokios APIに到達できません。
また、YAMLを手動で編集せずにインタラクティブにこの設定を行うことも可能です。
プロバイダーリストから Custom endpoint を選択した後、同じベースURL、APIキー、デプロイ名を入力します。hermes model のインタラクティブフローにおける文言やプロンプトは Hermes Agentのバージョンによって異なる場合があるため、ご使用のバージョンをご確認ください。

トラブルシューティング

The API key Hermes sent is missing, malformed, or has been revoked. Confirm api_key in config.yaml holds the full sk-tok-… key with no extra whitespace, and check its status on the Keys tab.
指定した model の値が登録済みのデプロイメントと一致していません。Ollama、llama.cpp、vLLM、LM StudioのローカルモデルIDではなく、Models タブに記載されているパブリックなデプロイ名と完全に同一であることをご確認ください。
該当するデプロイメント用のコネクターがオフライン状態、あるいは同時接続数の上限に達しています。Connectors タブを確認してください。コネクターの状態は Online と表示されている必要があり、またそれを実行しているマシンも正常に稼働しておりアクセス可能である必要があります。

次に行うべき手順

クイックスタート

コネクターを設定し、最初のモデルデプロイを登録します。

対応するクライアント

その他の OpenAI および Anthropic 互換クライアント向けのベースURLとAPIキーの設定方法をご覧ください。