Passer au contenu principal
L’agent Hermes est un environnement d’exécution autonome open source développé par Nous Research. Contrairement à un client de discussion classique, il propose lui-même un point de terminaison compatible OpenAI auquel les interfaces frontales peuvent se connecter, tout en utilisant un fournisseur backend compatible OpenAI pour ses propres raisonnements. Cette page traite de la seconde fonctionnalité : indiquer à ce fournisseur backend d’utiliser Tokios afin que la boucle d’agent s’exécute sur votre modèle local privé.
L’agent Hermes constitue un environnement d’exécution et non une interface de discussion BYOK classique. Considérez cette intégration comme le raccordement de deux systèmes (Hermes vers Tokios) plutôt que comme une simple configuration d’application de discussion.

Prérequis

Configuration du fournisseur backend de l’agent Hermes

Hermes lit les paramètres de son fournisseur backend depuis ~/.hermes/config.yaml. Les clés relatives au fournisseur se trouvent au sein d’une structure model: de niveau supérieur ; elles ne figurent pas en tant que clés autonomes au niveau racine :
~/.hermes/config.yaml
Le niveau de imbrication est crucial. Lorsque provider, base_url et api_key se trouvent au niveau supérieur, Hermes les ignore et bascule automatiquement vers son fournisseur par défaut ; vous obtenez ainsi un agent fonctionnel qui n’utilise jamais votre modèle local.
Remplacez gemma-tunnel par le nom de déploiement public que vous avez enregistré dans l’onglet Models, et non par l’ID de modèle local utilisé par votre backend (Ollama, llama.cpp, vLLM ou LM Studio). Remplacez également sk-tok-YOUR_KEY par votre propre clé API, en veillant à ne pas la consigner dans un fichier de configuration partagé ou soumis au contrôle de version.
base_url doit contenir /v1. Le chemin de fournisseur personnalisé d’Hermes transmet les requêtes à tout serveur mettant en œuvre /v1/chat/completions ; par conséquent, une URL de base dépourvue de /v1 ne parvient pas à accéder au tableau de bord de l’API Tokios.
Il est également possible de configurer ces paramètres de manière interactive sans modifier manuellement le fichier YAML.
Choisissez Custom endpoint dans la liste des fournisseurs, puis saisissez la même URL de base, la même clé API et le même nom de déploiement. Le libellé exact et les invites du processus interactif d’hermes model peuvent varier selon la version d’Hermes Agent ; vérifiez donc les détails de votre version.

Résolution de problèmes

La clé API transmise par Hermes est absente, mal formatée ou a été révoquée. Assurez-vous que api_key dans config.yaml contient bien la clé sk-tok-… complète sans espaces superflus, puis vérifiez son statut dans l’onglet Keys.
La valeur indiquée pour model ne correspond à aucun déploiement enregistré. Vérifiez qu’elle coïncide exactement avec le nom public figurant dans l’onglet Models, et non avec l’ID de modèle local attribué à Ollama, llama.cpp, vLLM ou LM Studio.
Le connecteur associé à ce déploiement est hors ligne ou a atteint sa limite de concurrence. Consultez l’onglet Connectors : le connecteur doit afficher l’état Online, et la machine l’exécutant doit rester opérationnelle et joignable.

Prochaines étapes

Démarrage rapide

Configurez le connecteur et enregistrez le premier déploiement de votre modèle.

Clients compatibles

Consultez la configuration de l’URL de base et de la clé API pour d’autres clients compatibles avec OpenAI et Anthropic.