Zum Hauptinhalt springen
Hermes Agent ist eine quelloffene autonome Agenten-Laufzeitumgebung von Nous Research. Im Gegensatz zu einem typischen Chat-Client stellt Hermes sowohl seinen eigenen OpenAI-kompatiblen Endpunkt für Frontends bereit, als auch verbraucht er ein OpenAI-kompatibles Backend für eigene Schlussfolgerungen. Diese Seite behandelt den zweiten Teil: das Ausrichten des Backend-LLM-Anbieters von Hermes auf Tokios, sodass seine Agentenschleife auf Ihrem privaten lokalen Modell läuft.
Hermes Agent ist eine Laufzeitumgebung und keine typische BYOK-Chat-Benutzeroberfläche. Betrachten Sie diese Integration als Verbindung eines Systems mit einem anderen (Hermes → Tokios), nicht als Konfiguration einer Chat-Anwendung.

​
Voraussetzungen

  • Einen laufenden Tokios Connector, der mit Ihrem lokalen Modell gekoppelt ist — siehe Connector-Installation
  • Einen registrierten Modell-Deployment-Namen — siehe Modell registrieren
  • Einen Tokios API-Schlüssel (sk-tok-…) — siehe API-Schlüssel
  • Hermes Agent installiert

​
Konfigurieren Sie den Backend-Anbieter des Hermes Agent

Hermes liest seine Backend-Anbieter-Einstellungen aus ~/.hermes/config.yaml. Die Anbieter-Schlüssel befinden sich unter einer übergeordneten model:-Zuordnung — sie sind keine eigenen übergeordneten Schlüssel:
~/.hermes/config.yaml
Die Verschachtelung ist entscheidend. Wenn provider, base_url und api_key auf der obersten Ebene stehen, ignoriert Hermes sie und fällt stillschweigend auf seinen Standard-Provider zurück — Sie erhalten einen funktionierenden Agenten, der Ihr lokales Modell niemals verwendet.
Ersetzen Sie gemma-tunnel durch den öffentlichen Deployment-Namen, den Sie auf der Models-Registerkarte registriert haben — nicht die lokale Modell-ID, die Ihr Backend (Ollama, llama.cpp, vLLM oder LM Studio) verwendet. Ersetzen Sie sk-tok-YOUR_KEY durch Ihren eigenen Schlüssel und vermeiden Sie es, ihn in eine freigegebene oder versionskontrollierte Konfigurationsdatei zu committen.
base_url muss /v1 enthalten. Der benutzerdefinierte Provider-Pfad von Hermes sendet Anfragen an jeden Server, der /v1/chat/completions implementiert, daher führt eine Basis-URL ohne /v1 dazu, dass die Tokios-API-Oberfläche nicht erreicht wird.
Sie können dies auch interaktiv ohne manuelles Bearbeiten der YAML-Datei festlegen:
Wählen Sie Custom endpoint aus der Provider-Liste und geben Sie dann dieselbe Basis-URL, den API-Schlüssel und den Deployment-Namen an. Die genaue Formulierung und die Eingabeaufforderungen des hermes model-Interaktivflusses können je nach Hermes-Agent-Version variieren, daher prüfen Sie Ihre eigene Version.

​
Fehlerbehebung

Der von Hermes gesendete API-Schlüssel fehlt, ist fehlerhaft oder wurde widerrufen. Bestätigen Sie, dass api_key in config.yaml den vollständigen sk-tok-…-Schlüssel ohne zusätzliche Leerzeichen enthält, und prüfen Sie dessen Status auf der Keys-Registerkarte.
Der Wert von model stimmt mit keinem registrierten Deployment überein. Bestätigen Sie, dass er exakt dem öffentlichen Namen auf der Models-Registerkarte entspricht — nicht Ihrer lokalen Modell-ID von Ollama, llama.cpp, vLLM oder LM Studio.
Der Connector für dieses Deployment ist offline oder hat seine maximale Parallelitätsgrenze erreicht. Überprüfen Sie die Connectors-Registerkarte — der Connector muss als Online angezeigt werden, und die Maschine, auf der er läuft, muss weiterhin aktiv und erreichbar sein.

​
Nächste Schritte

Schnellstart

Richten Sie den Connector ein und registrieren Sie Ihre erste Deployment.

Kompatible Clients

Siehe Basis-URL- und Schlüsselkonfiguration für andere OpenAI- und Anthropic-kompatible Clients.