메인 콘텐츠로 건너뛰기
Hermes Agent는 Nous Research의 오픈소스 자율 에이전트 런타임입니다. 일반적인 채팅 클라이언트와 달리 Hermes는 프런트엔드가 연결할 자체 OpenAI 호환 엔드포인트를 노출하는 동시에, 자체 추론을 수행하기 위해 OpenAI 호환 백엔드를 사용합니다. 이 페이지는 두 번째 부분, 즉 Hermes의 백엔드 LLM 제공자를 Tokios로 지정하여 에이전트 루프가 사용자의 프라이빗 로컬 모델에서 실행되도록 하는 방법을 다룹니다.
Hermes Agent는 런타임이지, 일반적인 BYOK 채팅 UI가 아닙니다. 이 통합을 한 시스템을 다른 시스템에 연결하는 것(Hermes → Tokios)으로 취급하고, 채팅 앱을 구성하는 것으로 취급하지 마세요.

​
사전 요구 사항

  • A running Tokios connector paired with your local model — see Connector install
  • A registered model deployment name — see Register a model
  • A Tokios API key (sk-tok-…) — see API keys
  • Hermes Agent 설치됨

​
Hermes Agent의 백엔드 공급자를 구성하세요.

Hermes는 ~/.hermes/config.yaml에서 백엔드 공급자 설정을 읽습니다. 공급자 키는 최상위 model: 매핑 아래에 있습니다 — 그 자체로는 최상위 키가 아닙니다.
~/.hermes/config.yaml
중첩이 중요합니다. provider, base_url, api_key가 최상위 수준에 있으면 Hermes는 이를 무시하고 기본 제공자로 자동 폴백합니다. 결과적으로 로컬 모델을 전혀 사용하지 않는 작동하는 에이전트가 생깁니다.
Replace gemma-tunnel with the public deployment name you registered on the Models tab — not the local model id your backend (Ollama, llama.cpp, vLLM, or LM Studio) uses. Replace sk-tok-YOUR_KEY with your own key, and avoid committing it into a shared or version-controlled config file.
base_url에는 /v1가 포함되어야 합니다. Hermes의 커스텀 공급자 경로는 /v1/chat/completions를 구현하는 모든 서버에 요청을 보내므로, /v1가 없는 기본 URL은 Tokios API 표면에 도달하지 못합니다.
YAML을 직접 편집하지 않고도 대화형으로 설정할 수도 있습니다.
공급자 목록에서 Custom endpoint를 선택한 다음 동일한 base URL, API 키, 배포 이름을 제공하십시오. hermes model 대화형 흐름의 정확한 문구와 프롬프트는 Hermes Agent 릴리스에 따라 달라질 수 있으므로 자신의 릴리스를 확인하십시오.

​
문제 해결

Hermes가 보낸 API 키가 없거나, 형식이 잘못되었거나, 해지되었습니다. api_key이(가) config.yaml에서 추가 공백 없이 전체 sk-tok-… 키를 보유하는지 확인하고, Keys 탭에서 상태를 확인하세요.
그 model 값이 등록된 배포와 일치하지 않습니다. Models 탭에 표시된 공개 이름과 정확히 일치하는지 확인하세요. Ollama, llama.cpp, vLLM, LM Studio 로컬 모델 ID가 아니라요.
해당 배포용 커넥터가 오프라인이거나 동시성 상한에 도달했습니다. Connectors 탭을 확인하십시오. 커넥터가 Online로 표시되어야 하며, 이를 실행하는 머신이 계속 켜져 있고 연결 가능해야 합니다.

​
다음 단계

빠른 시작

커넥터를 설정하고 첫 번째 모델 배포를 등록하세요.

호환 클라이언트

다른 OpenAI 및 Anthropic 호환 클라이언트에 대한 기본 URL 및 키 설정을 참조하세요.