Hermes Agent는 Nous Research에서 출시한 오픈 소스 AI 어시스턴트 프레임워크로, 개발자가 자신의 머신이나 서버에서 개인용 어시스턴트를 실행하고 필요한 모든 도구를 연결할 수 있게 해줍니다. 코드는 GitHub에서 확인할 수 있습니다.

새로운 프레임워크가 중요한 이유

대부분의 소비자용 어시스턴트는 독점적인 API 뒤에 내부 작동 방식을 숨깁니다. 사용자가 프롬프트를 보내면 서비스가 어떤 모델을 호출하고 어떤 작업을 수행할지 결정하며, 사용자는 검사하거나 수정할 수 없는 답변을 받게 됩니다. 이러한 모델은 일반 사용자에게는 적합할 수 있지만, 워크플로우를 자동화하거나, 비공개 데이터 저장소와 통합하거나, 엄격한 보안 정책을 적용하려는 개발자들에게는 답답함을 줍니다. Hermes Agent는 이 구도를 뒤집습니다. 사용자와 언어 모델 사이에 위치하여 의사 결정 과정을 공개하고, 에이전트가 사용자를 대신해 호출할 수 있는 스크립트, 파일 시스템 명령 또는 서드파티 서비스와 같은 임의의 "도구(tools)"를 연결할 수 있게 해줍니다.

실질적인 이점은 즉각적입니다. 개발자는 Hermes를 실행하여 로컬 LLM이나 OpenRouter와 같은 API를 연결한 다음, 로그 파일을 grep 하거나 정적 분석 도구를 실행하거나 Docker 컨테이너를 생성하도록 요청할 수 있습니다. 에이전트는 대화 문맥을 기억하고, 요청에 적합한 도구를 결정하며, 구조화된 답변을 반환합니다. 요컨대, "답변 전용" 챗봇에서 "행동 중심" 어시스턴트로 진화한 것입니다.

Hermes Agent의 구조

  • Core – 사용자 입력을 받고 대화 기록을 추적하며, 모델의 제안에 따라 적절한 도구를 선택하는 오케스트레이터입니다.
  • Model – 의도와 가능한 작업을 생성하는 언어 모델입니다. 로컬에서 호스팅되는 오픈 소스 LLM부터 클라우드 엔드포인트까지, 사용자가 제어할 수 있는 어떤 모델이든 연결할 수 있습니다.
  • Tools – 실행 가능한 작업에 대한 얇은 래퍼(wrapper)입니다. 도구는 파일을 읽거나, REST API를 호출하거나, 셸 명령을 실행할 수 있습니다. 새로운 도구를 추가하는 방법은 Python 함수를 작성하고 프레임워크에 등록하는 것만큼 간단합니다.
  • Skills – 시스템 관리 지원이나 코드 리뷰 자동화와 같이 에이전트에게 특정 도메인에 특화된 능력을 부여하는 관련 도구들의 집합입니다.

이 아키텍처는 세 가지 관심사를 분리하여 유지합니다. 모델은 순수 텍스트 상태를 유지하고, Core는 흐름을 관리하며, Tools는 실제 작업을 수행합니다. 이러한 분리 덕분에 전체 시스템을 망가뜨리지 않고도 구성 요소를 쉽게 교체할 수 있습니다.

Hermes 실행하기

  1. 저장소 클론 – git clone https://github.com/NousResearch/hermes-agent.git
  2. 디렉터리로 이동 – cd hermes-agent
  3. 의존성 설치 – pip install -r requirements.txt
  4. 환경 설정 – .env.example 파일을 .env로 복사하고 필요한 API 키(OpenRouter 또는 사용할 예정인 기타 서비스용)를 입력합니다.
  5. 실행 – 명령줄에서 hermes를 실행합니다.

어시스턴트 확장하기

새로운 기능을 추가하는 과정은 다음의 3단계 패턴을 따릅니다:

보안 고려 사항

명령을 실행할 수 있는 AI 에이전트는 권한이 있는 사용자처럼 동작합니다. .env 파일에 API 키를 노출하거나 에이전트에 제한 없는 파일 시스템 액세스 권한을 부여하면, 모델이 침해당하거나 악의적인 프롬프트가 유입될 경우 백도어가 열릴 수 있습니다. 다음과 같은 방법으로 위험을 완화하십시오.

  • 주요 서비스와 격리된 컨테이너 또는 가상 머신 내부에서 에이전트를 실행합니다.
  • 비밀 정보를 환경 변수에 저장하고, 가능한 경우 읽기 전용으로 설정합니다.
  • 등록된 도구를 워크플로우에 필요한 최소한으로 제한합니다.
  • 예상치 못한 도구 호출을 감지할 수 있도록 에이전트의 로그를 정기적으로 검토합니다.

트레이드오프: 개방성 vs 편의성

Hermes Agent의 개방성은 개발자에게 완전한 제어권을 부여하지만, 호스팅된 어시스턴트가 제공하는 즉시 사용 가능한(turnkey) 경험은 포기해야 함을 의미합니다. 모델 업데이트, 확장성 및 보안 패치를 직접 관리해야 합니다. 전담 DevOps 리소스가 없는 팀은 여전히 관리형 서비스를 선호할 수 있습니다.

반대로, 의사 결정 체인의 모든 단계를 검토할 수 있다는 점은 민감한 데이터를 다루는 기업에게 결정적인 요소가 될 수 있습니다. 모듈식 설계는 커뮤니티의 기여를 유도하며, 이는 어떤 단일 벤더보다 빠르게 도구 생태계를 성장시킬 수 있습니다.

현재 이 프레임워크는 자신의 하드웨어에서 실행되고, 맞춤형 워크플로우에 맞게 조정할 수 있으며, 운영자에게 투명성을 유지하는 AI 어시스턴트를 원하는 모든 이에게 구체적인 경로를 제공합니다. 다음 단계는 간단합니다. 저장소를 클론하고, 실행한 다음, 매주 몇 시간씩 걸리는 작업을 수행하는 방법을 새로운 어시스턴트에게 가르치기 시작하십시오.