오픈소스 로컬 AI 실행 도구 올라마(Ollama)와 결합해 사용할 수 있는 데스크탑 AI 에이전트 허메스(Hermes)가 주목받고 있다. 단순한 챗봇을 넘어 메모리, 스킬, 크론 자동화, 서브에이전트 위임, 다양한 백엔드 샌드박스 연결을 통합한 자율 에이전트 플랫폼으로 설계됐으며, 올라마를 통해 무료로 사용할 수 있다는 점이 특징이다. Linux·macOS·Windows 세 운영체제를 지원하며, 설치는 터미널에서 올라마를 먼저 설치한 뒤 `ollama launch hermes-desktop` 명령으로 실행하는 방식이다.
허메스 에이전트는 메모리(이후 행동을 위한 정보 저장), 스킬(재현 가능한 행동 플레이북), 소울(음성·스타일·선호도 등 에이전트 특성), 크론(사전 예약 자동화), 세션 회상(이전 대화·파일·결정 기록의 검색 가능한 이력)이라는 다섯 가지 구성 요소를 갖는다. 이 요소들이 결합되면 에이전트는 사용자 메시지를 읽고 적합한 도구를 선택하며 스킬을 호출하고 메모리를 갱신하는 추론 루프를 구성한다. 모델 전환이 쉽고 각 단계의 실행 시간을 실시간으로 추적할 수 있으며, 세션별 아티팩트(생성된 파일 등)를 확인하고 채팅을 고정하는 기능도 제공된다. 매일 아침 슬랙 스레드를 요약하는 크론 작업 설정이나 음성 인터페이스 사용도 가능하다.
직접 테스트에서 허메스에 바이닐 앨범 재고 관리 앱 제작을 요청하자 에이전트는 먼저 어떤 종류의 앱이 필요한지, 전자(Electron) 기반인지 파이썬 기반인지를 순서대로 물어보며 요구 사항을 구체화했다. 작업 진행 과정은 실시간으로 창에 표시됐으며 각 단계별 소요 시간도 확인할 수 있었다. 다만 라이브러리 설치 안내에서 패키지 관리자 사용 방법에 오류가 있었고, 최종적으로 앱 실행에는 실패해 한계도 드러났다. 구글 제미나이(Gemini)를 포함한 다수 모델이 지원되며, GPT-OSS 모델과 올라마 조합이 무료 사용의 기본 옵션이다.
로컬에서 AI를 실행하는 방식은 클라우드 AI 대비 전력 소비와 개인정보 보호 측면에서 이점이 있다. 허메스는 기존 데스크탑 AI 앱이 단순 채팅 인터페이스에 그치는 경우가 많다는 한계를 넘어, 자가 학습 루프와 예약 자동화까지 통합한 에이전트 플랫폼으로 포지셔닝하고 있다. 다양한 백엔드(로컬·도커·SSH·싱귤래리티·모달)를 지원하는 샌드박스 구조도 보안이 중요한 업무 환경에서 유연성을 제공한다.
