LLM(대규모 언어 모델) 에이전트를 운영체제 프로세스처럼 관리하는 새로운 런타임 기반 아키텍처 Agent libOS가 arXiv에 공개됐다. 저자 잉치 장(Yingqi Zhang) 등은 AI 에이전트가 단순한 요청-응답 방식의 보조자에서 여러 모델 호출에 걸쳐 상태를 유지하고 하위 작업을 분기하며 외부 이벤트를 기다리고 부작용을 감사 가능하게 기록해야 하는 복잡한 소프트웨어 행위자로 진화하고 있다고 분석했다.
Agent libOS는 기존 운영체제 위에서 동작하는 소프트웨어 계층으로, 커널 모드 격리나 POSIX 호환 운영체제를 구현하지 않는다. 대신 에이전트를 AgentProcess라는 단위로 취급해 프로세스 식별자, 부모-자식 계층, 생명 주기 상태, AgentImage에서 파생된 도구 테이블, 타입이 지정된 객체 메모리(Object Memory), 명시적 권한(capability), 인간 승인 큐, 체크포인트, 이벤트, 감사 기록을 갖도록 설계했다. 핵심 설계 원칙은 “도구는 libc 방식의 래퍼이며, 런타임 프리미티브가 실제 권한 경계”라는 것으로, 파일 시스템 접근·객체 접근·슬립·인간 승인·도구 등록 및 외부 부작용이 명시적 권한과 정책하에서 프리미티브 경계에서 검사된다.
현재 파이썬 프로토타입은 비동기 스케줄링, 네임스페이스 로컬 객체 메모리, 런타임에 통합된 인간 승인, 동적 도구 생성 등을 구현하며, 작성 시점 기준 123개의 회귀 테스트와 실모델 기반 결정론적 점검 스크립트를 갖췄다. 저자들은 Agent libOS가 플래너 정확도 향상보다는 장기 실행 LLM 에이전트가 도구 디스패치를 신뢰 경계로 삼지 않고도 스케줄링·권한 부여·재개·감사가 가능한 런타임 기반을 실증한다는 점에서 의의가 있다고 설명했다.
이 연구는 에이전트 인프라에서 보안과 감사 가능성이 핵심 과제로 부상하는 시점에 등장했다. 도구 오용이나 프롬프트 인젝션으로 인한 의도치 않은 부작용이 실용 에이전트 배포의 걸림돌로 꼽히는 상황에서, 운영체제 설계 철학을 에이전트 런타임에 적용하는 접근은 에이전트 안전성 연구와 실무 배포 설계에 새로운 방향을 제시한다. 향후 실모델을 활용한 검증과 다중 에이전트 시나리오로의 확장이 과제로 남는다.
