지속적인 인간 감독 없이 작동하는 자율 에이전트는 LLM 기반 소프트웨어 에이전트든 물리적 로봇이든 공통된 실패 유형에 취약하다는 지적이 나왔다. 검증되지 않은 행동으로 인한 안전 위반, 제약 없는 반복 루프에서 비롯되는 행동 불안정, 처리되지 않은 오류 상태로 인한 작업 연속성 상실 등이다. 스리니 라마스와미, 왕먀오성 연구진은 이런 실패 유형을 줄이기 위해 다섯 단계의 실행 ‘기어(gear)’를 결합한 이산시간 제어 시스템을 개발했다.
연구진이 제안한 시스템은 관찰, 제안, 계획, 실행, 개입이라는 다섯 개 실행 기어를 유틸리티 게이트 기반 디스패치, 이벤트 기반 폴백(fallback)과 결합한 구조다. 단일 에이전트 상황에서는 이 시스템이 단조 안정성, 실행 안전성, 궁극적 안정화, 폴백 완전성을 보장하며, 기어로 제약된 마르코프 결정과정과 수학적으로 동등하다는 점을 증명했다고 밝혔다.
다중 에이전트로 구성된 사이버물리시스템(CPS)에는 기존에 확립된 ‘스마트(SMART)’ 관리형 자율성 생애주기를 적용해, 런타임에서 수집되는 증거를 안정·메타·보조·규제라는 네 가지 거버넌스 상태로 매핑했다. 여기에 합의 기반 게이팅, 군집 수준의 리아푸노프 안정성 분석, 에이전트별 기어 권한, 랑데부 제어를 결합해 명시된 가정 아래 충돌 제로를 포함한 분산 안전성과 안정성을 보장했다고 설명했다.
연구진은 3대의 로봇으로 구성된 UR5 로봇 조립 셀 환경에서 이 런타임을 검증했다. 미국 국립표준기술연구소(NIST)의 로봇 팔 위치 정확도 저하 측정 데이터셋에서 가져온 오류 크기를 적용해 1만 회의 몬테카를로 시뮬레이션을 수행한 결과, 단일 에이전트 기준선의 이상탐지율이 2.1%에 그친 데 비해 이 시스템은 99.6%의 이상탐지율을 기록했다. 탐지 지연 시간도 3.5배 줄었으며, 물리적 작업공간에 대한 형식적 안전 인증서도 함께 제공했다고 밝혔다.
연구진은 실행 기어가 스마트 런타임의 거버넌스 상태 아래에서 미시적 권한으로 작동하며, 행동 통제와 자율성 거버넌스를 분리하는 역할을 한다고 설명했다. 이 연구는 물리적 로봇과 소프트웨어 에이전트가 뒤섞여 협업하는 환경이 늘어나는 가운데, 세밀한 실행 단계별 통제와 상위 거버넌스 체계를 층위별로 분리해 설계하는 접근이 산업 현장의 안전성을 높이는 실용적 해법이 될 수 있음을 시사한다.
저작권자 © STORIUM 무단전재 및 재배포 금지
