대형언어모델(LLM)과 솔버, 여러 AI 에이전트로 구성된 팀이 스스로 작업 행동과 수정안, 계획을 생성하는 사례가 늘고 있지만, 이렇게 생성된 행동이 문법적으로는 문제없어 보여도 실제로는 낡거나, 실행 불가능하거나, 서로 충돌하거나, 심지어 수정을 촉발한 증거 자체를 훼손할 위험이 있다는 지적이 나왔다. 에드워드 창, 겅룽링, 에밀리 제이 등 연구진은 이런 문제를 해결하기 위해 ‘에이전틱 트랜잭션 처리(ATP)’라는 새로운 모델을 제안했다.
ATP는 AI가 생성한 행동을 곧바로 신뢰하지 않고, 명시적으로 선언된 실행 가능한 제약조건 집합(C)을 통과할 때까지 ‘검증되지 않은 제안’으로 취급하는 트랜잭션 모델이다. 연구진은 이 원칙을 양방향으로 설명한다. 하나의 제안이 곧 진실은 아니며, 어떤 제안도 모든 돌발 상황을 예견할 수 없다는 것이다. 누구든 제안은 할 수 있지만, 실제로 승인하고 커밋하는 것은 오직 런타임뿐이며, 예기치 못한 교란이 발생하면 새로운 제안을 무작정 신뢰하기보다 정해진 범위 안에서 반응적으로 복구를 수행한다.
이런 구조 덕분에 제약조건 C를 기준으로 볼 때, 최종 상태의 정합성은 제안을 내놓는 계층(LLM이나 에이전트)의 역량이나 정직성, 학습 수준과 무관하게 보장될 수 있다는 것이 연구진의 설명이다. 연구진은 이 개념을 ‘므네모시네(Mnemosyne)’라는 실제 런타임으로 구현했다. 므네모시네는 추가만 가능한 전이 로그, 유효 상태 투영, 의존성을 고려한 보상(compensation) 처리, 활성 커밋 기록 등을 갖췄으며, 연구진은 권한 분리, 직렬 등가 생성적 승인, 증거 보존형 복구, 의무 봉쇄라는 네 가지 안전성 속성과, 국소적 복구 프로토콜(LCRP)에 대한 유계 반응적 복구 보장을 함께 증명했다고 밝혔다.
연구진은 재현 가능한 실험 결과물을 통해 아홉 가지 오류 유발 테스트 전반에서 목표한 위반을 모두 걸러내면서도 정상적인 작업은 그대로 승인했다고 밝혔다. 이 과정에서 발생하는 오버헤드는 검증·투영 비용을 합쳐 6% 미만에 그쳤으며, 국소적 복구는 전면 재계산 방식보다 자릿수 하나만큼(약 10배) 더 적은 연산으로 처리됐다고 설명했다. 므네모시네는 오픈소스로 공개됐다.
이 연구는 여러 AI 에이전트가 자율적으로 협업하며 실제 시스템의 상태를 변경하는 ‘에이전틱 워크플로우’가 확산하는 가운데, 신뢰할 수 없는 AI 제안과 신뢰해야 하는 최종 실행 사이에 검증 계층을 두는 아키텍처적 해법을 제시했다는 점에서 눈길을 끈다. AI가 만든 코드나 작업 계획을 곧바로 실행하는 대신 트랜잭션 단위로 통제하려는 이런 접근은 향후 에이전트 기반 자동화 시스템의 신뢰성을 높이는 실용적 설계 방향으로 주목받을 전망이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
