자체 호스팅 AI 에이전트는 메모리와 설정 파일을 직접 읽고 쓴다. 이 상태가 훼손되면 겉으로는 합법적인 운영체제 호출만으로도 침해가 성립할 수 있다. 연구진은 이를 ‘자체 상태 공격(self-state attack)’으로 정의하고, 운영체제 수준 방어가 어디까지 대응할 수 있는지 분석했다. 이 연구는 동료검토 전 arXiv 프리프린트다.
공격 공간은 대상·메커니즘·세분성·시간의 네 축으로 구성했다. 실제 자체 호스팅 에이전트의 네 가지 워크로드 프로필(W1~W4)에서 활동 추적을 수집한 뒤, 23개 공격 유형과 실제 자체 상태 파일을 조작하는 43개 연산을 주입했다. 예방·탐지·복구의 일반 전략과 워크로드 조건부 전략을 함께 비교했다.
평가 결과, 지시문·설정 계층에는 접근통제, 메모리 계층에는 워크로드 조건부 탐지, 복구에는 주기적 백업을 적용하는 계층형 방어가 대부분의 공격 유형에서 효과를 보였다. 다만 일부 공격은 정상 파일 연산과 운영체제 수준에서 구조적으로 구별되지 않아 단순 접근 차단만으로 막기 어려웠다.
연구진은 공격 시점의 영향을 분리하기 위해 Exp 2에서 공격 위치를 무작위로 정하고, Exp 2-FIM에서는 같은 유형별 시행 횟수를 유지했다. 23개 유형을 대상으로 워크로드 조건부 탐지(B2)와 비조건부 탐지(B1)의 분류 분포와 참양성률도 비교했다. 복구 평가에서는 W3만 5-chain 추적 길이로 네 구간을 모두 덮었으며, 15-event 백업 간격에서 W3의 조밀한 추적은 롤백 때 약 15%의 이벤트 손실 비율을 남겼다. 더 희소한 워크로드에서는 긴 백업 간격이 사실상 중간 백업이 없는 상태에 가까워졌다.
결과는 자체 상태 공격에 대응하려면 접근통제 하나가 아니라 워크로드를 반영한 탐지와 백업을 결합해야 한다는 점을 보여준다. 동시에 남은 공격면은 운영체제 밖의 추가 신뢰·검증 계층이 필요할 가능성을 제기한다. 출처: arXiv 논문 페이지
저작권자 © STORIUM 무단전재 및 재배포 금지
