미국 사이버보안·인프라보안국(CISA)과 국가안보국(NSA), 영국·호주·캐나다·뉴질랜드의 사이버보안 당국이 공동으로 ‘에이전틱 AI 보안 가이던스’를 발표했다. 30페이지 분량의 이 문서는 자율적으로 작업을 수행하는 AI 에이전트를 조직에 도입할 때 발생하는 보안 위험을 체계적으로 정리하고, 안전한 운영을 위한 권고 사항을 제시한다.
가이던스는 에이전틱 AI의 위험을 5개 범주로 구분한다. 에이전트에 부여된 권한이 실제 필요 수준을 초과하는 ‘권한 과다’, 에이전트 설계 자체의 허점에서 비롯되는 ‘설계 결함’, 에이전트가 예상 범위를 벗어난 행동을 수행하는 ‘행동 위험’, 여러 에이전트가 연결된 구조에서 발생하는 ‘구조적 위험’, 그리고 문제 발생 시 책임 소재를 특정하기 어렵게 만드는 ‘책임 소재 불명확’이 그것이다.
핵심 권고 사항은 최소 권한 원칙의 철저한 적용과 중요 의사결정 단계에서의 인간 승인 체계 구축이다. 에이전트가 자율적으로 처리할 수 있는 작업 범위를 명확히 정의하고, 그 경계를 넘는 경우 사람이 개입하도록 설계해야 한다는 것이다. Five Eyes 기관들이 AI 보안 주제로 공동 가이던스를 낸 것은 이번이 처음으로, 에이전틱 AI가 국가 사이버보안 차원의 위협 요소로 공식 인정됐다는 의미를 갖는다.
이번 가이던스는 에이전틱 AI가 기업·정부 인프라에 빠르게 침투하는 상황에서 국제 사이버보안 당국이 공동으로 대응에 나섰다는 점에서 주목할 만하다. AI 에이전트는 사람의 개입 없이 시스템에 명령을 내리고 데이터를 이동시키며 외부 서비스와 상호작용할 수 있어, 기존 보안 아키텍처가 가정하지 않은 공격 경로를 열어줄 수 있다. 공격자가 에이전트를 탈취하거나 악성 지시를 주입하는 프롬프트 인젝션 공격이 특히 우려되는 시나리오다.
국내 금융·공공 부문에서도 AI 에이전트 도입 논의가 본격화하고 있는 가운데, 이번 Five Eyes 가이던스는 국내 보안 정책 수립의 중요한 참고 문서가 될 전망이다. 한국인터넷진흥원(KISA)과 국가정보원이 유사한 국내 기준을 마련할 때 이 문서의 5개 위험 범주와 최소 권한 원칙이 기준선으로 작용할 가능성이 높다.
저작권자 © STORIUM 무단전재 및 재배포 금지
