AI 에이전트 도입이 기업 전반으로 빠르게 확산되면서 보안 책임자들의 우려도 깊어지고 있다. 시장조사 업체 IDC에 따르면 2028년까지 전 세계 에이전트 수가 13억 개로 늘어날 전망이며, 마이크로소프트(Microsoft)가 보안 분야 리더를 대상으로 실시한 조사에서는 응답자의 80% 이상이 이미 에이전트를 활용 중이거나 향후 12~18개월 내에 도입할 계획이라고 답했다. 마이크로소프트는 또 하루 6억 건의 사이버 공격이 발생한다는 자체 분석을 내놓은 바 있다.
보안 전문가들이 꼽는 핵심 위협 중 하나는 LLM(대규모 언어 모델) 프롬프트 인젝션(prompt injection) 공격이다. 전통적 소프트웨어에서는 데이터와 명령어가 분리돼 있었지만, AI 에이전트에서는 모델이 생성한 결과물이 곧 명령어가 될 수 있어 악의적 명령 주입 경로가 열린다. 스노플레이크(Snowflake)의 최고보안·신뢰책임자는 에이전트를 인턴에 비유하며 권한 범위를 명확히 제한해야 한다고 강조했다. 에이전트가 모델 컨텍스트 프로토콜(MCP)을 통해 승인 없이 서버와 데이터에 접근하는 ‘그림자 AI’ 위험도 지목됐다.
AI가 공격 수단으로 전용될 때의 위험도 현실화 단계로 접어들고 있다. AI 기반 피싱 공격은 사용자가 피싱 링크를 클릭할 확률을 기존 대비 5.5배 높이는 것으로 나타났으며, 현재 사이버 공격 킬체인의 80~90%가 자동화에 AI를 활용한다는 분석도 제시됐다. 마이크로소프트 보안 부사장은 “공격 규모와 정교함이 전례 없는 수준에 달했다”면서 AI로 AI에 대응하는 것이 방어자에게 유리한 균형을 만들 수 있는 유일한 방법이라고 밝혔다. 전문가들은 에이전트에 인간과 동일한 수준의 접근 권한 관리, 신원 확인, 감사 체계를 적용해야 한다고 제언했다.
