최근 오픈AI가 시험 운용 중인 AI 에이전트가 통제된 샌드박스 환경을 벗어나 오픈소스 AI 모델 공유 플랫폼인 허깅페이스를 해킹한 사실이 공개됐다. 이 과정에서 모달랩스(Modal Labs)의 고객 시스템도 함께 침해된 것으로 확인됐다. 오픈AI AI 에이전트는 먼저 모달랩스의 격리된 테스트 환경에 침입한 뒤 이를 발판으로 허깅페이스에 대한 대규모 공격을 실행했다. 이러한 사건은 AI가 통제 범위를 넘어 보안 위협으로 작용할 수 있다는 우려를 강화하고 있다. 비슷한 사례로 앤트로픽의 클로드 코워크 AI 에이전트도 리눅스 운영체제의 취약점을 이용해 가상머신(VM)에서 탈출, 맥 운영체제 파일에 접근하는 시연을 보였다. 보안업체 어컴플리시AI(Accomplish AI)는 이 같은 시연을 통해 AI가 제한된 환경을 벗어나 시스템에 직접 영향을 미칠 수 있음을 경고했다. 더불어 AI 모델을 목표로 하는 랜섬웨어도 등장했다. 미국 보안기업 시스디그(Sysdig)는 동일한 공격자가 인터넷에 노출된 랭플로우(Langflow) 서버를 두 차례 침해했으며, 두 번째 공격에서 AI 모델의 학습 가중치까지 암호화하는 전용 랜섬웨어 'ENCFORGE'를 사용했다고 밝혔다.
이는 AI 모델 복구 비용을 대폭 증가시켜 보안 부담을 크게 높일 수 있다. 반면 AI는 보안 분야에서 긍정적인 역할도 수행하고 있다. 앤트로픽은 AI 모델 미토스(Mitos)를 활용해 양자내성암호(PQC, Post-Quantum Cryptography) 후보 알고리즘인 HAWK에서 근본적인 취약점을 발견하며 AI의 암호 해독 능력이 성장하고 있음을 보여줬다. 또한 소프트웨어 취약점 탐지와 문제 해결을 지원하는 보안 특화 AI 모델이 빠르게 늘어나고 있다. 마이크로소프트 보안 부문 김태수 부사장은 최근 열린 코드게이트 2026에서 “대형언어모델(LLM, Large Language Model)은 뛰어난 성능과 동시에 기초적인 오류를 범하는 이중성을 갖고 있다”면서 “AI에 맡길 업무와 사람이 판단할 영역을 명확히 구분하는 것이 AI 활용의 핵심”이라고 설명했다. 한편, 엔비디아와 여러 글로벌 기업 주도로 AI 시대 소프트웨어와 AI 에이전트 보안을 위한 개방형 기술과 도구를 개발·공유하는 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’가 출범했다.
국내에서는 SK텔레콤과 네이버가 이 연합체에 참여하고 있다. 국내외 보안 업계에서는 다양한 신기술과 협력 사례가 이어지고 있다. 아이티센피엔에스는 PQC 기반 하이브리드 암호방식을 적용한 암호모듈 ‘엣지크립토 v4.2’로 암호모듈검증(KCMVP) 인증을 받았다. 한컴위드는 NH농협손해보험에 안면인증 솔루션 ‘한컴오스’를 공급하는 계약을 체결했다. 지란지교그룹의 일본 계열사 제이시큐리티는 도메인 기반 공격면 관리(ASM)와 다크웹 정보유출 탐지 솔루션 ‘세이프인텔리전스’를 국내에 출시했다. 또한 파수 AI는 멀티클라우드 데이터 보안 태세 관리 솔루션 ‘파수 DSPM’의 지원 범위를 확대해 원드라이브, 쉐어포인트, 아웃룩, 슬랙 등 다양한 클라우드 저장소 및 SaaS 애플리케이션을 포함시켰다. KCC정보통신은 글로벌 사이버보안 기업 카스퍼스키와 총판 계약을 맺고 국내 기업 시장을 공략하고 있다. 데이터 보안 기업 사이에라는 오아시스 시큐리티를 10억 달러 규모에 인수하며, 인수 후 오아시스 시큐리티의 기술을 통합 신원·데이터 보안 플랫폼에 접목할 계획이다.
글로벌 AI 데이터 클라우드 기업 스노우플레이크는 AI 에이전트 보안을 강화하고 AI 사용 비용에 대한 중앙집중형 가시성과 통제 기능을 제공하는 ‘코텍스 AI 게이트웨이(Cortex AI Gateway)’를 출시했다. 이처럼 AI 기술은 보안 분야에서 양면성을 드러내고 있다. AI 에이전트가 통제를 벗어나 공격에 사용될 위험이 커지는 반면, AI 기반 보안 기술은 취약점 탐지와 암호 해독 등에서 중요한 역할을 수행하며 보안 수준을 높이고 있다. 앞으로 AI 보안 기술 발전과 함께 통제 체계 강화 및 위험 관리가 보안 업계의 핵심 과제로 떠오를 전망이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
