오픈AI 공식 계정인 것처럼 위장한 허깅페이스(Hugging Face) 리포지토리가 AI 모델 공급망 공격 수단으로 악용됐다. ‘Open-OSS/privacy-filter’라는 이름으로 등록된 해당 리포지토리는 공개 후 18시간 만에 허깅페이스 트렌딩 1위에 올랐고 24만4000여 회 다운로드됐다.
이 리포지토리의 설치 스크립트 ‘loader.py’를 실행하면 러스트(Rust) 기반 정보탈취 멀웨어가 시스템에 설치됐다. 멀웨어는 브라우저에 저장된 로그인 자격증명, 쿠키, 암호화 키 등을 수집해 외부로 전송했다. 보안 연구자들은 이 공격을 중국 위협 행위자 그룹 ‘실버 폭스(Silver Fox)’의 소행으로 귀속했다.
리포지토리가 단시간에 트렌딩 상위에 오를 수 있었던 배경에는 조직적인 좋아요 조작이 있었다. 분석 결과 667개의 봇 계정이 동원돼 해당 리포지토리에 인위적으로 좋아요를 집중시킨 것으로 드러났다. 허깅페이스는 트렌딩 알고리즘이 좋아요 수와 다운로드를 주요 지표로 삼기 때문에 이런 조작에 구조적으로 취약한 면이 있다.
AI 모델 허브는 개발자들이 사전 훈련된 모델과 데이터셋을 즉시 내려받아 쓰는 환경이어서 신뢰도가 핵심이다. 그러나 누구나 리포지토리를 등록할 수 있는 개방 구조는 위장 계정이나 악성 코드 삽입 공격에 노출되기 쉽다. 이번 사례는 오픈소스 AI 생태계의 공급망 보안이 얼마나 취약한지를 보여주는 사례로 기록됐다.
허깅페이스는 해당 리포지토리를 삭제하고 관련 계정을 차단했으나, 이미 다운로드한 사용자들은 즉시 설치 파일을 삭제하고 자격증명을 갱신해야 한다. AI 커뮤니티에서는 모델 허브 플랫폼이 코드 스캔 자동화와 계정 인증 강화 등 공급망 보안 체계를 대폭 강화해야 한다는 목소리가 높아지고 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
