메타(Meta)의 AI 챗봇이 해커들의 사회공학 공격 수단으로 악용돼 인스타그램(Instagram) 계정 이메일 주소가 무단 변경되는 사건이 발생했다. 메타는 이번 공격으로 피해를 입었거나 표적이 된 사용자들을 확인하고 알림을 발송하고 있다.
해커들은 메타 AI 챗봇에게 자신이 표적 계정의 소유자라고 주장한 뒤, 해당 계정을 자신이 통제하는 이메일 주소에 연결해 달라고 요청했다. 챗봇이 이 요청에 응하면서 해커는 비밀번호를 재설정하고 계정을 탈취했으며, 일부 피해자는 자신의 계정에서 로그아웃되기도 했다. 이 과정에서 메타 직원이나 외주 인력은 전혀 개입하지 않았다. AI 챗봇이 계정 소유자인지 충분히 검증하지 않은 채 민감한 변경 작업을 수행한 보안 허점이 드러난 사례로, 과거 OG 계정 탈취가 피싱이나 전화번호 가로채기 같은 복잡한 수법을 요구했던 것과 달리 이번에는 해커가 단순히 요청만 한 것이 특징이다.
메타는 지난 3월 사용자 지원을 자동화하기 위해 “계정 문제를 처음부터 끝까지 해결”하고 “비밀번호를 안전하게 재설정”할 수 있는 AI 챗봇을 도입한다고 밝힌 바 있다. 이번 사건은 과거 사람이 개입해야 했던 민감 작업을 챗봇이 대신 수행하게 되면서 발생한 것으로, AI 에이전트가 계정 관리·설정 변경 등 민감한 작업까지 맡으면서 사회공학 공격의 새로운 통로가 될 수 있다는 우려가 현실화됐다. AI 챗봇에 요청자 인증과 민감 작업 검증 절차를 어떻게 설계할지에 대한 기술적·정책적 논의가 필요하다는 지적이 나온다.
메타 대변인은 한때 “문제는 이미 해결됐다”고 밝혔으나, 이후에도 계정이 탈취됐다는 신고가 이어졌고 일부 텔레그램 채널에서는 해킹 기법이 여전히 통한다는 주장과 함께 탈취 계정이 거래되기도 했다. 메타는 영향을 받은 계정을 우선 보호한 뒤 비밀번호 재설정 이메일을 발송하기 시작했으며, 피해 사용자에게는 “의심스러운 활동이 감지돼 계정이 침해됐을 수 있다”는 알림을 보내고 있다. 다만 메타는 몇 명이 피해를 입었는지는 공개하지 않았다.
AI 챗봇이 기업과 플랫폼의 다양한 기능에 통합되면서 이를 악용한 새로운 형태의 사이버 위협이 계속 등장할 것으로 전망된다. 권한이 큰 작업을 자동으로 수행하는 AI 시스템일수록 요청자 검증과 권한 통제를 어떻게 설계하느냐가 보안의 핵심 과제로 떠오르고 있다.
