일론 머스크(Elon Musk)의 인공지능 기업 xAI가 자사 챗봇 그록(Grok)으로 생성된 딥페이크 피해를 주장하는 원고 4명의 가명(pseudonym) 사용 허가를 취소해 달라고 미국 연방법원에 요청한 것으로 확인됐다. 5월 29일 법원 기록에 제출된 진술에 따르면 피해자들은 실명 공개 시 추가 온라인 괴롭힘과 극단적인 딥페이크 생성이 이어질 것을 우려해 가명 유지를 요청하고 있다.
이번 집단 소송은 올해 1월 그록이 대규모 여성 이미지 성적 합성에 악용되면서 시작됐다. 짧은 기간에 막대한 양의 성적 합성 이미지가 생성됐고 그 일부는 아동이 포함된 것으로 시민단체 분석에서 지적되는 등, 그록의 합성물 악용은 미국과 유럽 여러 당국의 조사 대상이 돼 왔다. xAI 측 변호인은 소송에서 피해자 이름 공개가 ‘사법 투명성’을 위해 필요하며 딥페이크 이미지 자체는 공개되지 않기 때문에 개인정보 침해 우려가 크지 않다고 주장했다.
피해자 대리인 소피아 리오스(Sophia Rios) 변호사는 xAI가 원고들에게서 이미지를 벗긴 데 이어 이제는 가명까지 빼앗으려 한다며, 소송을 포기하도록 압박하는 시도라고 강하게 반발했다. 버지니아 대학교 법학부의 다니엘 시트론(Danielle Citron) 교수는 프라이버시 소송에서 실명 공개를 강요하면 소송 자체가 취하되는 용납할 수 없는 상황이 발생한다고 경고했다. 원고 4명 모두 실명을 공개해야 할 경우 소송에서 탈퇴를 고려하고 있다고 법원 서류에 밝혔다.
AI가 생성한 불법 합성물에 대해 개발사의 법적 책임 범위를 어디까지 물을 수 있는지를 가늠할 이번 소송은 글로벌 AI 거버넌스 논의에서도 주목받고 있다. xAI와 X는 미국 외에도 유럽연합(EU)과 캘리포니아 당국의 조사를 받는 등 합성물 악용을 둘러싼 법적 압박이 전방위로 확산되고 있다. AI 생성 딥페이크 피해자 보호를 위한 법적 장치 마련과 AI 기업의 책임 범위를 둘러싼 논쟁이 본격화되는 계기가 될 전망이다.
