온라인에 올린 자녀 사진이 인공지능(AI) 기술과 결합해 성착취물이나 딥페이크 제작에 악용되는 사례가 늘면서, 영국 당국이 부모들에게 경고에 나섰다. 영국국가범죄청(NCA)과 인터넷감시재단(IWF)은 지난 4일(현지시간) 자녀 사진의 온라인 게시 위험성을 알리는 보호 지침을 발표했다. 범죄자들이 AI 도구와 아동 이미지를 결합해 성적인 콘텐츠를 만드는 사례가 확산하고 있다는 우려에서다.
IWF에 따르면 지난해 발견된 AI 생성 아동 성학대 영상은 3,440건으로, 2024년(13건)에 비해 크게 늘었다. 아동 보호 기관에는 부모가 SNS에 올린 아이 사진이 가짜 누드 사진으로 만들어졌다는 신고까지 접수됐다. NCA와 IWF는 상당수 부모가 자녀 사진 공개의 위험성을 제대로 인지하지 못하고 있다고 보고, SNS 계정을 비공개로 전환하거나 사진을 가족·친구 등 제한된 대상에게만 공유할 것을 권고했다. 학교나 기관이 아이들 사진을 온라인에 올리기 전 사전에 논의할 필요성도 함께 제기했다. IWF 최고기술책임자는 이를 가정 내 문제가 아니라 실제 발생하는 범죄로 규정하며, 온라인에 게시된 이미지를 사후적으로 보호할 방법이 마땅치 않은 만큼 게시 단계에서부터 신중해야 한다고 강조했다.
각국은 AI 악용 범죄에 대한 처벌 강화에 나서고 있다. 미국 캘리포니아주는 실제 아동이 아니더라도 AI로 만든 아동 성착취물을 제작·배포·소지하면 처벌하는 법안을 통과시켰고, 영국 정부도 앞서 AI 도구를 이용한 아동 성착취물 제작·소지·유포는 물론 제작 방법을 공유하는 웹사이트 운영까지 처벌 대상에 포함하는 법안을 추진해왔다. 텔레그램 등 대형 메신저 플랫폼에 대한 규제 강화 목소리도 커지고 있다.
한국에서도 딥페이크 성범죄는 이미 사회적 문제로 떠올랐다. 경찰이 수사한 딥페이크 성범죄 사건 다수에서 10대 피의자 비중이 높게 나타났으며, 학교 현장에서 동급생이나 교사의 얼굴을 합성한 음란물이 유포된 사례도 잇따라 보고됐다. 국내에서는 이런 불법 콘텐츠를 삭제 지원할 인력이 부족하다는 지적도 나온다.
전문가들은 딥페이크 성범죄 영상이 피해자의 인격을 심각하게 훼손할 수 있는 만큼, 처벌 강화와 함께 플랫폼 사업자의 책임을 명확히 하는 제도적 장치, 그리고 학부모·학생 대상 예방 교육이 병행돼야 한다고 지적한다. AI 기술 발전 속도에 범죄 수법이 함께 진화하고 있는 만큼, 규제와 대응 체계도 이에 맞춰 빠르게 정비될 필요가 있다는 목소리가 커지고 있다.
