메타(Meta) 감독위원회(Oversight Board)가 성적으로 묘사된 AI 생성 딥페이크로부터 일반인을 보호하기 위한 정책 강화를 공개적으로 촉구했다. 위원회는 메타가 성인 성적 착취 정책(Adult Sexual Exploitation policy)에 AI 생성 신원 도용 이미지·영상을 명시적으로 포함시키고, 이런 콘텐츠는 당사자 동의가 없는 것이 기본값이라고 규정할 것을 권고했다. 또 신뢰할 수 있는 지인이 피해자를 대신해 신고할 수 있도록 ‘연결 계정’ 지정 기능을 도입하고, 콘텐츠 신고 양식에서 성적 딥페이크를 괴롭힘·나체 노출과 구분된 독립 항목으로 분리할 것도 요구했다. 현재 텍사스·플로리다 주 거주자에게만 제공되는 딥페이크 친밀 영상 전용 신고 양식을 전 세계 이용자로 확대해야 한다는 주장도 담겼다.
이번 권고는 위원회가 실제 사건을 조사하는 과정에서 나왔다. 한 이용자가 인스타그램에 게시된 지인의 성적 딥페이크 영상을 신고했지만 메타가 이를 반복해서 방치한 사례가 발단이었다. 영상 속 여성은 이미 계정을 폐쇄한 상태였고, 두 명의 신고자가 문제를 제기했음에도 메타는 삭제 대신 성인 대상 콘텐츠로 제한하는 조치만 취했다. 위원회가 직접 메타 측에 문의하자, 회사는 당시 영상 속 인물이 실존 인물임을 확인할 수 없었다고 밝혔다. 메타의 현행 정책은 피해 당사자가 직접 신고하거나 법 집행 기관·언론 등 신뢰할 수 있는 외부 기관이 비동의 사실을 확인하는 경우에만 정책 위반으로 처리한다. 위원회는 이 구조가 법적 조력이나 언론 노출에 접근하기 어려운 일반인에게 사실상 자기 신고 외의 구제 수단을 차단한다고 비판했다.
위원회는 “AI 도구의 규모·속도·정교함이 비동의 성적 콘텐츠의 폭발적 확산을 초래했으며, 이는 여성과 소녀에게 불균형적으로 집중되는 명예·심리적 피해를 낳고 사회·정치적 참여를 위축시킨다”고 밝혔다. 이번 권고는 AI가 생성한 이스라엘 하이파 폭격 허위 영상 관련 수사, 메타 콘텐츠 규정 집행의 일관성 결여를 ‘비합리적’이라고 규정한 중간 평가에 이어 나온 것으로, 위원회와 메타 간 AI 콘텐츠 거버넌스를 둘러싼 긴장이 지속되는 흐름을 보여준다. 메타는 권고에 공식 응답할 의무는 있지만 이행 자체는 강제되지 않으며, 위원회가 구현 과정을 모니터링할 예정이라고 밝혔다.
저작권자 © STORIUM 무단전재 및 재배포 금지
