메타(Meta)의 독립형 AI 앱이 AI가 자동 생성한 클릭베이트(clickbait) 스타일 기사들로 구성된 ‘포 유(For You)’ 피드를 운영하다 논란에 휩싸였다. 더버지(The Verge)가 이 기능에 대해 메타 측에 질의하자, 메타는 “제한된 이용자를 대상으로 한 테스트였으며 기능을 폐기할 것”이라고 밝혔다.
해당 기능은 이용자 관심사를 추정해 기사 카드 형태로 프롬프트를 노출하고, 카드를 탭하면 AI가 즉석에서 본문 전체를 생성하는 방식이었다. 기사 주제·이미지·텍스트 모두 AI가 만들었으나, 피드 어디에도 AI 생성 콘텐츠임을 알리는 표시가 없었다. 더버지 기자의 피드에는 영국 문화를 소재로 한 기사 수십 개가 등장했는데, 취재 결과 일부는 실존하는 TV 프로그램을 변형했고 일부는 완전한 허구 서사였다. 메타는 본문 내 출처를 제시하지 않았고, 유명인 등 실존 인물의 AI 생성 이미지도 포함돼 있었다. 영국 여왕이 두 명 등장하거나 손 모양이 왜곡된 이미지 등 전형적인 AI 오류도 확인됐다.
이 사안이 주목받는 이유는 메타 자신이 공언해온 정책과의 모순 때문이다. 메타는 AI 생성 콘텐츠에 라벨을 자동으로 부착하고 이용자가 인지할 수 있어야 한다고 밝혀왔다. 그러나 이번 기능은 그 원칙과 정반대로 운영됐다. 메타는 더버지의 질의에 기능 목적·대상·안전장치·실존 인물 이미지 생성의 정책 준수 여부 등 핵심 질문들에 대한 답변을 거부했다. 대변인은 처음에 “피트니스 조언, 식단 계획 같은 관심사를 미리 제안하는 테스트”라고 설명했으나 이후 성명을 수정했고, 결국 세 번째 성명에서 기능 폐기를 공표했다.
AI가 만든 콘텐츠가 뉴스처럼 유통될 때의 위험성은 허위정보 확산과 출처 불명의 문제로 귀결된다. 소셜 플랫폼들은 AI 생성 이미지와 텍스트에 대한 투명성 규정을 강화하고 있는 시점에, 메타가 라벨 없이 AI 클릭베이트를 직접 생성·유통한 사실은 업계 신뢰 논의에 새로운 쟁점을 더했다. 이번 사례는 AI 콘텐츠 생산 자동화가 기술적으로 가능해지면서 그 책임 기준을 플랫폼 스스로 어떻게 설정할지의 문제가 더욱 중요해졌음을 보여준다.
저작권자 © STORIUM 무단전재 및 재배포 금지
