메타(Meta)가 새로 공개한 이미지 생성 모델 ‘뮤즈 이미지(Muse Image)’가 다른 인스타그램 사용자를 AI 이미지 안으로 끌어오는 기능을 담아 프라이버시 논란이 불거지고 있다. 사용자가 공개 계정을 @멘션하면 메타 AI가 해당 프로필에서 공개된 사진을 가져와 그 인물이 등장하는 새 이미지를 만들어낸다. 문제는 이 과정에 당사자 동의가 필요 없다는 점으로, 계정 아이디만 있으면 합성이 가능하다.
이 기능은 공개 계정에 대해 기본값으로 켜져 있다. 사진 재사용을 막으려면 사용자가 직접 인스타그램 설정에서 게시물과 릴스의 재사용을 비활성화해야 한다. 게다가 옵트아웃하더라도 이미 생성된 이미지는 삭제되지 않는다. 유럽에서는 개인정보보호규정(GDPR) 위반 소지가 지적되고 있으며, 사후 옵트아웃 방식만으로는 규제 요건을 충족하기 어렵다는 관측이 나온다. 오는 8월 2일 발효되는 EU AI법 제50조는 실존 인물을 닮은 AI 생성물에 라벨 표시를 의무화한다.
기술적으로 뮤즈 이미지는 오픈AI의 GPT 이미지 2와 유사하게 에이전트처럼 작동한다. 정확도를 높이기 위해 외부 도구를 호출해 정확한 다이어그램, 스캔 가능한 QR 코드, 움직이는 GIF, 웹사이트, 인터랙티브 게임 등을 만들어낸다. 지식이 필요한 프롬프트에서는 웹 검색으로 실제 사실에 이미지를 근거 짓고, 결과가 어긋나면 부분 수정이나 전체 재생성으로 스스로 교정한다. 메타는 이런 자기 교정 행동이 강화학습 과정에서 자연스럽게 나타났다고 설명했다. 이미지 아레나(Image Arena) 평가에서는 GPT 이미지 2에 이어 사람 선호도 2위에 올랐다.
메타는 콘텐츠 실(Content Seal)이라는 보이지 않는 워터마크 시스템을 적용하고 있으나, 기계만 읽을 수 있는 워터마크가 법적 라벨 요건을 충족하는지는 아직 결론이 나지 않았다. 비판론자들은 사후 워터마킹이 애초에 원치 않는 이미지가 생성되는 것 자체를 막지는 못한다고 지적한다. 뮤즈 이미지는 현재 메타 AI 앱과 meta.ai, 미국 내 인스타그램 스토리, 왓츠앱에서 이용할 수 있으며, 페이스북과 광고주 접근은 순차 도입될 예정이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
