소셜 미디어 피드에서 AI가 만들어낸 가상 인물을 알아보기가 갈수록 어려워지고 있다. 초창기 AI 인플루언서들은 과도하게 매끄러운 외형과 제작 과정의 공개적 홍보 덕분에 상대적으로 식별이 쉬웠다. 하지만 생성 AI 기술의 급속한 발전으로 정적 이미지는 물론 영상과 목소리까지 실제 인물과 구별하기 어려운 수준에 도달했다. 구글(Google), 오픈AI(OpenAI) 같은 주류 플랫폼부터 히그스필드(Higgsfield), 헤이젠(HeyGen), 일레븐랩스(ElevenLabs) 같은 전문 서비스까지 관련 도구가 넓게 보급됐고, 별도의 스튜디오나 고가 장비 없이도 AI 인플루언서를 만들 수 있는 환경이 조성됐다.
이에 따라 AI 콘텐츠 창작자의 스펙트럼도 급격히 넓어졌다. 허위 콘텐츠와 낮은 품질의 복제 게시물이 플랫폼을 채우는가 하면, 불법 딥페이크나 사기성 금전 요청, 허위 정보 유포에 악용되는 사례도 늘고 있다. 플랫폼들은 AI 생성 콘텐츠에 대한 레이블(표시) 규정을 도입했지만, 이 규정은 개별 게시물 단위에 초점을 맞출 뿐 계정 자체가 AI인지 여부는 다루지 않는다. AI 인물은 사기, 스팸, 사칭, 음란물 등 기존의 어느 위반 범주에도 깔끔하게 들어맞지 않아 회색지대에 놓여 있다. 일부 시장조사 기관은 가상 인플루언서 시장이 현재 약 120억 달러 규모에서 2030년까지 600억 달러를 넘어설 것으로 전망하고 있다.
플랫폼들의 대응은 모순적이라는 평가가 많다. 유튜브(YouTube), 틱톡(TikTok), 인스타그램(Instagram) 등은 합성 미디어 레이블 정책을 시행하면서도 동시에 자체 AI 창작 도구를 출시해 이용자에게 장려하는 이중적 태도를 보이고 있다. 플랫폼 입장에서는 AI 계정이 생성하는 참여(engagement)도 결국 참여로 집계되기 때문에, 존재하는 규칙의 범위 안에서 활동하는 AI 인플루언서를 강력하게 단속할 유인이 크지 않다. 콘텐츠 신고를 이용자에게 맡기는 자율 모더레이션 방식도 탐지를 회피하도록 설계된 AI 계정 앞에서는 효과가 제한적이다.
규제 압력은 서서히 높아지고 있다. 딥페이크와 합성 스팸에 대한 공론화가 이어지는 가운데, 유럽연합(EU)의 AI법(AI Act)은 AI가 생성하거나 조작한 콘텐츠에 대해 명확한 공개 의무를 부과하고 이를 어기면 고액의 과징금을 부과하는 조항을 포함하고 있다. 이 조항이 본격 시행되면 플랫폼들도 AI 콘텐츠 표시를 강화하는 방향으로 압박을 받을 것으로 예상된다. 그러나 초점이 여전히 콘텐츠에 맞춰져 있어, 계정 전체가 AI 인물인 경우를 어떻게 다룰지는 여전히 불분명하다. 플랫폼이 자체적으로 경계를 긋지 않는다면, 결국 이용자들이 스스로 진짜와 가짜를 가려내야 하는 부담을 져야 하는 상황이 지속될 전망이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
