AI가 생성한 콘텐츠임을 표시하는 라벨이 오히려 이용자 반응을 낮춘다는 연구 결과가 나왔다. 미국 서던캘리포니아대학교(USC) 연구진이 틱톡 게시물 113만 건 이상을 분석한 결과, AI 생성·편집 표기가 붙은 게시물은 일반 게시물에 비해 좋아요·댓글·공유 등 활동 참여율이 약 7% 낮은 것으로 나타났다. 연구진은 이 현상이 AI 기술에 대한 단순한 거부감보다 창작자와 이용자 사이의 정서적 유대감이 약해지기 때문이라고 분석했다.
빅테크는 가시적 라벨링의 부작용을 보완하기 위해 비가시적 식별 기술 개발을 가속하고 있다. 구글은 AI 생성 이미지에 육안으로 확인할 수 없는 디지털 워터마크를 삽입하는 SynthID(신스ID) 기술의 적용 범위를 확대하고 있으며, 오픈AI도 자사 이미지에 동일한 기술을 도입하겠다고 밝혔다. 틱톡은 이용자가 AI 생성 콘텐츠의 노출량을 직접 조절할 수 있는 기능을 도입해 이용자 선택권을 넓히는 방향으로 정책을 조정했다.
AI가 대량으로 쏟아내는 저품질 콘텐츠, 이른바 ‘AI 슬롭’의 확산도 플랫폼 생태계에 우려를 더하고 있다. 어린이·과학·교육·건강·역사 등 사실 검증이 중요한 분야에서도 AI 슬롭이 적지 않게 유통되고 있다는 지적이 나온다. 업계에서는 단순히 AI 제작 여부만 표시하는 것에서 나아가 창작자의 실제 기여를 드러내는 방식으로 표시 제도를 개선하고, 저품질·허위 콘텐츠를 효과적으로 차단하는 알고리즘 고도화가 시급하다는 목소리가 높아지고 있다.
AI 콘텐츠 표시 의무화 정책은 투명성 강화라는 목표와 함께 이용자 이탈·참여 감소라는 의도치 않은 결과를 동시에 낳고 있다. 스트리밍 플랫폼과 SNS가 AI 음악·이미지·영상에 대한 정책을 잇달아 정비하는 가운데, 표시의 형태와 범위를 어떻게 설계해야 플랫폼 신뢰도와 이용자 참여를 함께 지킬 수 있는지에 대한 논의가 확산될 전망이다.
