유튜브(YouTube), 인스타그램(Instagram), 틱톡(TikTok) 등 주요 온라인 플랫폼들이 AI 생성 콘텐츠를 구분하는 레이블 시스템을 도입했지만, 정작 사용자가 해당 콘텐츠를 자신의 피드에서 걸러낼 수 있는 필터 기능은 제공하지 않고 있다. 메타(Meta)는 페이스북과 인스타그램에서 AI 메타데이터가 포함되거나 창작자가 자발적으로 신고한 이미지에 ‘AI 정보’ 레이블을 붙이는 방식을 운영 중이며, 틱톡과 유튜브도 피드 설명란이나 영상에 직접 AI 표기를 적용하고 있다. 그러나 사용자가 이 레이블을 기준으로 콘텐츠 노출을 직접 제어하는 기능은 사실상 제공되지 않고 있다.
필터 기능을 운영 중인 플랫폼은 데비안트아트(DeviantArt)와 핀터레스트(Pinterest) 정도다. 데비안트아트는 AI 콘텐츠 표시·억제 설정을 제공하지만 피드와 상점 페이지에서는 접근이 어려운 데다, AI 레이블이 부정확하게 적용된 이미지가 다수 존재한다는 문제가 확인됐다. 핀터레스트는 예술·패션 등 카테고리별로 AI 수정 콘텐츠를 줄이는 옵션을 제공하지만 효과는 불완전하다. 메타, 구글, 틱톡, 스포티파이(Spotify)에 필터 도입 계획을 문의한 결과, 현재 계획이 없거나 응답하지 않았다.
레이블 시스템의 기술적 한계도 지적된다. C2PA나 신스아이디(SynthID) 같은 출처 기반 시스템은 콘텐츠 생성 시점에 메타데이터나 워터마크를 삽입하는 방식인데, 오픈소스 AI 모델은 이를 적용하지 않는 경우가 많고 메타데이터 자체가 쉽게 삭제될 수 있다. AI 패턴을 분석해 생성 여부를 판별하는 탐지 기반 방식은 오탐률 문제로 신뢰도가 낮다. 구글 CEO 순다르 피차이(Sundar Pichai)가 AI 생성 저품질 콘텐츠의 확산을 인정하면서 사용자에게 “적응”을 요구한 발언, 그리고 인스타그램 수장 애덤 모세리(Adam Mosseri)가 “진정성이 희귀 자원이 돼가고 있다”고 언급한 것은 플랫폼 스스로 문제를 인식하고 있음을 보여준다.
결국 플랫폼들이 AI 콘텐츠 필터를 제공하지 않는 근본적 이유는 경제적 유인 구조에 있다는 분석이 힘을 얻고 있다. 이들 기업은 AI 생성 콘텐츠를 활용해 수익을 내는 도구를 직접 운영하고 있어, 필터를 도입하면 자사 생성 AI 서비스의 가치를 스스로 부정하는 셈이 된다. 레이블 시스템이 규제 기관과 비판론자를 달래기 위한 형식적 조치에 그친다는 지적이 나오는 것도 이 때문이다. 일부에서는 AI 생성 콘텐츠를 걸러내는 대신 검증된 인간 창작자를 별도로 표시하는 방식이 현실적인 대안이 될 수 있다는 의견을 제시하고 있다.
