커뮤니티 플랫폼 레딧이 대규모 언어 모델(LLM)을 활용한 스팸 탐지 시스템을 도입해 이른바 ‘AI 슬롭’ 확산을 크게 줄였다고 밝혔다. AI 슬롭은 최근 AI 챗봇의 추천 인용구에 브랜드를 노출시키려는 이른바 ‘AI 스텔스 마케팅’과 조작된 리뷰, 저품질 자동 생성 게시물이 뒤섞인 콘텐츠를 가리키는 용어다. 이런 콘텐츠가 플랫폼 전반에 급증하자 레딧은 기존 수동 검토 방식 대신 LLM 기반 자동화 탐지·차단 체계로 대응 전략을 전환했다.
레딧에 따르면 새 시스템 도입 이후 AI 기반 고도화된 스팸 노출률이 전 분기 대비 20% 가까이 급감했다. 특히 혐오 발언이나 폭력적 콘텐츠를 탐지해 차단 조치까지 걸리는 시간이 과거 수 시간에서 5초 미만으로 단축됐다. 대응 속도가 자릿수 단위로 빨라지면서 유해 콘텐츠가 실제 이용자에게 노출되기 전 단계에서 걸러지는 비율이 크게 늘었다는 설명이다.
구체적인 처리 규모도 상당하다. 레딧은 매일 약 200만 건에 달하는 조작된 허위 추천 투표(업보트)를 원천 차단하고 있으며, 일반 이용자에게 노출되기 전 단계에서 하루 평균 2,300만 건의 스팸 조회수를 걸러내고 있다고 밝혔다. 여기에 매일 2만 5,000건 이상의 악성 게시물과 댓글도 함께 차단하는 것으로 나타났다. 레딧은 이런 콘텐츠가 이용자에게 도달하기 전 단계에서 선제적으로 차단하는 전략을 취하고 있다고 강조했다.
AI 생성 콘텐츠의 범람은 레딧만의 문제가 아니다. 검색엔진과 소셜 플랫폼 전반에서 AI로 대량 생성된 저품질 콘텐츠가 검색 결과와 피드를 잠식하는 현상이 이어지면서, 플랫폼들은 저마다 AI 판별 기술 고도화에 나서고 있다. 언론사와 미디어 업계에서도 생성형 AI 결과물에 대한 표기 의무화 같은 자체 윤리 지침을 마련하는 흐름이 확산되고 있어, AI 콘텐츠 신뢰성 문제는 업종을 가리지 않고 확산되는 모양새다.
레딧의 이번 사례는 AI가 콘텐츠 생산 도구인 동시에 콘텐츠 정화 도구로도 활용될 수 있음을 보여준다. 다만 스팸 생성 기술 역시 AI를 활용해 계속 진화하고 있는 만큼, 탐지와 회피 기술 간의 경쟁은 앞으로도 지속될 것으로 전망된다. 플랫폼 신뢰도를 지키기 위한 AI 대 AI 대응 체계 구축이 업계 표준으로 자리 잡을지 주목된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
