메타가 2025년 대규모 언어 모델(LLM)로 인간 모더레이션 요청의 약 절반을 대체한 데 이어, 연말까지 일부 콘텐츠 유형에 대해서는 그 비율을 90% 이상으로 끌어올릴 계획이라고 밝혔다. 하지만 내부 직원들은 충분한 감독 없이 지나치게 빠른 속도로 자동화가 확산되고 있다고 우려한다. 이들은 현 단계의 모델이 여전히 무해한 콘텐츠를 삭제하거나 섀도밴(노출 제한)하는 오류를 내고 있다고 지적하며, 이런 상태에서 적용 범위만 빠르게 넓히는 것은 위험하다고 경고한다.
메타는 자사 AI 모더레이션 시스템이 3월 테스트 이후 콘텐츠 정책을 집행하는 데 있어 인간 대비 오류율이 13% 낮으며, 실제 정책 위반은 10% 더 많이 적발한다고 주장한다. 최근에는 구글 제미나이(Gemini) 대신 자체 파운데이션 모델인 ‘뮤즈 스파크(Muse Spark)’로 전환했는데, 이 모델은 인간 심사자가 과거에 내린 판정 이력을 학습 데이터로 활용해 훈련됐다. 메타는 자사 언어 모델이 기존의 전통적인 머신러닝 분류기보다 맥락과 풍자를 더 잘 이해하고, 더 많은 언어를 폭넓게 다룬다는 점을 강점으로 내세운다.
외부 시각은 엇갈린다. 영국 파이낸셜타임스는 메타가 이 전환을 통해 연간 수십억 달러를 절감할 것으로 보도했으나, 메타는 비용 절감보다 품질 향상이 핵심 목적이라고 반박했다. 실제로 이 자동화 전환은 외부 계약직 모더레이터를 중심으로 한 인력 감축으로 이어지고 있어, 품질 향상이라는 명분과 비용 절감이라는 현실 사이의 거리가 좁혀지지 않고 있다. AI가 저비용 자동화 수단이 되는 동시에 모더레이션 정확도를 실질적으로 높일 수 있는지에 대한 논쟁은 아직 결론에 이르지 못했다.
무해한 콘텐츠의 오삭제와 섀도밴 문제는 플랫폼 신뢰성과 표현의 자유에 직접적 영향을 미친다. 자동화 비율이 90%를 넘어서는 시점에는 사람이 검토하는 안전망이 그만큼 얇아지기 때문에, 모델의 오류가 곧바로 이용자 경험으로 이어질 가능성이 커진다. 내부에서 제기된 ‘속도가 너무 빠르다’는 경고가 적용 속도 조절이나 인간 검토 보강 같은 실제 정책 변화로 이어질지가 향후 관전 포인트다.
