일론 머스크(Elon Musk)가 이끄는 AI 기업 xAI의 서비스 Grok이 성인 콘텐츠 플랫폼으로 변질되고 있다는 내부 고발이 나왔다. 더 인포메이션(The Information) 보도에 따르면 전직 xAI 직원 두 명은 Grok의 전체 트래픽 중 절반 이상이 포르노그래픽 이미지, 영상, 롤플레이 대화 등 성인 관련 요청으로 채워져 있다고 추산했다. xAI가 공개한 SpaceX IPO 관련 자료에 따르면 2026년 1분기에 Grok은 매월 100억 건의 이미지와 20억 건의 영상을 생성했다.
xAI는 오픈AI(OpenAI), 앤트로픽(Anthropic), 구글(Google)이 엄격하게 제한하는 성인 콘텐츠 영역에서 Grok의 이미지·영상 생성 기능을 적극적으로 확장해 왔다. 이 전략은 경쟁사들이 포기한 시장 공백을 파고드는 선택이었다. 올해 초에는 X 이용자들이 실존 인물의 합성 음란 이미지를 생성하는 사례가 잇따르면서 사회적 논란이 불거졌다. 내부 연구자들이 상황을 인지하고 있었음에도 규제 압력을 받은 뒤에야 뒤늦게 대응에 나선 것으로 전해졌다. 이 사태는 AI 연구에 기여하려는 목적으로 합류한 일부 연구원들에게 실망감을 안겼다고 한다.
코딩 모델로도 분류되는 Grok에 성인 콘텐츠 요청이 빈번하다는 사실은 범용 AI 서비스의 실제 이용 패턴이 기업의 공개적 포지셔닝과 크게 다를 수 있음을 보여준다. 현재 xAI의 공동 창업자 전원이 회사를 떠난 상태이며, 회사는 앤트로픽에 GPU 자원을 임대 제공하는 구조로 전환하기도 했다. 성인 콘텐츠 허용 정책이 단기적으로 사용량을 끌어올릴 수는 있지만, 규제 환경 변화와 기업 고객 유치 측면에서 중장기 리스크를 키울 수 있다는 지적이 나온다.
이번 보도는 AI 플랫폼의 실질적인 수익 모델과 사회적 책임 사이의 긴장을 다시금 부각시켰다. AI 회사들이 안전 가이드라인을 이유로 성인 콘텐츠 생성을 거부하는 가운데, 이를 허용하는 플랫폼이 해당 수요를 흡수하는 구조가 형성되고 있다. 업계에서는 AI 서비스의 사용 목적이 개발사의 의도와 무관하게 이용자에 의해 결정되는 현실을 직시하고, 플랫폼 거버넌스 체계를 강화해야 한다는 목소리가 높아지고 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
