오픈AI는 중국에서 기원한 것으로 판단되는 챗GPT(ChatGPT) 계정 두 클러스터를 적발·차단했다고 공식 블로그를 통해 밝혔다. 해당 계정들은 미국의 AI 및 기술 정책 논쟁에 개입하기 위해 오픈AI의 모델을 악용해 소셜 미디어 콘텐츠를 생성한 것으로 드러났다. 오픈AI는 이번 사례가 공론을 실제로 바꿨다는 증거는 없지만, 권위주의 세력이 AI 인프라라는 미국의 전략 자산을 표적으로 삼는 서사 실험에 나섰다는 점에서 중요성을 가진다고 평가했다.
첫 번째 클러스터는 ‘데이터센터 편승(Data Center Bandwagon)’으로 명명됐다. 이 그룹은 AI 데이터센터 구축이 일반 가정의 전기요금을 끌어올린다는 주장을 담은 소셜 미디어 댓글과 이미지를 다량 생성했다. 두 번째 클러스터인 ‘테크 앤 타리프스(Tech and Tariffs)’는 미국의 대중 관세를 기술 패권 장악 시도로 비판하는 내용을 제작했으며, 프롬프트에 시진핑 중국 국가주석을 출력에 포함하지 말고 트럼프 대통령만 지목하라는 지시를 담고 있었다. 이 클러스터는 챗GPT 이용자 데이터가 유출됐다는 허위 주장을 퍼뜨리는 계정 네트워크와도 연결돼 있었으며, 오픈AI는 해당 주장이 전혀 사실이 아니라고 못 박았다.
오픈AI는 이 두 캠페인이 기존에 사회 내부에서 존재하던 에너지 요금 우려나 무역 갈등 심리를 파고들어 신뢰를 쌓고 분열을 증폭시키려 했다고 분석했다. 외국 여론조작 세력이 현지 민심에 얹혀 파급력을 키우는 전통적 수법을 AI 생성 콘텐츠에 적용한 것이다. 두 클러스터 모두 자신들의 정체와 동기를 숨긴 채 미국의 AI 역량을 둘러싼 논쟁 안으로 은밀히 침투하려 했다.
오픈AI는 이번 보고서를 공개하는 목적이 업계, 정부, 시민사회, 일반 대중이 외국 세력의 여론조작 시도를 더 잘 식별하고 차단하도록 돕기 위함이라고 설명했다. 민주주의 원칙에 근거한 AI를 구현하겠다는 오픈AI의 사명에는 권위주의 세력이 AI를 감시·검열·정치 통제에 활용하는 것을 저지하는 일도 포함된다고 강조했다. 이번 사례는 AI 생성 콘텐츠가 정보 조작의 주요 도구로 부상하고 있음을 보여주는 구체적 사례로 기록됐다.
