구글이 6월 12일 뉴욕 남부 연방지방법원에 중국 사이버범죄 집단 ‘아웃사이더 엔터프라이즈(Outsider Enterprise)’를 상대로 소송을 제기했다. 구글은 소장에서 이 집단이 구글의 AI 시스템 제미나이(Gemini)를 활용해 수십만 명의 미국인을 금융 사기 표적으로 삼았다고 주장했다. 집단은 131개 소프트웨어 키트를 제작해 구글, 유튜브(YouTube), 미국 우정청(USPS), 뉴욕 E-ZPass 통행료 시스템을 사칭하는 수천 개의 가짜 웹사이트를 양산했다. 5월 2주간만 250만 개의 메시지를 안드로이드 사용자에게 발송하고 9000개의 가짜 사이트와 100만 개 이상의 허위 URL을 유포했다. 텔레그램(Telegram)이 작전 조율 채널로 활용됐다.
구글 법무 최고 책임자 할리마 드레인 프라도(Halimah DeLaine Prado)는 이번 소송이 회사가 FBI 및 AT&T, T-모바일(T-Mobile), 버라이즌(Verizon) 같은 통신사와 공동으로 진행하는 첫 번째 사례라고 밝혔다. 구글은 도메인 압수, 계좌 동결 등을 통해 당국과 기업이 합동으로 네트워크를 차단할 수 있는 법적 근거를 마련하는 금지 명령을 요청하고 있다. 피해 규모는 정확히 산정되지 않았으나 수백만 달러에 달하는 것으로 추정된다. FBI 사이버국 부국장 브렛 레더만(Brett Leatherman)은 범죄자들이 AI를 활용해 사기를 더 그럴듯하고 적발하기 어렵게 만들고 있다고 지적했으며, FBI는 2025년 사이버범죄 피해액을 약 210억 달러로, 이 중 AI 관련 피해를 8억 9300만 달러로 집계했다.
비슷한 시기 OpenAI도 2026년 6월 위협 보고서를 공개하며 중국과 연계된 두 개의 ChatGPT 계정 클러스터를 차단했다고 밝혔다. 첫 번째 클러스터 ‘데이터 센터 밴드왜건(Data Center Bandwagon)’은 AI 데이터센터 확장이 전기료를 올린다는 내용의 영문 댓글, 만화, 편집 이미지를 생성해 X 계정을 통해 유포했다. 두 번째 클러스터 ‘테크 앤드 태리프스(Tech and Tariffs)’는 미국의 기술 패권 전략과 트럼프 관세 정책을 비판하는 만화를 제작했으며, 사용자들이 스스로를 ‘물군(水军·수군)’이라 지칭하기도 했다. OpenAI의 수석 조사관 벤 니모(Ben Nimmo)는 이 작전들이 기존 논쟁에 편승해 방향을 조종하려 한 것이지 새로운 담론을 만들어 낸 것이 아니라고 분석했으며, OpenAI 위협 등급 체계인 브레이크아웃 스케일(Breakout Scale) 기준으로 두 클러스터 모두 자체 계정 이외로는 확산되지 않은 카테고리 1 수준이었다고 밝혔다.
