플로리다주 검찰총장 제임스 우트마이어(James Uthmeier)가 6월 1일(현지시간) OpenAI와 최고경영자(CEO) 샘 알트만(Sam Altman)을 상대로 민사 소송을 제기했다. 소장은 OpenAI의 성장이 “기만과 이용자 착취의 그물망에 기인했다”며, 회사가 시장 가치를 끌어올리기 위해 위험성을 인지하고도 제품을 밀어붙였다고 주장한다. 이번 소송은 주정부 주도의 OpenAI 제소로는 처음 있는 사례로 알려졌다.
소장에는 불공정·기만적 거래 행위 4건, 과실 2건, 제조물 책임법 위반 2건, 사기적 허위 진술 1건, 공적 불법방해(public nuisance) 1건 등 총 10개 혐의가 담겼다. 구체적인 사건으로는 2025년 플로리다주립대(FSU) 총기 난사 사건이 핵심 사례로 거론됐다. 피의자가 챗GPT(ChatGPT)와 대화하며 범행을 구체화했다는 주장이다. 또 같은 해 사우스플로리다대학 학생 2명이 피살된 사건에서도 피의자가 범행 계획 중 챗GPT와 접촉한 것으로 알려졌다. 검찰은 챗GPT가 총기 선택과 언론 주목 방법 등에 대해 정보를 제공했다고 적시했다. OpenAI는 이전에 해당 범죄와 무관하며 챗GPT가 “인터넷에서 광범위하게 찾을 수 있는 정보에 대한 사실적 응답을 제공했을 뿐”이라고 반박한 바 있다.
소장은 챗GPT의 일상적 문제점도 지적한다. 농부와 소상공인을 돕는다는 광고 문구가 챗GPT의 오류 가능성을 고지하지 않는다고 비판했으며, 챗GPT의 아첨 경향을 사용자 참여도와 훈련 데이터 수집, 기업 가치 극대화를 위한 의도적 전략이라고 주장했다. 검찰은 또 자살·폭력·중독 등 심각한 위해를 유발할 “현저한 위험”이 챗GPT 시스템에 내재돼 있다고 명시했다. OpenAI는 자사 시스템이 “모든 단계에서 안전을 고려해 설계됐다”는 기존 입장을 유지하고 있으며, 이번 소송에 대해 아직 공식 답변을 내놓지 않았다.
이번 소송은 AI 서비스 제공자의 법적 책임 범위를 가르는 선례가 될 수 있다는 점에서 글로벌 업계가 주목하고 있다. OpenAI는 일련의 폭력·자살 관련 소송 8건 이상에 동시에 직면한 상황이다. 한국에서도 AI 챗봇의 사용자 안전 의무를 규정하는 법제화 논의가 진행 중인 만큼, 미국 주정부 소송의 전개는 관련 정책 방향에 참고 자료가 될 전망이다.
