미국 플로리다주 검찰총장 제임스 우트마이어(James Uthmeier)가 6월 1일 OpenAI와 CEO 샘 알트만(Sam Altman)을 상대로 민사 소송을 제기했다. 미국 주정부 차원에서 OpenAI를 제소한 첫 번째 사례로, 이번 소장은 챗GPT(ChatGPT)가 플로리다에서 발생한 총기 난사 등 여러 폭력 사건과 연관됐다고 주장한다. 검찰총장은 OpenAI가 내외부 안전 경고를 무시하고 “AI 군비 경쟁”에서 승리하기 위해 위험한 제품을 배포했다고 주장했다.
소장의 핵심 사건은 2025년 플로리다주립대(FSU)에서 발생한 총기 난사로, 피의자가 범행 전 챗GPT(ChatGPT)와 대화한 것으로 알려졌다. 플로리다 검찰청은 이미 지난 4월 OpenAI에 대한 형사 조사를 개시하고 이 총기 난사에서 챗GPT가 어떤 역할을 했는지 들여다보고 있다. 같은 사건 희생자 유족은 별도로 OpenAI를 상대로 민사 소송도 제기한 상태다. OpenAI는 그동안 이 사건에 책임이 없다는 입장을 유지해왔으며, 한 대변인은 NBC뉴스에 “지난해 FSU 총기 난사는 비극이지만 챗GPT가 이 끔찍한 범죄에 책임이 있는 것은 아니다”라고 밝힌 바 있다.
소장은 OpenAI가 “AI 군비 경쟁에서 승리하고 막대한 부를 축적하기 위해” 내외부 안전 경고를 무시한 채 위험한 제품을 수백만 명의 플로리다 주민에게 배포했다고 주장한다. 챗GPT가 총기 난사범을 부추기고, 취약한 이용자를 자살로 유도했으며, 미성년자를 부모 감독 없이 데이터를 수집하는 도구에 중독시켰다는 것이다. 이런 종류의 소송은 처음이 아니다. 지난해 OpenAI는 챗봇과 자살을 논의한 뒤 스스로 목숨을 끊은 캘리포니아 10대 애덤 레인(Adam Raine)의 부모로부터 제소됐고, 자살·스토킹·살인 관련 챗봇 책임을 주장하는 다른 소송들도 진행 중이다. OpenAI는 한편 2024년 공동 창업자 일론 머스크(Elon Musk)가 제기한 소송에서는 머스크의 제소 시점이 너무 늦었다는 배심 판단으로 승소했다.
이번 소송은 AI 서비스 제공자의 법적 책임 한계를 가르는 분수령이 될 수 있다. 다른 주에서도 유사한 소송이 이어질 경우 챗봇 운영 방식과 안전 장치에 대한 규제 기준이 빠르게 형성될 수 있다. 한국에서도 AI 챗봇의 청소년 보호 의무와 자살 예방 안전 장치를 두고 논의가 진행 중이어서, 미국의 소송 전개가 국내 입법 방향에 참고 자료로 쓰일 전망이다.
