미국 미시시피 주 북부 연방지방법원에서 원고 측과 피고 측 변호인이 모두 AI가 만들어낸 가상의 판례를 소송 서면에 인용한 사실이 적발돼 재판이 전면 취소됐다. 연방 수석 판사 샤리온 에이콕(Sharion Aycock)은 제재 명령서에서 “이 법원은 AI 환각이 포함된 소송 서면을 처리하는 부담을 또다시 지게 됐다”고 밝혔으며, 사건 관련 변호인 4명 전원을 해당 사건에서 퇴장시켰다. 이 사건은 변호사 톰 위더스(Tom Withers)가 미시시피 주 애버딘 시에 법률 보수 미지급을 주장하며 제기한 계약 분쟁이었다.
에이콕 판사는 제재 명령서에 “양측 소송 당사자가 사실상 AI로 하여금 서로를 상대로 다투게 한 비상한 상황”이라고 기재했다. 변호인들은 존재하지 않는 판례를 인용하면서도 AI 출력물을 검증하지 않고 그대로 제출한 것으로 판단됐다. 제재 수위는 판사의 귀책 판단에 따라 변호인별로 차등 적용됐는데, 2명은 해당 법원 출석 자격을 2년간 정지당했고 전원은 1,000달러에서 3,500달러 사이의 벌금을 부과받았다. 이 사건을 최초 포착한 변호사 롭 프로인트(Rob Freund)는 “AI가 서로를 상대로 주장을 펼친 AI 오류의 코미디”라고 평했다.
AI 환각 판례를 법원 서면에 인용하는 사고는 미국 전역에서 반복되고 있다. 뉴욕 법원에서도 최근 유사한 사례로 판사가 관련 변호사들을 공개 질책한 바 있다. 법률 업계에서는 AI 도구를 보조 수단으로 활용하는 것 자체를 금지하기보다는, 최종 제출 전 반드시 인용 판례의 실제 존재 여부를 확인하는 검증 절차를 의무화해야 한다는 논의가 이어지고 있다. 이번 사건은 양측 변호인이 동시에 같은 실수를 저질렀다는 점에서 법조계에 AI 리터러시(문해력) 교육의 시급성을 환기시키는 사례로 주목된다.
