뉴욕주 대법원 항소법원(Supreme Court of the State of New York Appellate Division)에서 올해 5월 20일, 원고 측 변호사가 적어도 세 건의 존재하지 않는 판례와 그에 딸린 허위 인용문을 소장에 포함시킨 사실이 재판부에 의해 적발됐다. 발레리 브래스웨이트 넬슨(Valerie Brathwaite Nelson) 판사와 엑토르 라살(Hector LaSalle) 판사는 해당 변호사 마이클 샌더스(Michael Sanders)와 상대방 대리인을 포함한 출석 법조인 전원을 상대로 20분 이상 질책을 이어갔다. 이 과정이 법원 생중계 영상으로 공개돼 주목을 받고 있다.
해당 사건은 보행자 주디스 랜드버그(Judith Landberg)가 나무 뿌리로 인해 뒤틀린 보도블록에 걸려 넘어진 것과 관련해 뉴욕시를 상대로 제기한 소송이다. 샌더스는 인도의 정의(定義)를 다투기 위해 판례를 인용했으나 넬슨 판사는 “그 어떤 판례도, 인용된 문구도 실재하지 않는다”고 밝혔다. 허위 판례 세 건 외에도 법리를 잘못 서술한 것으로 보이는 사례가 열 건에 달한다고 재판부는 지적했다. 두 판사는 재판 내내 AI를 명시적으로 언급하지는 않았지만, AI로 소장을 작성한 변호사의 허위 판례 인용이 급증하는 최근 추세를 염두에 둔 발언이라는 해석이 지배적이다.
라살 판사는 “이것은 우리가 바에(변호사 사회에) 의존하는 신뢰의 문제”라면서 “존재하지 않는 원칙을 근거로 삼고, 반대편 변호사도 이를 재판부에 알리지 않은 것이 놀랍고 유감스럽다”고 말했다. 반대편 대리인 로스 프리시아(Ross Friscia)와 뉴욕시 대리인 엘리자베스 프리드먼(Elizabeth Freedman)도 상대방 소장의 오류를 재판부에 알리지 않은 점에 대해 각각 질타를 받고 거듭 사과했다. 샌더스의 로펌은 제재를 받지 않아야 하는 이유를 소명하라는 명령을 받았고, 랜드버그의 소송은 이후 기각됐다.
생성AI(Generative AI)를 이용해 소장을 작성하다 허위 판례 인용으로 적발되는 사례는 최근 수년간 미국 법조계에서 반복되고 있다. 변호사들은 AI 오류의 원인으로 감기 몸살, 촉박한 일정, 보조 인력의 실수 등 다양한 이유를 들어 왔으며, 법관들의 불만과 제재 수위도 점차 높아지는 추세다. 이번 사건은 법원 생중계를 통해 질책 장면이 영상으로 고스란히 포착되면서 AI 도구 남용에 따른 법조 윤리 문제를 다시금 수면 위로 끌어올렸다.
