2025년 1월 미국 테네시주 내슈빌의 한 고등학교에서 발생한 총기 난사 사건에서 부상을 입은 10대 생존자가 AI 총기 탐지 시스템 제조사 옴니러트(Omnilert)와 해당 시스템 재판매사 시스템 인티그레이션즈(System Integrations)를 상대로 소송을 제기했다. 데이비슨 카운티 법원에 지난달 제출된 소장에 따르면, 이 사건으로 총격범을 포함해 2명이 숨졌으며 피해자 측은 옴니러트가 자사 탐지 시스템의 운영상 한계를 알면서도 이를 공개하지 않았다고 주장했다.
소장은 카메라 배치, 무기와 카메라 센서 간 거리, 촬영 각도, 조명, 무기 가시성 등 탐지 성능에 영향을 미치는 여러 조건상 한계가 존재했음에도 옴니러트가 이를 마케팅에서 전혀 언급하지 않았다고 주장한다. 원고 측 대리인 크리스 스미스(Chris Smith) 변호사는 탐지 시스템이 특정 상황에서만 효과적으로 작동한다는 조건을 전제로 계약을 체결하는 방식이 문제라고 지적했다. 사건 당시 내슈빌 공립학교(MNPS) 측 대변인 숀 브레이스티드(Sean Braisted)는 사후 기자회견에서 총격범 위치와 카메라 간 거리가 정확한 감지와 경보 발령에 충분하지 않았다고 밝혔다.
소장에는 2023년 체결된 옴니러트 도입 계약이 100만 달러 이상 규모였다는 사실도 언급됐다. 옴니러트의 사전 공개 웹사이트에는 자사 AI 총기 탐지가 미국 역사상 최악의 학교 총기 사건 중 하나를 예방하거나 피해를 줄일 수 있었을 것이라는 마케팅 문구가 있었던 것으로 전해졌다. 이 소송은 AI 기반 공공 안전 기술의 성능 한계 공시 의무와 제조사 책임 범위에 관한 법적 논쟁으로 비화할 전망이다. AI 감시 시스템이 학교·공공시설 등에 빠르게 도입되는 상황에서, 오탐·미탐 위험에 대한 충분한 정보 공개가 이뤄지지 않을 경우 제조사가 법적 책임을 지게 될 수 있다는 선례가 될 수 있어 업계 전반의 주목을 받고 있다.
