오픈AI 최고경영자 샘 올트먼이 캐나다 브리티시컬럼비아(BC)주 텀블러리지에서 발생한 총기 참사와 관련해 공개 사과를 했다. 2025년 6월 오픈AI는 해당 사건의 가해자 계정을 총기폭력 묘사를 이유로 이미 정지한 상태였다. 문제는 오픈AI가 이 사실을 당시 경찰에 알리지 않았다는 점이다. 이 사건으로 18세 가해자는 8명의 생명을 앗아갔다.
올트먼은 경찰에 통보하지 않은 것에 대해 깊이 사과한다는 공식 입장을 냈다. 오픈AI는 이번 사건을 계기로 안전 프로토콜을 강화하겠다고 밝혔다. 그러나 BC 주지사 데이비드 에비(David Eby)는 올트먼의 사과만으로는 충분하지 않다는 입장을 표명했다. 에비 주지사는 AI 기업이 콘텐츠 위반 계정을 발견했을 때 수사기관에 보고해야 하는 명확한 법적 의무가 필요하다는 점을 강조했다.
이 사건은 AI 플랫폼의 유해 콘텐츠 처리 절차에 근본적 의문을 제기한다. 플랫폼이 위험 신호를 감지하고 계정을 차단하는 데 그칠 것인지, 아니면 수사기관에 적극적으로 협조할 법적 책임을 질 것인지가 핵심 쟁점이다. 현재 오픈AI를 포함한 AI 기업 대부분은 이런 상황에서의 신고 의무가 법적으로 명확하게 규정돼 있지 않다.
캐나다 정부는 이번 사건을 계기로 AI 규제 입법 검토에 착수했다. AI 서비스 제공자가 이용자 콘텐츠에서 폭력 위협 징후를 발견했을 때 당국에 의무적으로 신고하도록 강제하는 방향이 논의되고 있다. 이 논의는 기존 소셜미디어 플랫폼 규제 틀을 AI 서비스에도 적용해야 하는지에 대한 더 넓은 질문과 연결된다.
한국에서도 AI 플랫폼의 안전 의무와 수사 협조 기준은 아직 명확하지 않다. 국내 이용자가 오픈AI를 비롯한 해외 AI 서비스를 통해 위험한 콘텐츠를 생성하거나 유통하는 경우, 현행 법체계로 어디까지 규율할 수 있는지도 불분명하다. 이번 캐나다 사례는 AI 안전 의무의 실효적 기준을 마련하는 데 국제적 참고점이 될 것이다.
