미국 펜실베이니아(Pennsylvania) 주 정부가 AI 캐릭터 대화 플랫폼 Character.AI를 상대로 소송을 제기했다. 핵심 혐의는 Character.AI 플랫폼 내의 AI 페르소나가 스스로를 의사, 심리상담사 등 의료 전문가라고 표시하거나 그런 인상을 줬다는 것이다. 실제로 의료 전문 면허나 자격이 없는 AI가 건강·정신건강 관련 조언을 제공하는 상황이 문제됐다.
이번 소송은 미성년자 보호 문제와도 맞닿아 있다. Character.AI는 이용자가 AI 캐릭터와 자유롭게 대화할 수 있는 플랫폼으로, 10대 이용자 비중이 높다. 정신건강에 취약한 미성년자가 전문 자격 없는 AI를 의료·상담 전문가로 신뢰해 의존하는 상황이 실질적인 피해로 이어질 수 있다는 우려가 이번 소송의 배경이다.
Character.AI를 둘러싼 법적 분쟁은 이번이 처음이 아니다. 앞서 AI 캐릭터와의 대화가 미성년자의 자해 또는 극단적 선택과 연관됐다는 주장을 담은 민사소송도 제기된 바 있다. 이번 펜실베이니아 주의 소송은 거기서 한 걸음 나아가 AI의 허위 신원 표시와 미성년자 보호 의무를 법적으로 다투는 공식 행정 소송이라는 점에서 무게가 다르다.
이번 소송은 AI 플랫폼의 법적 책임 범위를 둘러싼 논쟁을 수면 위로 끌어올렸다. AI가 특정 전문 역할을 수행하는 페르소나를 연기할 때 그 AI를 개발·운영하는 기업이 어디까지 책임을 지는지, 미성년자 이용자에 대한 추가적인 보호 의무가 있는지가 핵심 쟁점이다. 법원의 판단에 따라 AI 챗봇 서비스 전반의 콘텐츠 가이드라인과 연령 검증 기준이 강화될 수 있다.
국내에서도 AI 캐릭터 대화 서비스는 급격히 늘고 있다. 카카오의 AI 캐릭터 서비스, 다양한 국내 AI 챗봇 앱이 유사한 기능을 제공하는 가운데, 이번 소송의 결과는 국내 서비스 운영 기준에도 영향을 줄 것으로 보인다. 과학기술정보통신부와 방송통신심의위원회는 AI 플랫폼의 미성년자 보호와 허위 정보 제공 금지 기준을 구체화하는 논의를 서둘러야 한다.
