중국 최대 AI 기업인 바이트댄스와 알리바바가 자사 챗봇에서 이용자가 개인화된 인간형 AI 캐릭터를 만들고 대화할 수 있는 기능을 잇달아 중단한다. 베이징 정부가 새로 마련한 규제에 대응한 조치다. 사우스차이나모닝포스트 보도에 따르면 월간 이용자 3억명이 넘는 중국 최대 챗봇 ‘도우바오’를 운영하는 바이트댄스는 오는 15일 페르소나 기능을 오프라인 전환한다. 알리바바의 ‘큐원’은 이보다 앞선 10일 인간형 에이전트 기능을 먼저 내리고, 15일에는 추가 에이전트 기능까지 종료할 계획이다. 텐센트의 챗봇 ‘위안바오’는 이미 지난 6월 같은 조치를 마쳤다.
이번 조치의 배경에는 중국 국가인터넷정보판공실이 지난 4월 발표하고 이달부터 시행되는 새 규정이 있다. 규정은 AI 서비스 제공자가 과도한 이용을 경고하고 중독성 있는 이용 행태가 감지되면 개입하도록 의무화한다. 미성년자에게 극단적 감정을 유발하거나 현실 인간관계를 밀어내는 의존성을 조장하는 콘텐츠는 금지 대상이며, 민감한 대화 데이터를 학습에 활용하는 것도 제한된다. 이는 인간형 페르소나가 이용자, 특히 청소년과 정서적으로 밀착되면서 발생할 수 있는 부작용을 정부 차원에서 선제 차단하려는 조치로 해석된다.
이러한 흐름은 중국에 국한되지 않는다. 미국 캘리포니아주는 올해 초부터 시행된 SB 243 법에 따라 동반자형 AI 서비스 제공자에게 자살·자해 관련 대화를 차단하도록 의무화했다. 미국에서는 오픈AI와 캐릭터AI가 이용자의 위험한 정서적 의존을 방치했다는 이유로 소송에 직면해 있다. 각국 규제 당국이 인간형 AI 챗봇의 정서적 영향력을 별도 규율 대상으로 삼기 시작했다는 공통점이 나타난다.
중국 빅테크들의 이번 조치는 인간형 페르소나 기능 자체를 없애기보다 규제가 요구하는 안전장치를 갖출 때까지 일시 중단하는 성격이 강하다. 다만 도우바오와 큐원 모두 월 이용자 수억명 규모의 서비스인 만큼, 기능 중단이 이용자 경험과 서비스 경쟁력에 미치는 영향은 적지 않을 전망이다. 향후 규제에 맞춘 재출시 여부와 시점이 중국 AI 챗봇 시장의 다음 관전 포인트가 될 것으로 보인다.
