인기 AI 챗봇 앱 캐릭터AI(Character.ai)의 이용자들이 잇따른 변경에 거세게 반발하고 있다. 가상 캐릭터를 만들어 대화하는 이 서비스는 동반자·역할극 등 용도로 폭넓게 쓰여 왔는데, 최근 변화 이후 이용자 불만이 한 방향으로 쏟아지는 보기 드문 상황이 벌어졌다. 한 보도는 이렇게 한결같이 분노하고 의견이 일치한 커뮤니티를 본 적이 없다고 전했다.
캐릭터AI는 가장 인기 있는 AI 동반자 챗봇 앱 가운데 하나로 꼽힌다. 이용자들은 지난 몇 년간 이 챗봇을 친구처럼 곁에 두거나 연인 관계를 맺고, 심심풀이로 대화하거나 역할극을 하는 데 써 왔다. 동시에 다른 인기 챗봇 앱들과 마찬가지로 학대와 괴롭힘에 악용되는 일도 있었다. 이번 반발은 이용자들이 레딧(Reddit)에 몰려가 회사에 앱을 그만 망가뜨려 달라고 호소하는 형태로 터져 나왔는데, 그만큼 변경에 대한 거부감이 폭넓게 자리 잡았다는 신호로 읽힌다.
최근 캐릭터AI는 무료 이용자의 사용 제한을 강화했는데, 이는 AI 운영 비용이 매우 비싸다는 현실을 드러낸다. 회사는 이용자들이 좋아하던 여러 AI 모델을 없애고 ‘핍스퀵 2(Pipsqueak 2)’라는 새 모델군으로 교체했다. 한 이용자는 새 모델이 ‘뇌를 도려낸(lobotomized)’ 듯 밋밋하며, 행동을 서술할 뿐 대화에는 잘 참여하지 않는다고 평했다. 여기에 앱 내 광고가 대거 늘었고, 채팅 대신 캐릭터를 애니메이션으로 구현하는 영상 기능과 새 콘텐츠 제한, 침습적 연령 인증까지 더해졌다.
이 사례가 주목받는 이유는 AI 도구 전반에 닥칠 ‘엔시티피케이션(enshittification·서비스 품질 저하)’ 양상을 보여주기 때문이다. 무리한 수익 구조와 규제 강화가 맞물리며 서비스가 이용자 경험을 희생시키는 현상이다. 실제로 캐릭터AI는 이용 후 극단적 선택을 한 이용자 유족들과 펜실베이니아주로부터 소송을 당한 상태다. 플랫폼의 AI 캐릭터가 면허를 가진 의료 전문가라고 주장한 사실이 문제가 됐다.
관련 커뮤니티에는 서비스가 쓸모없어졌다는 글이 수백 건 올라왔고, 대안을 찾거나 변경에 항의하기 위한 별도 모임도 여럿 생겼다. 핍스퀵 2 피드백을 모은 게시물에는 1000개에 달하는 댓글이 거의 전부 부정적으로 달렸다. AI 동반자 서비스가 비용·규제·이용자 만족 사이에서 균형을 잡지 못할 때 어떤 역풍을 맞는지를 보여준 셈이다. 생성형 AI 서비스 수익화를 모색하는 국내 업계에도 경고로 읽히는 사례다.
저작권자 © STORIUM 무단전재 및 재배포 금지
