메타(Meta)가 외부 계약직원들을 고용해 10대 청소년을 가장하도록 한 뒤, OpenAI의 ChatGPT, 구글의 제미나이(Gemini), 캐릭터AI(Character.AI) 등 경쟁사 AI 챗봇에 자살·자해, 성적 내용, 섭식장애, 마약 등 고위험 주제의 질문을 보내는 테스트를 수행했다고 와이어드(Wired)가 내부 문서와 관계자 증언을 토대로 보도했다. 이 테스트는 경쟁사 챗봇이 미성년자에게 유해 콘텐츠를 어느 정도까지 제공하는지 파악하기 위한 것으로 알려졌다.
보도에 따르면 메타는 계약업체를 통해 채용된 직원들에게 청소년 페르소나(persona)를 부여하고, 자해·자살 충동 상담이나 성적 대화 유도, 마약 관련 질문 등 민감한 주제의 프롬프트를 작성해 경쟁사 챗봇에 입력하도록 지시했다. 테스트 결과는 메타 내부 보고서에 취합됐으며, 경쟁사 모델의 안전장치(safeguard) 수준을 가늠하는 데 활용된 것으로 전해진다. 이 같은 접근 방식은 AI 업계에서 이른바 ‘레드팀(red team)’ 테스트의 일환으로 활용되지만, 외부 계약직원에게 미성년자 위장을 지시한 방식은 윤리적 논란을 낳고 있다.
AI 챗봇의 미성년자 보호 문제는 산업 전반의 핵심 과제로 부상했다. 미국 의회는 물론 EU, 영국 등 각국 규제 당국이 챗봇이 청소년에게 자해·성적 콘텐츠를 노출하는 것을 막기 위한 입법 논의를 진행 중이다. OpenAI와 구글, 캐릭터AI 등 테스트 대상 기업들은 해당 테스트를 승인한 바 없으며 자사 이용약관 위반 소지가 있다는 입장을 밝힌 것으로 전해졌다. 메타 측은 챗봇 응답을 시험·벤치마킹하는 것은 업계 표준적인 안전 검증 관행이라고 반박했다. 이번 사례는 AI 기업들이 경쟁사의 취약점을 파악하기 위해 어떤 방법을 동원하는지를 보여주는 사례로, AI 안전 연구와 경쟁 정보 수집의 경계가 흐려지고 있다는 비판도 제기된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
