미국 최대 작가 단체인 오서스 길드(Authors Guild)가 시중의 AI 탐지기 도구들을 직접 시험한 결과를 발표했다. 이번 테스트에서 일부 AI 탐지기는 AI가 작성한 텍스트를 완벽하게 식별하는 데 성공했다. 반면 나머지 도구들은 AI 생성 콘텐츠를 인간이 쓴 글로 오인하거나, 반대로 인간의 글을 AI 작성물로 오분류하는 경우가 있었다. 오서스 길드는 AI 글쓰기 도구가 출판·교육·저작권 등 창작 생태계 전반에 미치는 영향을 모니터링하는 활동의 일환으로 이번 테스트를 진행했다.
AI 탐지기 시장은 2022년 ChatGPT 등장 이후 빠르게 성장했다. GPTZero, Turnitin의 AI 탐지 기능, Copyleaks, ZeroGPT 등 다양한 도구들이 교육 현장에서 학생의 부정행위 여부를 판별하고, 편집자와 출판사가 원고의 진위를 확인하는 데 활용되고 있다. 그러나 생성 AI 기술의 급속한 발전으로 탐지기의 성능도 불균일해지고 있다는 비판이 제기돼 왔다. 일부 탐지기는 무고한 사람에게 잘못된 판정을 내리는 위양성(false positive) 문제를 안고 있다.
이번 오서스 길드 테스트 결과는 AI 탐지 기술의 성숙도에 상당한 편차가 있음을 보여준다. 최신 LLM(대규모 언어 모델)들이 인간과 유사한 문체를 구사하도록 고도화되면서 탐지 난이도가 높아지고 있는 가운데, 일부 탐지기는 이에 발맞춰 탐지 알고리즘을 개선하는 데 성공한 것으로 평가된다. 오서스 길드는 작가들의 저작권 보호를 위한 정책 활동과 함께 AI 창작 도구의 투명한 사용 기준 마련을 촉구하고 있다.
한편 최근 작가 단체 Grammarly의 후신인 슈퍼휴먼(Superhuman)이 AI 탐지기 스타트업 GPTZero를 인수한 것처럼, AI 탐지 기술에 대한 기업과 투자자들의 관심도 높아지고 있다. AI가 온라인 콘텐츠의 절반가량을 생성하는 상황에서 진위 판별 도구의 중요성은 더욱 커질 전망이다. 오서스 길드의 이번 테스트는 작가와 편집자들이 탐지 도구를 선택하는 데 실질적인 기준을 제공하는 의미를 갖는다.
