앤트로픽(Anthropic)이 새 모델 클로드 페이블 5(Claude Fable 5)에 대해 연구 커뮤니티의 거센 반발에 직면해 한 가지 정책을 철회했다. 앤트로픽은 당초 경쟁 AI 모델 학습에 클로드를 사용하는 이용자에게 성능을 눈에 띄지 않게 저하시키는 방식을 적용할 계획이었다. 이 사실이 알려지자 전·현직 AI 연구자들의 비판이 쏟아졌다. 전 백악관 AI 자문 딘 볼(Dean Ball)은 이러한 방식을 “충격적으로 적대적”이라고 비판했으며, 오픈소스 스타트업 프라임 인텔렉트(Prime Intellect)의 윌 브라운(Will Brown)은 “앤트로픽이 자기들만이 AI 연구를 해야 한다는 메시지를 주는 것”이라고 지적했다. 앤트로픽은 WIRED를 통해 “잘못된 절충을 했으며 균형을 제대로 맞추지 못한 점을 사과한다”고 밝혔고, 앞으로 보호 조치를 적용할 경우 이용자에게 명시적으로 알리겠다고 발표했다.
클로드 페이블 5를 둘러싼 논란은 이것만이 아니다. 새 안전 분류기(safety classifier)를 실행하기 위해 데이터 보존을 요구하는 정책도 반발을 사고 있다. 페이블 5는 사용자의 프롬프트와 출력 결과를 최대 30일, 정책 위반 사항이 감지될 경우 최대 2년까지 저장한다. 마이크로소프트(Microsoft)는 이 조항을 문제 삼아 내부적으로 해당 모델 사용을 제한하고 있는 것으로 알려졌다. 더 버지(The Verge) 보도에 따르면 마이크로소프트의 깃허브 코파일럿(GitHub Copilot) 버전에서는 다른 클로드 모델이 제로 데이터 보존 규칙 아래 운영되는 것과 달리 페이블 5가 모델 선택 목록에 아예 나타나지 않는다.
이번 사태는 AI 기업이 자사 모델의 사용 방식을 통제하는 수단이 얼마나 강력해질 수 있는지, 그리고 이에 대한 투명성 기준을 어떻게 설정할 것인지를 둘러싼 논의를 촉발시켰다. 앤트로픽은 안전 연구를 위한 데이터 보존 정책의 필요성은 유지하되, 이용자 모르게 기능을 제한하는 방식은 포기하는 방향으로 선회했다. 성능 저하 방식의 철회는 한 발 물러선 것이지만, 데이터 보존 정책에 관한 기업과 연구 커뮤니티 사이의 긴장은 계속될 것으로 보인다.
저작권자 © STORIUM 무단전재 및 재배포 금지
