AI 안전 연구 기업 앤트로픽(Anthropic)이 AI 시스템이 인간 개입 없이 스스로를 개선하는 단계에 근접할 수 있다고 공개적으로 경고했다. 앤트로픽은 2026년 6월 4일(현지시각) 자사 블로그를 통해 내부 데이터를 담은 보고서를 공개하면서, AI가 스스로 구조·알고리즘·코드를 수정해 더 발전된 다음 세대 AI를 만드는 ‘재귀적 자기 개선(recursive self-improvement)’ 단계에 가까워지고 있다는 진단을 내놓았다.
잭 클라크(Jack Clark) 앤트로픽 공동창업자와 마리나 파바로(Marina Favaro) 연구 책임자는 사회 제도와 AI 정렬(AI alignment) 연구가 기술 발전 속도를 따라가지 못하고 있다며 최첨단 AI 개발을 늦추거나 일시 중단하는 선택지를 국제사회가 보유해야 한다고 주장했다. 이들은 개발 속도 조절을 위한 국제적 합의와 함께 기업이 이를 실제로 준수하는지 검증하는 체계 마련도 촉구했다. 크리스토퍼 올라(Chris Olah) 앤트로픽 공동창업자도 이익과 안전 사이의 상충 구조를 언급하며 이해관계에서 독립된 외부 감시 기구의 필요성을 강조했다.
이 같은 우려는 AI 기업 내부에서도 자율 개발 사례가 이어지면서 현실감을 높이고 있다. 오픈AI(OpenAI)는 프로그래밍 전문 모델 코덱스(Codex)가 스스로 결함을 탐지하고 코드를 개발하고 있다고 밝혔으며, 앤트로픽 역시 자사 AI 모델이 생성한 코드를 활용해 차세대 AI 모델을 개발하는 과정에 있다고 인정했다. AI가 인간의 지시 없이도 소프트웨어 개발에 기여하는 수준에 실질적으로 진입했다는 방증이다.
종교계에서도 AI 통제론이 제기됐다. 교황 레오 14세는 2026년 5월 25일 교황청 시노드 강당에서 즉위 후 첫 회칙 ‘마니피카 후마니타스(Magnifica Humanitas·위대한 인간성)’를 발표하며 AI를 통치 수단으로 남용하는 것을 거부하고 인류가 또 다른 바벨탑 건설을 포기해야 한다고 촉구했다. 앤트로픽의 올라 공동창업자는 교황의 입장에 공감을 표하며 어떠한 이해관계로도 꺾이지 않는 윤리적 목소리가 필요하다고 강조했다. AI의 자율적 진화 가능성이 현실로 다가오면서, 기술 기업·정부·종교·시민사회를 아우르는 다층적 거버넌스 논의가 본격화할 것으로 전망된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
