미국 AI 기업 앤트로픽(Anthropic)이 현재 속도로 AI 개발이 이어질 경우 머지않아 인간의 개입 없이 AI 스스로 성능을 향상하는 ‘재귀적 자기 개선(recursive self-improvement)’ 단계에 도달할 수 있다고 경고하며, 국제사회가 최첨단 AI 개발을 늦추거나 일시 중단할 선택권을 실질적으로 갖춰야 한다고 촉구했다. 앤트로픽은 2026년 6월 4일 자사 공식 블로그에 내부 AI 모델의 발전 속도를 보여주는 데이터를 공개하며 이 같은 입장을 밝혔다. 빠른 AI 발전에 따른 위험을 선도적으로 경고해 온 기업이 내부 근거를 직접 공개했다는 점에서 주목을 받았다.
앤트로픽의 연구 책임자 마리나 파바로(Marina Favaro)와 공동 창업자 잭 클라크(Jack Clark)가 공동 작성한 이 게시글은 재귀적 자기 개선이 현실화되면 모델이 스스로를 업데이트하면서 성능 개선 속도가 비약적으로 빨라질 수 있다고 분석했다. 두 저자는 아직 이 단계가 도래하지 않았고 필연적인 현상도 아니라고 전제하면서도, 대부분의 기관이 대비하는 것보다 더 빠르게 실현될 가능성이 있다고 경고했다. 클라크는 이러한 수준의 기술이 “향후 2년 안에, 어쩌면 그보다 더 빠르게 등장할 수 있다”고 언급했다. 앤트로픽은 사회 제도와 AI 정렬 연구가 기술 발전 속도에 따라갈 수 있도록, 개발 속도를 조절하거나 일시 중단하는 선택지를 국제사회가 보유해야 한다고 강조했다.
앤트로픽은 구체적 실행 방안으로 AI 개발 속도 조절을 위한 국제적 합의 도출과 함께, 각 경쟁사가 합의를 실제로 준수하는지 확인할 수 있는 검증 메커니즘 마련을 제안했다. 향후 수년간 각국 정치권, 연구계, 산업계 관계자들과 재귀적 자기 개선 대응 방안 및 검증 시스템 구축을 논의해 나갈 계획도 밝혔다. AI 패권 경쟁이 가속화하는 상황에서 미국 AI 선도 기업이 공개적으로 속도 조절을 요청한 것은 이례적인 행보로, 규제 논의가 본격화하고 있는 유럽연합(EU)과 미국 의회의 입법 움직임에도 영향을 줄 수 있다는 시각이 나온다.
