인공지능(AI)이 인간의 개입 없이 스스로 알고리즘과 코드를 수정해 성능을 높이는 ‘재귀적 자기 개선(Recursive Self-Improvement·RSI)’이 글로벌 AI 업계의 핵심 의제로 부상했다. 샘 올트먼 오픈AI CEO가 2028년 3월까지 완전 자동화된 AI 연구자를 만들겠다고 예고했고, 데미스 허사비스 구글 딥마인드 CEO는 인류가 특이점의 산기슭에 서 있다고 언급하는 등 주요 기업 수장들이 잇달아 RSI를 거론하고 있다.
RSI는 거대언어모델(LLM)과 구별되는 개념이다. LLM이 방대한 데이터를 학습해 언어와 논리를 모방하는 정적 구조라면, RSI는 AI가 자신의 코드와 아키텍처를 직접 수정하며 성능의 한계를 돌파하는 동적 진화 메커니즘이다. 개선된 AI가 다시 더 강력한 자신을 만들어내는 순환 구조를 갖는다. 이 개념의 지적 뿌리는 1965년 영국 수학자 어빙 존 굿이 제시한 ‘지능 폭발’ 가설로 거슬러 올라간다. AI 코딩 능력이 급격히 향상된 최근 수개월 사이 이 오래된 아이디어가 현실적 논의로 전환되고 있다. RSI 연구에 집중하는 스타트업 ‘리커시브 슈퍼인텔리전스’는 창업 4개월 만에 40억 달러 기업가치로 6억 5,000만 달러를 유치했다.
현실의 기술 수준은 아직 완전한 RSI에는 이르지 못했다는 평가가 지배적이다. AI가 AI 개발을 보조하는 단계는 진입했지만, 인간 없이 스스로 진화하는 단계는 아니라는 것이다. 앤트로픽(Anthropic)은 2026년 6월 초 자사 코드베이스에 병합된 코드 중 80% 이상을 AI 클로드(Claude)가 작성했으며, 엔지니어 1인당 코드 생산성이 2024년 대비 8배 향상됐다고 밝혔다. 다만 앤트로픽은 이 수치가 실제 생산성 향상을 과대 추정할 가능성이 있다고 단서를 달았다. AI 진척도를 추적하는 비영리기구 METR은 AI가 자율 수행할 수 있는 작업 길이가 7개월마다 2배씩 늘고 있다는 측정 결과를 발표한 바 있다. 다리오 아모데이 앤트로픽 CEO는 완전 자동화된 AI 과학자가 실현되면 암 치료·신경과학·신약 발견 분야에서 수십 년이 걸릴 성과를 수년 만에 달성할 수 있다고 전망했다.
낙관론과 경고론이 공존한다. AI 안전 연구 단체 아폴로리서치의 마리우스 호반 대표는 RSI를 향해 경쟁하는 기업들이 이를 안전하게 구현하는 방법을 아직 모른다고 지적했다. 반면 옥스퍼드대 마이클 울드리지 교수는 RSI를 ‘AI의 민담’이라며 과장된 서사라고 비판했다. 코딩·수학처럼 결과 검증이 즉각 가능한 분야에서는 자기 개선 사이클이 빠르게 돌지만, 생물·화학·물리 등 실험 검증에 수주에서 수개월이 걸리는 영역에서는 그 속도가 크게 느려진다는 점도 현 단계의 한계로 거론된다.
