AI가 외부 데이터 없이 시행착오만으로 스스로를 개선해 나가는 재귀적 자기 개선(RSI·Recursive Self-Improvement) 기술이 LLM(대규모 언어 모델)의 한계를 극복할 차세대 AI 패러다임으로 주목받고 있다. 앤트로픽의 공동창업자 잭 클라크는 “2028년 이전에 RSI가 실현될 가능성이 60% 이상”이라고 공개적으로 밝혔고, 오픈AI는 2028년 3월까지 완전 자동화된 AI 연구원을 구현하겠다는 로드맵을 수립했다.
현재의 LLM은 인간이 사전에 가공한 고품질 데이터를 학습해 답변을 생성하는 방식으로, 데이터 규모와 품질의 한계에 직접적으로 묶여 있다. 특정 과제에 맞추려면 별도의 파인 튜닝(fine-tuning) 과정도 반복해야 한다. RSI는 이런 제약에서 벗어나 가상 환경 안에 수많은 AI 에이전트를 투입하고 다양한 문제 풀이를 시도하게 한 뒤, 감독 AI가 최적의 결과물을 선별해 자신을 개선하는 구조를 지향한다. 인간 데이터에 의존하지 않는 만큼 무한한 학습이 이론적으로 가능하고, 특정 작업에 국한되지 않는 범용성도 LLM과 차별화되는 요소로 꼽힌다.
RSI에 대한 시장의 기대는 투자 규모에서도 드러난다. 알파고와 알파제로를 개발한 딥마인드 출신의 데이비드 실버 유니버시티 칼리지 런던(UCL) 교수가 설립한 ‘인에퍼블 인텔리전스(Ineffable Intelligence)’는 창업과 동시에 글로벌 벤처캐피털로부터 11억 달러의 투자를 유치하고 기업 가치 51억 달러를 달성했다. 아직 구체적인 제품 로드맵도 발표되지 않은 시점에 이뤄진 투자라는 점에서, RSI 기술에 대한 업계의 기대 수준을 가늠할 수 있다. 실버 교수는 회사 설립 성명에서 “지능이라는 개념에 대한 근본적인 질문에 정면으로 맞서야 한다”며 “인간 데이터에 의존하지 않고 스스로 지식과 기술을 습득하는 초고속 학습 AI를 구현할 것”이라고 밝혔다.
RSI는 기존 LLM 중심 인프라와 다른 하드웨어 요건도 요구한다. LLM이 방대한 데이터셋을 처리하기 위해 고용량 메모리 반도체에 의존했다면, AI 에이전트 기반의 RSI는 CPU(중앙처리장치)와 데이터 입출력(I/O) 처리 성능이 핵심 자원으로 부상한다. 기술 검증과 안전성 확보라는 과제가 남아 있지만, 구글 딥마인드의 데미스 허사비스 CEO가 AGI(일반 인공지능)의 조건으로 제안한 ‘아인슈타인 테스트’, 즉 AI가 사전 지식 없이 스스로 새로운 이론을 도출하는 수준에 가장 근접한 경로로 RSI가 거론되는 만큼, 빅테크와 스타트업 모두에서 투자와 연구가 빠르게 확대될 전망이다.
