수학적 추측 생성을 핵심 목표로 설계된 자율 AI 에이전트 ‘문샤인(Moonshine)’에 관한 연구 논문이 2026년 6월 9일 arXiv에 제출됐다. 문샤인은 단일 명제를 풀고 끝내는 방식이 아니라, 고전적 문제에서 구조를 추출하고 새로운 개념을 정제해 수학적 의미가 있는 추측을 생성하는 확장 가능한 이론적 프레임워크 구축을 목표로 한다.
연구팀은 문샤인이 야코비안 추측(Jacobian conjecture)을 탐구하는 과정을 주요 사례로 제시했다. 야코비안 추측의 핵심인 ‘국소 비퇴화가 전역 단사성을 강제할 수 있는가’라는 논리를 단층 아핀-리지 시그모이드 신경망으로 이전해, ‘신경 야코비안 추측(Neural Jacobian Conjecture, NJC)’을 수립했다. NJC는 해당 네트워크의 야코비안 행렬식이 전체 공간에서 순양수이면 전역적으로 단사 함수여야 한다는 명제다. 문샤인은 GPT-5.5-pro와 DeepSeek-V4-pro를 각각 독립적으로 활용해 N=n+1인 경우에 대한 완전한 증명을 도출했으며, GPT-5.5-pro를 통한 인터랙티브 방식으로 기하-위상학적 증명도 추가로 개발했다. 다만 폭이 더 넓은 N≥n+2인 일반 경우는 미해결 과제로 남았다.
문샤인은 단순 문제 풀이에 그치지 않고 추측 생성, 교량 개념 구축, 장애물 식별을 통해 이론적 체계를 확장해 나가는 방식으로 작동한다. 이는 기존 수학 AI 연구가 증명 검증이나 특정 문제 풀이에 집중했던 것과 달리, AI가 수학 연구의 탐색 단계 자체를 자율적으로 주도할 수 있는지를 검토한다는 점에서 차별화된다.
이 연구는 AI가 수학적으로 의미 있는 새로운 문제를 스스로 제기하고 그것에 대한 엄밀한 진전을 이룰 수 있음을 보여주는 예비 근거를 제공한다. N=n+1 이상의 일반 경우에 대한 증명은 추후 과제로 남아 있으며, 자율 수학 연구 에이전트 분야의 후속 연구가 기대된다.
