AI가 수학 분야에서 가시적 성과를 잇달아 내놓으면서 수학자 공동체 내부에서 직업적 정체성과 연구의 의미를 둘러싼 논쟁이 시작됐다. 구글 딥마인드와 오픈AI의 AI 시스템은 최근 국제수학올림피아드(IMO)에서 세계 최상위 고등학생 수준에 해당하는 금메달 등급 성적을 거뒀다. 구글 딥마인드의 실험적 AI 시스템 Aletheia는 산술 기하학 분야에서 박사 학위급 연구 결과를 자율적으로 도출했고, 오픈AI의 시스템은 조합 기하학 분야의 중요 추측을 자동으로 반증해 주요 수학 저널에 발표될 수 있는 수준의 성과를 냈다고 평가받았다.
AI가 수학에서 차지하는 역할이 커지면서 수학자 집단 내부의 반응도 갈린다. 일부는 AI가 미해결 문제의 답을 내놓는다면 인간 수학자가 반드시 이해할 필요는 없다는 실용적 입장을 취한다. 필즈상 수상자이자 캘리포니아대학교 로스앤젤레스 교수인 테렌스 타오는 인간과 기계가 협력해 거대한 수학 문제를 분업하는 ‘빅 매스(Big Mathematics)’의 미래를 구상한다. 타오는 형식화(formalization), 즉 증명을 컴퓨터가 검증할 수 있는 코드로 변환하는 과정이 이 협력의 핵심이라고 본다. 반면 오타와대학교의 마이아 프레이저는 수학의 핵심 가치가 이해의 과정 자체에 있다고 주장하면서, AI가 증명을 찾더라도 인간이 이해할 수 있는 우아한 증명을 탐구하는 일은 여전히 가치 있다고 강조한다.
우려의 목소리도 나온다. AI 도구 접근에 따른 형평성 문제, 학생들이 AI에 의존해 스스로 깊이 생각할 동기를 잃는 지적 위축, 소수 AI 기업이 수학적 진보를 독점하는 균질화 위험이 지적된다. 프린스턴대학교 수학자 악샤이 벤카테쉬는 수학이 단순히 답을 찾는 데 그치는 것이 아니라 “수의 의미”를 공유하고 일치된 이해에 도달하는 과정이라는 점에서, 컴퓨터가 방대한 작업을 수행하게 될 때 그 긴 여정의 동기가 유지될 수 있을지 의문을 제기한다. 수학자 공동체는 이 변화에 어떻게 대응할지를 두고 에세이 작성, 워크숍 개최, 저널 토론 등 다양한 방식으로 대응 지침을 마련 중이다.
AI가 수학의 영혼을 빼앗는다는 시각과, 반대로 AI로 인해 수학 자체의 의미를 재발견하는 계기가 된다는 시각이 공존한다. 어떤 방향으로 귀결되든, 수학이 무엇인지와 수학자가 왜 그 길을 선택했는지에 대한 깊은 성찰이 이 분야에서 시작됐다는 점만은 분명하다.
