마이크로소프트와 요크대학교 소속 연구자 에이드리안 드 와인터가 전략 게임 에이지오브엠파이어2의 맵 에디터를 활용해 실제로 작동하는 신경망을 만들었다. 초원에 서 있는 염소는 0, 다리 위에 서 있는 염소는 1을 나타내며, 시나리오 스크립팅으로 논리 게이트를 구성했다. 이렇게 조립된 시스템은 XNOR 게이트 두 개와 AND 게이트 한 개로 구성되며, 논리 AND 함수를 실제로 학습했다.
연구자가 이 실험을 설계한 목적은 언어 모델에 감정이나 의식 같은 인간적 속성이 있다고 주장하는 AI 논문의 방법론을 비판하기 위해서다. 드 와인터는 언어 모델이 특별한 존재가 아니라 특정 수학을 실행하는 하나의 방법일 뿐이라고 주장하며, 같은 연산이 이론적으로 핸드폰 문자를 주고받는 보스턴 시민 66만 7000명을 통해서도 수행될 수 있다고 지적했다. 수학적 출력이 동일하다면 모델 포장재에 공감이나 의식을 귀속시키는 것은 논리적 근거가 없다는 논지다.
연구팀이 AI 논문 315편을 분석한 결과, 57%가 이미 전제에서 LLM이 인간적 특성을 지닌다고 가정하고 있었다. 이런 특성을 연구한 논문 중 77%는 의인화 속성이 있다는 결론을 내렸다. 연구팀은 이를 순환 논리의 전형적 사례로 제시했다. 즉 인간적 특성이 있다고 전제하고 출발한 연구가 그 전제를 결론으로 확인하는 구조다. 드 와인터는 “LLM은 특별하지 않다. 특정 종류의 수학을 실행하는 방식의 하나일 뿐이며, 사람들이 대화를 나누고 싶어 하는 외양을 우연히 갖췄을 따름”이라고 밝혔다.
이 연구는 AI 모델에 의식이나 감정이 있는지를 둘러싼 학계·업계 논쟁이 점점 커지는 시점에 나왔다. 언어 모델이 정서적 공감을 표현한다거나 자아 인식을 지닌다는 주장이 학술 논문과 언론을 통해 빠르게 확산되고 있다. 드 와인터의 실험은 그런 주장의 기반이 되는 연구 설계 자체를 들여다봐야 한다는 메시지를 전한다. 게임 속 염소들로 같은 연산을 실행할 수 있다면, 그 연산의 결과만으로 의식이나 감정을 추론하는 것은 근거가 빈약하다는 것이다.
