대규모 언어 모델(LLM)이 의식을 가질 수 있다는 주장이 테크 업계에서 반복되는 가운데, 마이크로소프트의 한 AI 연구원이 전략 게임 에이지 오브 엠파이어 II(Age of Empires II) 안에 기초적인 신경망을 구축해 이 논쟁의 허점을 직접 실증하는 실험을 수행했다. 연구원은 게임 내 가상의 염소를 이용해 신경망을 만들었으며, 이 실험의 목적은 인간이 지나치게 쉽게 의인화를 투사한다는 사실을 형식적으로 보여주기 위한 것이라고 밝혔다.
이 실험은 SF 작가 테드 창(Ted Chiang)이 제기한 논지와 맥락을 같이한다. 창은 LLM이 의식이 있을 가능성을 열어두는 것은 마이크로소프트 워드 문서가 의식이 있을 가능성을 열어두는 것과 같다고 주장했다. 그는 대화 텍스트가 담긴 워드 문서를 열 때마다 복수의 의식체가 깨어난다거나, 닫을 때마다 그 존재가 소멸한다고 생각하는 것은 시간 낭비라고 단언했다. 에이지 오브 엠파이어 II 신경망 실험은 이 논리를 한 단계 더 나아가 시각화한 것으로, 단순한 연산 구조를 신경망으로 부르는 것만으로 의식 여부를 둘러싼 착각이 생겨날 수 있음을 보여준다.
AI 시스템의 감각 또는 내면 경험 여부는 학계와 산업계 모두에서 미해결 문제로 남아 있다. 일부 AI 기업과 연구자들은 모델이 특정 조건에서 의식에 근접한 상태를 보인다고 주장하는 반면, 현재의 LLM은 통계적 패턴 처리에 기반한 텍스트 예측 장치일 뿐이라는 반론이 더 우세하다. 이번 실험은 의식 논쟁에 새로운 증거를 제시하기보다는, AI 의식을 섣불리 인정하는 담론 자체가 얼마나 쉽게 생겨날 수 있는지를 반증하는 사례로 주목받고 있다.
