2021년 3월, 언어학자와 컴퓨터과학자 4명이 발표한 논문 “확률적 앵무새의 위험에 대하여: 언어 모델은 너무 커질 수 있는가?(On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜)”는 AI 분야에서 가장 많이 인용되고 논쟁을 일으킨 논문 중 하나가 됐다. 구글이 논문 발표 직전에 공동저자 팀닛 게브루와 마거릿 미첼을 해고해 더욱 주목받았다. 이 논문은 대규모 언어 모델(LLM)이 실제로 내용을 이해하는 것이 아니라 통계적으로 그럴듯한 단어 순서를 예측하는 것일 뿐이라는 주장을 담았으며, 이를 ‘확률적 앵무새’라는 비유로 표현했다. 논문 발표 5주년을 맞아 주저자인 워싱턴대 컴퓨터언어학 교수 에밀리 벤더가 가장 널리 퍼진 오해들을 직접 정리했다.
벤더가 꼽는 첫 번째 오해는 “벤더가 AI는 확률적 앵무새라고 했다”는 것이다. 그는 논문을 작성할 당시의 논의 대상이 대규모 언어 모델이었으며, 체스 엔진·알파폴드·이미지 레이블링 시스템·기계번역 등 ‘AI’라는 이름으로 묶이는 다른 기술들은 확률적 앵무새 비유의 대상이 아니었다고 강조했다. AI라는 포괄적 용어가 서로 이질적인 기술들을 한데 묶어 혼선을 일으킨다는 점도 그가 오랫동안 비판해온 지점이다. 두 번째 오해는 이 비유가 LLM을 비하하거나 모욕하는 표현이라는 해석이다. 벤더는 확률적 앵무새라는 표현이 비하가 아니라 이 시스템이 실제로 어떻게 작동하는지를 기술적으로 묘사한 것일 뿐이라고 밝혔다. 그 표현을 모욕으로 받아들이려면 LLM이 감정을 갖고 있거나 AI가 추구해야 할 어떤 이상적 상태가 있다는 전제가 필요한데, 그 전제를 자신은 공유하지 않는다는 설명이다.
벤더는 ‘옥토퍼스 실험’ 비유도 언급했다. 바닷속 케이블을 통해 전달되는 신호 패턴만 감지하는 문어를 상상하는 이 사고 실험은 LLM이 언어의 표면적 패턴을 처리하면서도 사람이 언어를 통해 가리키는 세계와 단절되어 있다는 점을 시각화한 것이다. 공동저자 알렉산더 콜러가 고래 대신 문어를 제안했는데, 사람이 사는 환경과 더 이질적이어서 비유가 더 선명하게 전달된다는 이유였다. 이처럼 그는 문어 실험·확률적 앵무새·합성 텍스트 압출기 등 여러 비유를 통해 언어 모델이 실제로 무엇을 하는지를 기술 외부 독자들에게 명확히 전달하려 해왔다. 벤더는 ‘AI’라는 단일 용어로 이질적 기술을 묶어 규제·정책·대중 논의를 흐리게 만드는 현상이 지금도 핵심 문제라고 지적한다. 세부 기술이 무엇인지 명확히 할수록 더 나은 결정을 내릴 수 있다는 것이 그의 일관된 입장이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
