이탈리아의 AI 윤리 전문가 파올로 베난티(Paolo Benanti) 신부가 9일 서울 가톨릭대 성의교정에서 진행된 인터뷰에서, 현재 AI 개발을 둘러싼 가장 큰 우려로 ‘권력의 집중’을 꼽았다. 베난티 신부는 “AI는 거대 플랫폼, 막대한 자원을 가진 국가, 글로벌 규모로 데이터를 수집하는 기업 등 이미 권력을 보유한 이들을 더욱 강화하고 있다”며 이것이 전통적 민주적 메커니즘 밖에서 집단적 선택에 영향을 미치는 상황으로 이어진다고 경고했다. 그는 한나 아렌트의 ‘악의 평범성’을 빌려 이러한 현상을 ‘알고리즘의 평범성’이라 칭했다.
베난티 신부는 초지능(superintelligence)보다 AI 챗봇의 ‘초조종(super-manipulation)’이 더 현실적이고 당면한 위협이라고 밝혔다. 그는 “우리 휴대전화 안의 AI 챗봇이 인간의 뇌에 대한 초조종 기기가 될 수 있다”며, 담배 경고문처럼 특히 청소년이 소셜미디어 공간에 있을 때 AI의 조종 가능성을 인지하도록 해야 한다고 강조했다. AI 판단을 무분별하게 수용하지 않기 위한 지적 방어막을 ‘두뇌 헬멧’이라고 표현하며, 적절한 규제의 필요성도 언급했다.
베난티 신부는 인간의 고유한 영역으로 세 가지를 명확히 제시했다. 사후 수정이 불가능한 결정, 개인의 대체 불가능한 고유성이 관여되는 영역, 그리고 공동의 미래에 영향을 미치는 선택이다. 이 신부는 레오 14세 교황의 첫 회칙 ‘마니피카 후마니타스(Magnifica Humanitas·위대한 인간성)’에 대해 “인간의 존엄성은 최적화해야 할 변수가 아니라 모든 기술적 선택의 출발점이 돼야 하는 기초”라는 점을 기술자와 입법자, 기업가에게 상기시켜 준다고 의미를 부여했다. 그는 역사적 기술 변혁이 혼란 뒤 새로운 일자리와 삶을 만들어냈다며, 지나친 낙관이나 막연한 불안 모두 경계해야 한다고 덧붙였다.
