매사추세츠공과대학교(MIT) 슈워츠먼 컴퓨팅 칼리지의 컴퓨팅 사회·윤리 책임(SERC) 이니셔티브가 지난 4월 30일 하루 종일 진행한 연구 심포지엄을 개최했다. AI가 사회에 미치는 영향을 다각도로 분석한 이 행사에는 공기 오염 예측과 책임 있는 컴퓨터 비전 구현에 관한 연구 발표, AI 정렬과 교육 분야에 관한 패널 토론, 그리고 코넬대학교 존 클라인버그(Jon Kleinberg) 교수의 기조연설이 포함됐다. SERC 공동 부학장 니코스 트리카키스(Nikos Trichakis) 교수는 “컴퓨팅과 AI가 사회 전반에 깊숙이 자리 잡는 만큼, 윤리적 성찰과 기술 발전이 나란히 나아가도록 하는 것이 SERC의 사명”이라고 밝혔다.
AI 정렬 패널에서는 누가 AI 시스템을 통제할 권리를 갖느냐는 거버넌스의 핵심 질문이 집중 조명됐다. 구글 딥마인드(Google DeepMind) 연구과학자 이아손 가브리엘(Iason Gabriel)은 AI를 완벽한 존재로 설계하는 것은 적절하지 않으며, “합리적인 인간처럼 도덕적 가치에 따라 해석하면서도 지시를 따르는 시스템”이 되어야 한다고 주장했다. MIT 정치학과 베일리 플래니건(Bailey Flanigan) 교수는 정렬 문제의 핵심이 결국 어떤 유형의 AI 시스템을 누가 지배할 권리를 갖는지에 관한 근본적 질문이라고 강조했다. AI 교육 패널에서는 학생들이 인지적 어려움에 부딪혔을 때 곧바로 AI에 의존하는 현상이 논의됐다. MIT 컴퓨터공학부 새뮤얼 매든(Samuel Madden) 교수는 학생들이 막힌 순간 AI에 먼저 묻는다면 인지적 도전 과정에서 실제 역량을 쌓지 못한다고 지적했다.
기조연설에서 클라인버그 교수는 AI 시스템이 인간의 세계 모델과 일치하지 않을 때 발생하는 위험을 체스와 문학적 비유를 통해 설명했다. 현대 체스 엔진은 초인적 수준으로 게임을 하지만 인간 파트너는 엔진의 전략 흐름을 파악하지 못하는데, 이처럼 AI와 인간이 팀을 이룰 때 인간이 제어를 넘겨받는 순간 불일치가 빚어진다는 것이다. 이 비유는 AI가 예측 시뮬레이션과 패턴 인식을 통해 인간의 추론을 모방하지만, 인간이 지닌 체화된 지식과는 본질적으로 다름을 시사한다. 패널 전반에 걸쳐 강조된 공통 메시지는 AI 시스템을 형성하는 데 있어 인간의 개입과 판단이 여전히 결정적이라는 점이었다.
저작권자 © STORIUM 무단전재 및 재배포 금지
