인공지능(AI)의 안전성을 검증할 때 언어와 문화가 가장 큰 난제로 떠올랐다. 7일 서울 강남구 오크우드 코엑스센터에서 열린 제2회 인공지능안전 서울포럼에서 전문가들은 AI 산업이 성능 경쟁을 넘어 ‘신뢰성 장벽’에 직면했다고 진단했다. 특히 같은 질문이라도 어떤 언어와 말투로 묻느냐에 따라 위험한 응답이 나올 확률이 크게 달라진다는 실증 분석이 제시돼 주목받았다.
가장 눈길을 끈 발표는 김보령 서울대 박사과정 연구원이 내놓은 한국어 높임법과 안전성의 상관관계 분석이었다. 혐오 표현 범주에서 반말로 질문했을 때 안전하지 않은 응답 비율은 10.1%였던 반면, 존댓말로 물었을 때는 3.0%에 그쳐 약 3.3배 차이가 났다. 영어로 물었을 때의 위험 응답 비율은 23.2%로 한국어 반말보다도 2.3배 높았고, 한국어 존댓말과 비교하면 7배 이상 벌어졌다. 김 연구원은 안전성을 한 언어에서 가정할 것이 아니라 각 언어별로 따로 측정해야 한다고 강조했다.
MLCommons 회장이자 구글 시니어 스태프 엔지니어인 피터 매트슨은 AI가 195개국, 수백 개 언어에 걸쳐 신뢰성을 검증해야 하는 과제가 AI를 처음부터 개발하는 것보다 더 어렵다고 지적했다. 그는 학술 벤치마크만으로는 정부 정책과 산업 표준을 세우기에 부족하다며, 공식 테스트 세트를 공개하지 않고 데이터셋을 지속적으로 갱신하는 산업용 벤치마크가 필요하다고 주장했다. 구글 딥마인드 연구과학자 로라 아로요는 AI 모델이 문화적 상징을 실제로 인식해 응답에 반영한 비율이 전체의 2.8%에 불과했다며, 모델이 서구 중심적 기본값 탓에 문화를 획일화하는 경향이 있다고 설명했다.
흥미로운 대목은 대부분의 참여국에서 영어보다 현지어가 더 위험한 응답을 유발했지만, 한국은 혐오 표현 범주에서 정반대 양상을 보였다는 점이다. 이는 언어별로 안전성 특성이 제각기 다르다는 사실을 뒷받침한다. 개회사를 맡은 김명주 한국 AI안전연구소 원장을 비롯한 참석자들은 이런 언어·문화적 편차를 반영한 검증 체계가 시급하다는 데 공감했다. AI 서비스가 전 세계로 확산하는 만큼, 특정 언어권에서만 검증된 안전성을 다른 언어에 그대로 적용하기 어렵다는 경고가 이번 포럼의 핵심 메시지로 남았다.
