싱가포르 정보통신미디어개발청(IMDA)은 인공지능(AI) 안전을 선언이나 원칙만으로 판단하기보다 실제 서비스에 대한 시험으로 확인해야 한다는 입장을 밝혔다. IMDA의 리완시 AI 거버넌스·안전 클러스터 디렉터는 9월 27일 공개된 전자신문 인터뷰에서 배포 현장의 위험을 점검하고 독립적인 제3자 평가 역량을 키우는 방향을 설명했다. 이는 싱가포르 당국자의 정책 설명이며 개별 AI 서비스가 안전하다고 인증됐다는 뜻은 아니다.
리 디렉터는 은행·병원·인사·법률처럼 시민에게 직접 영향을 주는 영역에서 개인정보, 답변의 정확성, 이용자의 과도한 의존 등을 살펴야 한다고 말했다. 서비스가 실제 사용자와 만나는 단계에서는 개발사의 내부 시험만으로 부족할 수 있다. 그는 정부가 모든 제품을 직접 시험하기 어렵기 때문에 전문 평가 업체와 시험 방법을 축적하는 생태계가 필요하다고 설명했다.
싱가포르는 AI 검증을 위한 샌드박스와 시험 기관의 역량을 살피는 AI TAP 프로그램을 운영한다는 것이 인터뷰의 설명이다. 제3자 시험은 평가 기관의 전문성뿐 아니라 이해관계와 시험 범위를 함께 공개해야 신뢰를 얻을 수 있다. 서비스 제공자가 시험을 받았다는 사실만으로 모든 사용 환경의 위험이 사라지지는 않는다.
특히 외부 도구를 사용해 행동하는 AI 에이전트에는 권한과 자율성의 범위, 사람이 개입할 시점, 배포 이후의 감시가 중요하다고 리 디렉터는 설명했다. 여러 언어에서 안전장치가 같은 수준으로 작동하는지도 별도로 시험해야 한다. 이번 인터뷰는 싱가포르 정책의 방향을 전한 것으로, 각 프로그램의 성과나 한국 도입 효과를 입증한 보고서는 아니다. 근거: 전자신문 9월 27일 IMDA 인터뷰.
저작권자 © STORIUM 무단전재 및 재배포 금지
