국회 정무위원회를 통과한 개인정보보호법 개정안이 동의 없이 수집된 개인정보를 AI 개발에 활용할 수 있는 길을 열면서 논란이 일고 있다. 민병덕(더불어민주당)·고동진(국민의힘) 의원 등이 각각 발의한 법안을 통합·조정한 위원회 대안으로, 특정 요건을 충족하고 개인정보보호위원회 심의·의결을 거치면 원래 수집 목적과 다른 AI 기술 개발, 즉 성능 개선 등에도 개인정보를 쓸 수 있도록 하는 내용이 핵심이다.
법안이 요구하는 요건은 세 가지다. 익명·가명 처리로는 AI 개발이 곤란한 경우여야 하고, 개인정보의 안전한 처리를 위한 안전장치가 마련돼야 하며, 공공·사회적 이익 증진을 위해 정보주체의 이익 침해 우려가 낮아야 한다. 개인정보보호위원회는 민감정보 처리 여부 등을 고려해 사전에 위험요인을 평가하고 공개하도록 돼 있다.
그러나 시민단체 디지털정의네트워크는 이 개정안이 “개인정보는 처음 수집된 목적으로만 사용돼야 한다”는 목적 외 이용 금지 원칙을 훼손한다고 강하게 비판한다. 익명·가명처리 없이 원본 데이터를 그대로 활용할 수 있다는 점, 제한 요건이 지나치게 넓고 추상적이어서 사실상 광범위하게 적용될 수 있다는 점, 요건이나 절차를 위반해도 행정적·형사적 제재 규정이 없다는 점 등이 지적 대상이다. 국내 AI 경쟁력과 개인정보 규제를 둘러싼 논쟁이 이어져 온 가운데, 이번 개정안은 정반대 방향에서 새로운 논란을 낳고 있는 셈이다.
시민단체는 아파트 현관이나 공공장소 CCTV에 찍힌 얼굴, 걸음걸이, 목소리가 동의 없이 안면인식 AI 개발에 활용되거나 쇼핑몰 구매 내역과 SNS 게시물이 전혀 다른 목적의 AI 개발에 쓰일 가능성을 우려 사례로 제시했다. 이들은 국회 국민동의청원을 통해 문제 제기에 나섰으며, 지난달 18일 공개된 청원은 7월 2일 기준 3670명의 동의를 얻은 상태다. 30일 안에 5만 명의 동의를 얻으면 소관 위원회에 회부된다.
