유럽연합(EU)은 AI 시스템의 위험 수준에 따라 분류하고, 용인할 수 없는 위험이 있는 AI는 금지하는 내용을 담은 AI법을 2024년 7월부터 시행하고 있다. 이 법은 특히 높은 위험군 AI에 대해 강력한 데이터 관리 조치를 의무화하며 소비자 보호를 강화하는 데 초점을 맞추고 있다. 반면, 우리나라에서는 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(약칭: 인공지능기본법)이 2025년에 제정되어 2026년 7월 1일부터 시행된다. 이 법은 AI 기술 혁신과 안전한 활용 환경 조성을 목표로 삼고 있으나, 소비자 권익 보호에 관한 조항은 부족한 상황이다.
AI 기술은 금융, 의료 상담, 고객 지원 등 다양한 분야에서 일상적으로 활용되고 있지만, 개인정보 침해, 알고리즘 편향, 허위 정보 생성, 불공정 거래 등 새로운 유형의 소비자 피해도 급증하고 있다. 따라서 AI 관련 소비자 피해를 방지하려면 기존 소비자법과 인공지능기본법을 보완하는 별도의 AI 소비자권익보호법 제정이 필요하다는 주장이 제기되고 있다. 기존 소비자기본법에서 보장하는 8대 소비자 기본권은 여전히 중요하지만, AI 환경에 맞는 새로운 권리 보완도 요구된다. 우선 소비자는 AI 기반 상담이나 자동화된 의사결정 과정에서 필요시 인간 상담자 개입을 요청할 권리가 있어야 한다.
이는 AI가 인간을 완전히 대체하지 않고 감독 아래 운영되어야 소비자 신뢰를 확보할 수 있기 때문이다. 다음으로, 소비자는 AI가 내린 판단에 대해 어떤 기준과 데이터를 사용했는지 설명을 요구할 권리가 필요하다. 알고리즘 투명성은 공정 거래와 소비자 자기결정을 보장하는 핵심 요소다. 또한 AI 결정에 대한 개입 및 거부 권한도 보장되어야 하며, 소비자는 인간 재심사를 요구하거나 자동화된 결정 자체를 거부할 수 있어야 한다. 마지막으로 디지털 포용권 강화가 필요하다. 고령자, 장애인, 디지털 취약계층이 AI 서비스에서 소외되지 않도록 접근성을 높이고, AI 활용 교육과 지원을 확대하는 정책이 요구된다.
아울러 AI가 생성하는 허위정보, 딥페이크, 개인 맞춤형 광고를 통한 소비자 기만, 개인정보 오남용 문제에 대응하기 위해 사업자의 책임을 강화하고, 소비자 피해 발생 시 신속한 분쟁조정과 집단 피해구제 제도 마련도 중요한 과제로 꼽힌다. 결국 기존 소비자 관계법이 인간 중심으로 설계된 만큼, 인간과 AI가 신뢰 속에서 공존할 수 있는 지속 가능한 소비 환경을 구축하기 위해 AI 소비자권익 보호 관련 법률의 제정과 제도적 보완이 시급한 상황이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
