AI 데이터·솔루션 전문기업 에이아이웍스(AIWORKX)가 과학기술정보통신부의 AI 기본법 시행령 개정안에 대한 의견서를 제출했다. 의견서는 시행령 개정안 제2조의2, 제15조 제4항 및 제5항, 제15조의2 등 세 조항을 대상으로 EU·미국·영국의 최신 입법 사례와 국내외 시민사회 논의를 교차 분석한 8개 쟁점과 보완 제안을 담았다. 핵심 주장은 현행 ‘공공 AI 기술 활용 여부 확인’ 구조를 ‘배포 전 신뢰성·위험 평가’와 ‘배포 후 정기 모니터링’을 포함한 실질적 평가 체계로 전환해야 한다는 것이다.
에이아이웍스가 제안하는 공공 고영향 AI(복지·의료·교육·행정 분야에서 시민 권리에 직접 영향을 주는 AI) 3단 요건은 배포 전 신뢰성·위험 평가 결과 제출, 성능 저하·편향 변화·오류를 점검하는 배포 후 정기 모니터링, 고위험 AI에 대한 독립 제3자 평가 또는 자가 평가 보고서 요약 공개다. 구체적 평가 틀로는 EU AI 법 제9~15조의 위험 관리·투명성·인간 감독 항목, 미국 NIST AI 위험관리 프레임워크(RMF)의 Govern·Map·Measure·Manage 4기능, 싱가포르 AI Verify의 정부 주도 테스팅 툴킷을 참조한 ‘한국형 공공 고영향 AI 신뢰성 평가 프레임워크’를 청사진으로 제시했다.
해외 비교 분석에서는 EU AI 법이 공급자와 공공기관 사용자의 책임을 분리하고 기본권 영향 평가를 의무화했다는 점, 미국이 연방 조달 지침을 통해 고영향 AI에 레드팀 테스트 등 사전 검증을 필수 조건으로 명시했다는 점, 영국이 공공 조달 지침에서 입찰부터 납품까지 AI 활용 공시를 구속력 있게 규정했다는 점을 근거로 들었다. 에이아이웍스는 이와 함께 장애인·고령자 등 취약계층을 단순 지원 대상이 아닌 ‘보호 대상’으로 명확히 구분하고, AI 자동결정에 대한 사전 통지권·설명 요구권·인간 재검토권을 법률 차원에서 규정화할 것을 함께 제안했다.
이번 의견서 제출은 자율 AI 에이전트가 공공 영역으로 빠르게 확산되는 시점에 나왔다. 한국은 AI 기본법을 제정했지만 시행령 수준에서 구체적인 평가 절차와 책임 주체가 여전히 불명확한 상황이다. 민간 기업이 EU·미국·영국 입법례와 실무 현장 경험을 토대로 구체적 대안을 공식 절차를 통해 제시한 이번 사례는, AI 거버넌스 논의에서 정부와 산업계가 어떻게 협력할 수 있는지를 보여주는 선례로 평가된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
