고려대학교 행정전문대학원 계인국 교수가 6월 5일 서울 중구에서 법무법인 광장과 한국정보통신법학회 등이 공동 개최한 ‘AI 전환(AX) 국가 혁신 기반 구축을 위한 법정책적 과제’ 세미나에서 현행 AI기본법의 주요 개념이 모호해 진흥의 발목을 잡고 있다고 지적했다. 계 교수는 특히 생성형 AI 시대에 규제 대상을 명확히 하려면 법률상 ‘AI 모델’ 개념을 신설하는 것이 시급하다고 강조했다.
계 교수가 제기한 핵심 문제는 세 가지다. 첫째, 현행법의 AI 개념 정의가 1990년대 수준의 ‘인간 유사적(Human-like) AI’ 표현을 고수하고 있어, 서비스 후단에서 인지되지 않는 채로 광범위하게 쓰이는 비인지적 AI는 규율 범위 밖으로 밀려날 수 있다. 둘째, 법에 AI 모델 개념 자체가 존재하지 않는다. 생성형 AI의 핵심 능력은 파운데이션 모델(Foundation Model)에 내재돼 있는데, 법이 ‘응용 시스템’ 단위만 규제하면 API(응용프로그램 인터페이스) 형태로 모델만 제공하는 사업자는 규제를 회피할 수 있고, 그 능력을 빌려 시스템을 구축한 하위 사업자만 규제 부담을 지게 되는 역전 현상이 벌어진다. 셋째, 고영향 AI 판별과 투명성 의무에서도 모델 개념 부재가 맹점을 만든다. 동일한 파운데이션 모델이 의료·채용 등 여러 고영향 분야에 탑재될 때 시스템 차원에서만 규제를 시도하면 근본적인 모델 단계의 관리·감독은 사실상 불가능해진다.
계 교수는 ‘AI 모델’ 개념을 시행령이 아닌 국회 입법으로 법률에 명시하고, AI 사업자 범위와 관련 의무 규정을 동시에 전면 개정해야 한다고 밝혔다. 고영향 AI 종류를 법률 조문에 직접 열거하는 현행 방식도 기술 변화 속도를 따라가기 어렵다며 유연한 위임 구조로의 전환을 제안했다. 또한 각 부처가 경쟁적으로 AI 규제 법안을 내놓을 경우 중복 의무 부담이 커질 수 있다며 기본법 차원에서 규제 의무의 최소 기준을 명확히 하는 것이 진흥 효과를 내는 가장 실질적인 방법이라고 강조했다. 과학기술정보통신부도 3월부터 AI기본법 개정 연구 태스크포스(TF)를 운영 중으로, 법 개정 논의가 본격화하고 있다.
