일본 정부가 고성능 인공지능(AI)의 사이버 공격·딥페이크(허위 영상물) 악용에 대응하기 위한 AI 기본계획 개정안을 마련했다. 6월 19일 산케이신문 등 현지 언론에 따르면 일본 정부는 의견 수렴 절차를 거쳐 다음 달 각의(국무회의)에서 개정안을 의결하는 방안을 추진하고 있다. AI 기본계획은 일본 정부의 AI 개발·활용·안전성 확보 방향을 담은 국가 정책 지침으로, 지난해 12월 처음 수립됐으나 AI 성능 향상 속도가 예상을 웃돌면서 반년 만에 개정 작업에 착수했다.
이번 개정안의 핵심은 고성능 AI의 안보 위협 대응이다. 시스템 취약점을 탐지할 수 있는 수준의 AI 모델이 등장하면서 금융·통신·전력 등 국가 기반시설에 대한 위협이 커졌다는 판단이 개정의 배경이다. 정부는 위험 AI를 개발하고도 안전 대책을 소홀히 한 개발사에 벌칙을 부과하는 법률 제정을 추진하기로 했다. 현행법은 실태 조사와 행정지도만 가능해 실효성 있는 제재 수단이 부족하다는 한계를 보완하는 취지다. AI 안전성 평가 기관인 AI 안전연구소(AISI)의 인력과 역량도 확충하고, 해외 정부 및 글로벌 AI 개발사와의 협력을 넓혀 고성능 AI 악용 위험을 조기에 파악하는 체계도 갖추기로 했다.
개정안에는 자율행동형 AI 실용화 지원과 AI 과의존 우려에 대한 대응도 포함됐다. 사람의 세부 지시 없이 스스로 업무를 수행하는 자율행동형 AI를 국가 경쟁력의 핵심 요소로 보고 조기 실용화를 위한 국가 지원을 강화한다. 동시에 학생들이 AI 답변을 그대로 수용하는 데 그치지 않고 스스로 질문하고 판단하는 능력을 기르도록 교육 현장을 정비하는 방안도 담겼다. AI 활용 확대에 따른 인간 사고력·판단력 약화를 우려한 조치다.
