인공지능 발전과 신뢰 기반 조성 등에 관한 기본법이 2026년 1월 22일 시행됐다. 국가 인공지능 정책의 추진 체계와 산업 지원 근거를 세우는 동시에 생성형 인공지능과 고영향 인공지능을 다루는 사업자의 의무를 규정한 법이다. 정부는 2024년 12월 국회 통과 이후 80여 명의 민간 전문가가 참여한 하위법령 정비단을 운영했고, 70여 차례 의견 수렴과 20여 차례 국내외 기업 설명회를 거쳐 시행령을 마련했다. 기존의 포괄적인 규제 논의를 넘어 기업이 실제 서비스 화면과 내부 절차에서 무엇을 준비해야 하는지가 핵심이다.
이용자와 맞닿는 첫 의무는 고지와 표시다. 고영향 인공지능이나 생성형 인공지능을 활용한 제품·서비스를 제공하는 사업자는 인공지능 활용 사실을 사전에 알려야 한다. 생성형 인공지능 결과물과 인공지능 영상 조작 결과물도 이용자가 알아볼 수 있게 표시해야 한다. 다만 영상 조작물이 아닌 애니메이션·웹툰 등에는 눈에 보이지 않는 디지털 식별 무늬를 쓸 수 있고, 알림창이나 사용자 인터페이스로 생성 결과물임을 안내하는 방식도 허용된다. 제품 기획 단계에서부터 고지 위치, 결과물 표시 방식, 이용자 연령을 함께 검토해야 하는 이유다.
고영향 인공지능 판단은 적용 분야와 위험 수준을 함께 본다. 법이 열거한 분야는 에너지, 먹는 물, 의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공서비스, 교육 등 10개다. 최종 의사결정 과정에 사람이 개입해 위험을 통제할 수 있는 경우에는 고영향 인공지능 대상에서 제외된다. 별도의 안전성 확보 의무는 학습에 사용한 누적 연산량이 10의 26승 부동소수점 연산 이상이고, 최첨단 기술을 적용하며, 기본권에 광범위하고 중대한 영향을 줄 우려가 있다는 조건을 모두 충족할 때 적용된다. 따라서 서비스 이름이나 업종만으로 결론을 내리기보다 사용 목적과 의사결정 구조를 문서화할 필요가 있다.
| 확인 항목 | 시행령 기준 |
|---|---|
| 사전 고지 | 고영향·생성형 인공지능 활용 사실을 이용자에게 알림 |
| 결과물 표시 | 생성 결과물과 영상 조작 결과물을 식별 가능하게 표시 |
| 고영향 판단 | 10개 적용 분야와 위험 중대성, 사람의 최종 개입 여부를 함께 검토 |
| 안전성 의무 | 10의 26승 연산량·최첨단 기술·중대한 기본권 위험 조건을 모두 충족할 때 적용 |
| 계도·지원 | 사실조사·과태료 최소 1년 계도, 지원데스크의 비밀·익명 자문 제공 |
정부는 기업의 준비 시간을 보장하기 위해 사실조사와 과태료에 최소 1년 이상의 계도기간을 두기로 했다. 이 기간의 사실조사는 인명사고나 인권 훼손 같은 중대한 사회문제가 발생한 예외적 상황에 한해 실시한다는 방침이다. 동시에 한국인공지능소프트웨어산업협회에 지원데스크를 설치해 법 일반, 고영향 인공지능 판단, 안전성, 투명성, 영향평가에 관한 자문을 제공한다. 상담 내용은 비밀로 관리하고 익명 자문도 지원한다. 계도기간은 의무가 사라지는 기간이 아니라 적용 여부와 제품 표시, 내부 책임 체계를 점검할 준비 기간이라는 점이 기업의 실무적 한계다.
저작권자 © STORIUM 무단전재 및 재배포 금지
