정부가 국립과학수사연구원(국과수)과 행정안전부가 공동 개발한 AI 딥페이크 탐지·분석 모델을 디지털 성범죄 대응에 전면 투입한다. 행정안전부·성평등가족부·방송미디어통신위원회는 25일 정부서울청사에서 ‘딥페이크 성범죄 대응 기술협력을 위한 업무협약’을 체결하고, 딥페이크 영상물 탐지·분석부터 삭제·차단, 피해자 보호까지 전 과정에 AI 모델을 적용하기로 했다.
이번 모델은 지난해 말 열린 ‘딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회’에서 우수한 성적을 거둔 5개 모델을 앙상블 기법으로 결합한 결과물이다. 특정 부위와 조작 흔적을 분석하는 ‘국소 분석’과 영상 전체 흐름을 추적하는 ‘전역 분석’을 동시에 수행하며, 탐지율은 97%로 2024년 개발된 구형 모델(76%)이나 개별 모델 최고치(92%)를 크게 웃돈다. 단일 모델에 의존하지 않고 성능이 검증된 여러 모델의 판단을 종합하는 앙상블 방식이 탐지 정확도와 안정성을 동시에 끌어올린 셈이다.
협약에 따라 각 기관은 역할을 나눠 대응에 나선다. 행안부는 딥페이크 기술 발전에 맞춰 모델 성능을 지속 고도화하고, 방미통위는 플랫폼 사업자와의 삭제·차단 협력 체계를 강화한다. 성평등가족부는 기존 도입한 민간 모델과 정부 모델을 병용해 탐지·분석 정확도를 높이고 2차 피해를 방지할 계획이다. 행안부 관계자는 개발자들로부터 학습 알고리즘을 이관받아 모델 성능을 계속 개선하고 있다며 “딥페이크 기술이 크게 발전해 차세대 모델이 필요하다고 판단되면 추가 개발 사업도 진행할 수 있을 것”이라고 밝혔다. 생성형 AI로 누구나 손쉽게 합성 영상을 만들 수 있게 되면서 딥페이크 성범죄가 빠르게 늘고 있는 가운데, 정부가 민간 의존을 넘어 자체 탐지 기술을 확보하고 탐지·삭제·피해자 보호를 하나로 묶었다는 점에서 대응 체계가 한 단계 진전했다는 평가가 나온다.
저작권자 © STORIUM 무단전재 및 재배포 금지
