AI 신뢰성 검증 기업 씽크포비엘이 경찰청과 함께 치안 분야 인공지능(AI) 신뢰성 확보를 위한 기술 협력에 나선다. 씽크포비엘은 지난달 ‘AI 영향평가 및 위험관리방안 수립’ 정책과제연구 수행기관으로 선정된 데 이어 이달부터 본격적으로 사업에 착수한다고 9일 밝혔다. 앞서 지난 8일에는 경찰청 본청에서 사업 시작을 알리는 킥오프 회의가 열렸다.
이번 정책과제연구는 경찰청이 현장 수사와 민원 업무 전반에 AI 기술을 도입하는 과정에서 법·제도에 대응하도록 돕는 사업이다. 구체적으로는 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’과 내년부터 시행되는 ‘AI 및 데이터 기반 행정 활성화에 관한 법률(공공 AI법)’에 맞춰 법적 영향과 운영상 위험 가능성을 진단하고, 적용 가능한 영향평가·위험관리 체계와 정책·조직·문서 기준을 세우는 데 초점을 맞춘다. 회사는 사업 기간에 국내외 정책·조직 현황 조사, 경찰청 도입 AI 사업·서비스 영향평가 시행, AI 위험관리 정책 수립, 위험관리 조직체계와 역할·책임 정립, 안전성·신뢰성 확보 조치 및 문서화 작업을 진행한다.
이번 협력은 치안 영역이 지닌 특수성 때문에 더 주목된다. 수사와 민원 처리처럼 시민의 권리와 직결되는 업무에 AI를 쓰려면 성능뿐 아니라 판단의 공정성과 설명 가능성이 함께 요구된다. AI 기본법은 사회적 파급력이 큰 ‘고영향 AI’에 대해 별도의 관리 의무를 부과하고 있어, 치안 AI 역시 이 범주에서 다뤄질 가능성이 크다. 이 때문에 경찰청 같은 공공기관이 도입 초기 단계부터 위험관리 틀을 마련하는 것은 기술 검증만으로는 채우기 어려운 신뢰의 근거를 확보하는 과정으로 평가된다.
사업이 마무리되면 치안 AI 분야에서 국내 법제 대응을 넘어 경제협력개발기구(OECD)와 글로벌 규범 수준의 영향평가·위험관리 표준 모델이 마련된다. 경찰청은 공공기관 가운데 가장 선제적으로 AI 법규제에 대응함으로써 공공 AI 영향평가와 고영향 AI 관리에 참고 사례를 제시할 수 있다는 것이 회사 설명이다. 박지환 씽크포비엘 대표는 “치안 AI는 성능 중심의 기술 검토만으로는 충분하지 않은 분야로, 이번 사업은 경찰청이 실제 현장에서 반복 적용할 수 있는 체계와 기준을 마련하는 작업”이라며 “글로벌 AI 거버넌스 규범을 선제적으로 검토하는 것은 투명하고 설명 가능한 치안 AI 운영체계의 기준을 높이는 중요한 시도”라고 말했다.
저작권자 © STORIUM 무단전재 및 재배포 금지
