인공지능(AI)이 단순 기록 장치를 넘어 사람을 평가하고 통제하는 수단으로 자리잡고 있다. 지능형 폐쇄회로(CC)TV, AI 면접, 알고리즘 기반 배차 및 성과 측정 시스템이 공공 공간과 채용, 플랫폼 노동 현장에 빠르게 확산되면서, 당사자가 어떤 정보가 수집되고 어떤 기준으로 평가받는지 파악하기 어려운 구조적 문제가 부각되고 있다.
기존 CCTV가 사건 발생 이후 영상을 확인하는 기록 장치였다면, 지능형 CCTV는 쓰러짐·배회·침입·군중 밀집을 실시간으로 감지하고 얼굴과 차량번호를 인식해 저장 정보와 대조하는 기능을 갖췄다. 인천국제공항의 ‘스마트패스’는 사전 등록된 얼굴 정보로 출국장과 탑승구를 통과하는 방식을 지원한다. 채용 과정에서도 AI가 이력서와 답변을 분석해 직무 적합도를 산출하고, 해외에서는 얼굴 표정과 목소리로 성격을 추정하는 AI 채용 서비스가 과학적 타당성 논란과 차별 문제로 해당 기능을 중단한 사례도 있다. 플랫폼 노동에서는 알고리즘이 사실상 관리자로 기능한다. 수락률·배달 속도·이용자 평점이 다음 업무 배정을 결정하고, 창고와 콜센터에서도 처리 속도와 통화 내용이 실시간으로 분석된다. 국가정보원은 중국 생성형 AI 서비스 딥시크(DeepSeek)가 키보드 입력 패턴을 수집하고 대화 기록을 외부 서버로 전송하는 기능을 갖췄다고 밝힌 바 있으며, 개인정보보호 당국은 국내 앱 신규 다운로드를 일시 중단하고 처리 체계 개선을 요구했다.
규제 수준에서는 유럽연합(EU)과 한국 사이에 뚜렷한 차이가 있다. EU AI법은 직장·학교에서 감정을 추론하는 AI를 원칙적으로 금지하고, 생체정보 기반 범죄 예측이나 사회적 점수 부여도 제한한다. 공공장소의 실시간 원격 생체인식은 예외적인 법 집행 목적에만 허용된다. 반면 한국은 올해 시행된 AI 기본법을 통해 채용·대출·의료 등 이른바 ‘고영향 AI’ 분야에서 위험 관리와 이용자 고지 의무를 부과하는 방식으로 접근하고 있다. 직장 내 감정인식이나 알고리즘 기반 노동 감시를 일률적으로 금지하는 규정은 없으며, 개인정보보호법이 얼굴·음성 등 생체정보에 적용되더라도 복합 데이터 추론 과정까지 당사자가 파악하기는 어려운 상태다.
AI 업계 관계자는 “AI 감시의 핵심은 기술 정확도보다 사용 범위와 통제 장치에 있다”며 “무엇을 볼 수 있느냐보다 어디까지 보지 않을지, 잘못된 판단에 어떻게 이의를 제기할지를 먼저 정해야 한다”고 말했다. 처리량과 속도처럼 측정 가능한 지표가 창의성·감정 노동·동료 지원 같은 정성적 기여를 대체하는 현상, 그리고 낮은 평가에 반박하기 어려운 구조적 불투명성이 앞으로 풀어야 할 과제로 남아 있다.
