OpenAI가 생성형 AI 공개 이후 두 번째 글로벌 선거의 해를 맞아 선거 정보 신뢰성 확보, 사이버 인프라 방어 지원, AI 생성 콘텐츠 투명성 제고를 핵심으로 하는 선거 안전장치 계획을 발표했다. 2024년에 구축한 기반 위에서 이루어지는 이번 조치는 ChatGPT가 유권자들에게 신뢰할 수 있는 투표 정보를 제공하고 AI 도구가 선거 개입에 악용되지 않도록 하는 데 초점을 맞춘다.
정보 접근성 측면에서는 올 가을 미국과 브라질 선거에서 AP통신과 협력해 ChatGPT를 통해 실시간 개표 결과를 제공하며, 미국에서는 비영리 기관 Democracy Works와 제휴해 투표 등록, 투표소 위치, 선거 일정 등 실용 정보를 ChatGPT에서 직접 확인할 수 있도록 한다. 사이버 방어 분야에서는 최근 공개한 ‘Daybreak’ 프로그램의 일환으로 투표 시스템 보안 취약점을 자동으로 탐지·검증·보완하는 ‘Codex Security’와 프런티어 모델에 대한 접근 권한을 사이버 방어 인증 전문가에게 제공하는 ‘TAC(신뢰 접근 사이버)’ 프로그램을 운영한다. OpenAI는 미국 내 등록된 투표 시스템 제조사에 이 두 프로그램을 제공하고 주 선거 당국 단체와도 협력을 진행 중이다.
AI 생성 콘텐츠의 진위 확인을 위해 OpenAI는 다층 출처 표시 체계를 구축했다. 구글 딥마인드의 SynthID 디지털 워터마크를 ChatGPT·Codex·OpenAI API에서 생성된 이미지에 적용하기로 합의했으며, 이미지와 함께 이동하는 메타데이터·암호화 서명을 표준화하는 C2PA(콘텐츠 출처 및 진위 연합) 방식도 병행 적용한다. SynthID는 스크린샷 등 변환을 거쳐도 식별 가능한 비가시 워터마크를 제공하고, C2PA 메타데이터는 이미지 생성·수정 이력을 담는다. 아울러 플랫폼 밖에서 유통되는 이미지에 OpenAI 도구로 생성된 SynthID 워터마크가 있는지 확인할 수 있는 공개 검증 도구도 사전 공개했다.
OpenAI는 AI 생성 연방 선거 후보자 관련 딥페이크 배포를 금지하는 ‘기만적 AI로부터 선거 보호법(S. 1213)’과 선거 관리 기관의 AI 활용 지침을 마련하는 ‘선거 행정 AI 준비법(S. 2346)’ 입법도 지지한다고 밝혔다. 출처 표시 도구가 완전한 해법은 아니지만 소셜 미디어와 메시징 플랫폼이 시민 콘텐츠 추천 시 출처 정보를 신호로 활용하도록 협력을 제안했다. 2026년 선거 시즌은 생성형 AI가 정보 환경에 본격 영향을 미치는 두 번째 시험대로, AI 기업의 선거 개입 방지 체계가 어디까지 실효성을 가질지 주목된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
