오픈AI(OpenAI)가 유럽연합(EU) 집행위원회가 발표한 ‘AI 생성 콘텐츠 투명성 행동 규약(Code of Practice on Transparency of AI-Generated Content)’을 지지한다고 공식 발표했다. 이 행동 규약은 EU AI 법(EU AI Act) 이행 조치의 일환으로, AI가 생성하거나 편집한 콘텐츠에 출처 정보를 표시하는 방향성을 제시하는 문서다. 오픈AI는 수백 개 이해관계자와 함께 이 규약 개발에 기여했으며, 이미 2024년부터 DALL-E 3 이미지에 C2PA(콘텐츠 출처 및 진위 인증 연합) 메타데이터를 추가해 왔다.
현재 오픈AI가 적용 중인 출처 추적 기술은 복수의 레이어로 구성된다. 챗GPT·Codex·API를 통해 생성된 이미지에는 C2PA 메타데이터와 구글 딥마인드(Google DeepMind)의 SynthID 워터마크가 함께 적용되며, `openai.com/verify`에서 이용자가 이미지의 출처 신호를 직접 확인할 수 있는 공개 검증 서비스도 운영 중이다. 오픈AI는 2024년 C2PA 운영위원회에 합류해 소프트웨어 기업·카메라 제조사·언론 기관·온라인 플랫폼 간 상호운용 가능한 표준 개발에 참여하고 있다. 또한 2025년에는 미국 기업 최초로 EU 범용 AI 행동 규약(General-Purpose AI Code of Practice)에도 서명한 바 있다.
다만 오픈AI는 콘텐츠 출처 추적 기술이 아직 초기 단계임을 솔직히 인정했다. 메타데이터는 업로드·다운로드 과정에서 제거될 수 있고, 워터마크는 파일 형식 변환·리사이징·스크린샷 등으로 손상될 수 있어 어떤 단일 기법도 완벽하지 않다. 이 때문에 복수 신호의 조합, 정책 집행, 신고 채널, AI 생성 콘텐츠의 남용 사례(초상권 침해, 선거 관련 허위 정보 등)를 차단하는 분류기 등 여러 레이어를 병행 운용하는 접근법을 취하고 있다.
오픈AI는 EU AI 오피스·회원국 정부·업계 파트너와 협력해 출처 추적 기술의 신뢰성·내구성·상호운용성을 높여 나가겠다고 밝혔다. AI가 생성한 콘텐츠가 허위 정보 캠페인과 선거 개입 수단으로 악용될 수 있다는 우려가 커지는 가운데, 이번 규약 지지 선언은 EU 규제 환경에서의 시장 지위 유지와 글로벌 신뢰 구축이라는 두 가지 목표를 동시에 겨냥한 행보로 읽힌다.
저작권자 © STORIUM 무단전재 및 재배포 금지
