오픈AI(OpenAI)가 AI 생성 콘텐츠의 출처를 더욱 명확히 식별할 수 있도록 콘텐츠 출처 표시(content provenance) 체계를 강화했다. 오픈AI는 콘텐츠 출처 및 진위 연합(C2PA·Coalition for Content Provenance and Authenticity)의 준수 생성자 제품으로 공식 등록되고, 구글 딥마인드(Google DeepMind)의 SynthID 기술을 활용한 보이지 않는 워터마킹을 ChatGPT와 Codex, API로 생성된 이미지에 적용하며, 일반인이 이미지가 오픈AI 도구로 만들어졌는지 확인할 수 있는 공개 검증 도구를 시범 제공한다고 밝혔다.
이번 접근법은 단일 기술에 의존하지 않는 다층 구조가 특징이다. C2PA 메타데이터는 콘텐츠가 어디서 어떻게 생성·편집됐는지를 암호화 서명과 함께 기록해 플랫폼 간 출처 정보를 전달한다. 그러나 메타데이터는 파일 형식 변환이나 스크린샷, 업로드 과정에서 제거되거나 손실될 수 있다. SynthID 워터마킹은 이미지 픽셀 수준에 눈에 보이지 않는 신호를 삽입해 이런 변환 과정에서도 상대적으로 지속될 수 있도록 설계됐다. 두 방식은 서로 보완하며 출처 신호의 내구성을 높인다.
공개 검증 도구는 업로드한 이미지에서 Content Credentials(콘텐츠 인증 정보)와 SynthID 워터마킹 신호를 동시에 확인해 ChatGPT, 오픈AI API, Codex를 통해 생성된 이미지인지 여부를 판별한다. 다만 어떤 출처 신호도 검출되지 않을 경우 오픈AI 도구로 생성됐는지 여부를 단정하지 않는다. 메타데이터가 제거됐을 수 있기 때문이다. 현재 검증 도구는 오픈AI 생성 콘텐츠에 한정되며, 향후 수개월 안에 업계 전반을 아우르는 교차 플랫폼 검증 지원을 목표로 한다.
오픈AI는 2024년부터 DALL·E 3를 시작으로 ImageGen, Sora 등 자사 생성 도구에 Content Credentials를 적용해왔으며, C2PA 운영위원회에도 합류해 표준 개발에 참여하고 있다. 음성 엔진에는 음성 워터마크를, Sora에는 시각 워터마크를 이미 적용한 경험을 바탕으로 이번에 SynthID 통합과 공개 검증 도구를 추가했다. AI 생성 허위 정보 확산에 대한 우려가 높아지는 가운데 업계 공통 표준을 기반으로 한 출처 투명성 체계가 실질적으로 작동하는지가 앞으로의 과제로 남는다.
저작권자 © STORIUM 무단전재 및 재배포 금지
