구글의 AI 콘텐츠 워터마킹 기술 ‘SynthID’가 OpenAI, 엔비디아 등 외부 기업으로 확산된다고 5월 19일 전해졌다. SynthID는 AI가 생성한 이미지·오디오 등에 사람 눈에 보이지 않는 패턴을 새겨, 나중에 해당 콘텐츠가 AI로 만들어졌는지 식별하게 하는 기술이다. 지금까지는 구글 AI 모델이 생성한 콘텐츠에만 적용돼 효력이 제한적이었으나, 이번 협력으로 적용 범위가 넓어질 전망이다.
구글은 여러 기업과 손잡고 각사 시스템에 SynthID를 추가한다고 발표했다. 엔비디아는 자사의 코스모스(Cosmos) 월드 파운데이션 모델에 SynthID를 적용하고, OpenAI는 GPT 이미지 생성에 이를 도입한다. 카카오와 일레븐랩스(ElevenLabs)도 자사 AI 콘텐츠에 SynthID 부착을 시작한다. 그동안 인터넷상 AI 이미지 대다수는 구글 모델 산출물에만 워터마크가 있어 식별이 어려웠는데, 이번 확산은 그 공백을 일부 메우는 조치다.
다만 이로써 모든 AI 콘텐츠를 가려낼 수 있게 되는 것은 아니다. 워터마크 없이 콘텐츠를 만드는 공개 모델이 여전히 많고, 누구나 직접 학습시켜 자기 방식대로 AI 이미지·영상을 생성할 수 있는 오픈 모델도 존재하기 때문이다. 일부 사용자가 숨겨진 SynthID 패턴을 제거하는 방법을 찾았다고 주장했으나, 구글은 그러한 우회 기법이 실제로는 작동하지 않는다는 입장이다.
구글은 SynthID 확인 경로도 넓힌다. 기존에는 제미나이(Gemini) 앱에 콘텐츠를 올려 AI 여부를 물어야 했지만, 앞으로는 서클 투 서치(Circle to Search), 렌즈(Lens), AI 모드와 연동된다. 크롬에서 해당 콘텐츠가 담긴 탭을 제미나이와 공유해 “이거 AI야?”라고 물어보는 식의 확인도 가능해진다. 별도로 제미나이 앱을 열지 않고도 워터마크 상태를 점검할 수 있게 되는 셈이다.
현재 SynthID의 공개 API는 제공되지 않는다. 스캔 도구를 지나치게 손쉽게 풀면 오히려 SynthID 우회를 노리는 이들에게 공격 경로가 될 수 있다는 우려에서다. 대신 구글은 제미나이 엔터프라이즈 에이전트 플랫폼의 일부로 AI 콘텐츠 탐지 API를 출시할 준비를 하고 있다. 신뢰할 수 있는 기업 파트너가 AI 콘텐츠를 더 쉽게 식별하도록 하면서, 구글은 향후 수개월에 걸쳐 API를 다듬어 갈 계획이다. AI 생성물의 출처 표시가 업계 표준으로 자리잡을 수 있을지 가늠하는 분수령이 될 전망이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
