구글(Google)이 최근 연례 개발자 회의인 I/O에서 인공지능(AI) 생성 콘텐츠 식별 기술인 '신스ID(SynthID)'의 확장 계획을 발표했다. 이는 딥페이크와 AI 생성 이미지, 비디오, 오디오가 온라인에서 확산하며 발생하는 혼란과 속임수에 대응하기 위한 중대한 조치로 평가된다. 함께 거론된 'C2PA 콘텐츠 크리덴셜(C2PA Content Credentials)' 기술 역시 확장될 예정이다.
신스ID는 구글(Google)의 AI 모델이 생성한 콘텐츠에 보이지 않는 워터마크를 삽입하는 시스템이다. 이번 확장을 통해 사용자들이 신스ID 마커가 적용된 이미지의 진위 여부를 확인할 수 있게 된다. C2PA 콘텐츠 크리덴셜(C2PA Content Credentials)은 이미지, 비디오, 오디오 파일에 해당 콘텐츠의 출처 정보를 보이지 않게 태그하는 기술이다. 이 두 기술의 확장은 온라인상에서 출처가 불분명한 AI 조작 콘텐츠가 사람들을 속이는 현상에 맞서 판도를 바꾸는 기회가 될 것으로 기대된다.
최근 교황 프란치스코(Pope Francis)의 조작된 이미지가 온라인에서 확산하며 사람들을 혼란스럽게 했던 사례에서 볼 수 있듯이, 강력한 AI 라벨링 시스템의 부재는 심각한 문제를 야기했다. 이러한 기술들이 제대로 갖춰졌다면, 해당 이미지가 가짜임을 사람들이 더 쉽게 인지할 수 있었을 것이라는 분석이다. 이번 기술 확장은 AI 생성 콘텐츠의 투명성을 높이고, 온라인 정보의 신뢰도를 회복하는 데 중요한 전환점이 될 전망이다.
