정부가 딥페이크 성범죄 대응에 자체 개발한 인공지능(AI) 모델을 본격 활용하기로 했다. 행정안전부와 성평등가족부, 방송미디어통신위원회는 지난 25일 정부서울청사에서 업무협약을 체결하고, 국립과학수사연구원(국과수)이 개발한 「AI 딥페이크 탐지·분석 모델」을 딥페이크 영상 적발부터 삭제·차단, 피해자 보호까지 전 과정에 적용하기로 합의했다.

이번 모델은 지난해 말 개최된 「딥페이크 범죄 대응을 위한 AI 탐지 모델 경진대회」에서 우수한 성적을 거둔 5개 모델을 앙상블 기법으로 통합한 결과물이다. 특정 부위와 조작 흔적을 감지하는 국소 분석과 영상 전체 패턴을 추적하는 전역 분석을 동시에 수행하는 방식으로 작동한다. 탐지율은 2024년 개발 모델(76%)이나 개별 모델 최고치(92%)보다 높은 97%에 달한다.

각 부처는 이번 협력체계를 통해 단계적으로 대응을 강화할 계획이다. 행안부는 딥페이크 기술 발전에 맞춰 모델 성능을 지속 개선하고, 방미통위는 플랫폼 사업자와 협력해 의심 콘텐츠 유통을 차단한다. 성평등부는 민간 모델과 정부 모델을 병행해 탐지 정확도를 높이고 2차 피해를 방지할 방침이다.

행안부 관계자는 「딥페이크 기술이 크게 발전함에 따라 필요시 차세대 모델 개발도 추진할 수 있을 것」이라고 밝혔다.