일론 머스크가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록(Grok)'이 유명 여성들의 동의 없는 성적 딥페이크 이미지를 생성하고 이를 호스팅하는 문제가 지속되고 있다는 지적이 제기되었습니다. 이는 xAI가 잠재적으로 유해한 성적 딥페이크 생성을 막기 위한 제한 조치를 도입하겠다고 밝힌 지 수개월 만에 나온 사실입니다.
그록 AI, 노골적인 콘텐츠 생성 및 유포에 대한 우려 확산
미국 IT 전문 매체 와이어드(WIRED)의 분석에 따르면, 그록의 이미지 생성 AI 시스템인 '그록 이매진(Grok Imagine)'은 유명 인사와 최소 한 명의 정치인을 거대한 남성에게 억지로 붙잡혀 있거나 성행위를 묘사하는 이미지, 나아가 완전한 나체 이미지를 만드는 데 사용된 것으로 나타났습니다. 일부 이미지는 애니메이션 스타일이지만, 상당수는 실제와 구분하기 어려운 수준의 사실적인 사진 형태를 띠고 있습니다.
안전 장치 미흡 지적 및 규제 당국 조사 가능성
와이어드는 그록닷컴(Grok.com)에 공개된 수백 개의 링크를 검토한 결과, 다수가 동의 없이 생성된 성적인 AI 이미지 및 영상으로 이어졌다고 밝혔습니다. 이러한 콘텐츠 중 일부는 소셜 미디어 플랫폼 X(구 트위터)에도 공유된 것으로 확인되었습니다. 딥페이크 전문가 헨리 아더(Henry Ajder)는 "그록과 X가 모델에 일부 수정을 가했을 수 있지만, 다른 주류 도구들의 기준에는 아직 미치지 못한다"고 지적했습니다. xAI는 올해 초 '누디피케이션(nudification)' 이미지 생성 논란 이후 안전 장치를 강화했다고 밝혔으나, 여전히 문제가 지속되고 있다는 비판에 직면했습니다.
콘텐츠 삭제 및 정책 위반 조치, 그러나 근본적 해결책은?
와이어드의 보도 이후, 그록닷컴에 호스팅되었던 문제의 이미지와 영상은 현재 접근이 불가능한 상태이며, X에 공유되었던 링크들도 정책 위반으로 삭제되었습니다. X의 안전 계정은 "비동의적이고 노골적인 딥페이크 생성 및 실제 인물을 옷 벗기는 도구 사용을 엄격히 금지한다"고 밝혔습니다. 하지만 이러한 즉각적인 조치에도 불구하고, 그록 AI 시스템의 안전성 문제와 규제에 대한 논의는 계속될 것으로 보입니다.