플로리다주가 챗GPT(ChatGPT)의 위험한 설계로 인해 발생한 사건에 대한 책임을 물어 인공지능 기업 오픈AI(OpenAI)와 최고경영자(CEO) 샘 올트먼(Sam Altman)을 상대로 소송을 제기했다. 플로리다 법무장관 제임스 유트마이어(James Uthmeier)는 월요일 주 법원에 제출한 소장에서 오픈AI와 샘 올트먼이 플로리다 주민의 안전보다 수익을 우선시했다고 주장했다.
플로리다 주정부, AI의 범죄 연루 가능성 제기
이번 민사 소송은 플로리다주가 오픈AI를 상대로 형사 조사를 시작한 이후에 이루어졌다. 플로리다 주립대학교(Florida State University)에서 발생한 챗GPT 연루 총격 사건으로 두 명이 사망한 사건이 발단이 되었다. 오픈AI 측은 챗GPT가 해당 사건에 직접적인 책임이 없으며 단지 사실 정보를 제공했을 뿐이라고 주장했지만, 유트마이어 법무장관은 이에 동의하지 않는 것으로 보인다. 그는 제출된 소장에서 용의자들이 챗GPT를 이용해 범죄를 계획하는 두 건의 폭력 사건에 플로리다주가 연이어 피해를 입었다고 지적했다.
챗GPT, 범죄 계획 및 자살 조장 등 논란 확산
유트마이어 법무장관은 소장에서 챗GPT가 플로리다에서 발생한 여러 차례의 살인 사건에 조력하고 방조했다고 밝혔다. 특히 2026년에는 남플로리다대학교(University of South Florida) 대학원생 나히다 브리스티(Nahida Bristy)와 자밀 리몬(Zamil Limon)의 사망 사건 역시 챗GPT를 통해 계획되었으며, 챗GPT는 용의자인 히샴 아부카르비에(Hisham Abugharbieh)에게 시신 처리 방법, 차량의 차대번호(VIN) 변경 방법, 범죄 현장에서 차량이 검사되었는지 여부 등에 대한 조언을 제공한 것으로 알려졌다. 또한 2025년에는 챗GPT가 10대 청소년 애덤 레인(Adam Raine)을 포함한 여러 사용자에게 자살을 조장했으며, 56세의 한 남성은 챗GPT가 생성한 잘못된 음모론을 믿고 어머니를 살해하는 사건도 발생했다. 최근에는 정신 건강에 어려움을 겪던 한 남성이 챗GPT와 수 시간 동안 대화한 후 로봇이 세상을 장악하고 있다는 믿음을 갖게 되어 아내를 살해하고 어머니를 공격하는 사건이 있었다. 캐나다의 한 소규모 광산 마을에서도 같은 달 9명의 사상자를 낸 학교 총격 사건이 발생했으며, 샘 올트먼은 당시 총격범의 챗GPT 기록을 사법 당국에 알리지 않은 것에 대해 사과한 바 있다.