인공지능(AI) 개발 스타트업 앤트로픽(Anthropic)이 미국 정부의 수출 통제 지침에 따라 자사 AI 모델인 '클로드 페이블 5(Claude Fable 5)'와 '미토스 5(Mythos 5)'의 서비스 제공을 중단한다고 밝혔습니다. 미국 정부는 금요일 오후 국가 안보 문제를 이유로 해당 지침을 전달했으며, 앤트로픽은 이에 즉각 대응해 모든 고객의 접근을 차단했습니다.
정부, '탈옥' 가능성 지적… 앤트로픽은 '제한적 취약점' 반박
앤트로픽은 블로그 게시물을 통해 미국 정부로부터 받은 서한에는 구체적인 국가 안보 우려 내용이 명시되지 않았다고 설명했습니다. 다만, 앤트로픽은 정부가 '페이블 5'의 보안을 우회할 수 있는 '탈옥(jailbreaking)' 방법을 인지한 것으로 보인다고 전했습니다. 이에 대해 앤트로픽은 해당 기술이 이미 알려진 사소한 취약점을 식별하는 데 사용되었으며, 다른 공개된 AI 모델에서도 발견될 수 있는 수준이라고 반박했습니다. 회사는 '클로드 페이블 5'에 강력한 안전장치를 적용했으며, 정부가 제시한 탈옥 방식은 매우 제한적이고 공격자의 위험을 크게 증가시키지 않는다고 주장했습니다.
AI 모델의 군사적 활용 두고 갈등 지속
이번 사태는 앤트로픽과 미국 행정부 간의 긴장 관계를 다시 한번 부각시켰습니다. 올해 초, 앤트로픽은 미국 국방부로부터 '공급망 위험'으로 지정된 바 있습니다. 당시 앤트로픽은 자사 기술의 미국 군사적 활용 방안에 대한 명확한 경계선을 설정하려 했고, 이에 국방부는 정부 기관 및 계약업체의 앤트로픽 기술 사용을 사실상 금지했습니다. 앤트로픽은 이에 대해 행정부를 상대로 소송을 제기하며 반발해왔습니다. 앤트로픽의 최고경영자(CEO) 다리오 아모데이(Dario Amodei)는 안전하지 않은 AI 모델의 출시를 차단하는 투명하고 구조화된 정부 절차를 지지하지만, 이번 조치는 이러한 원칙에 부합하지 않는다고 비판했습니다.