AI 모델이 정부·기업 붕괴 초래 가능, 파이브아이즈 긴급 경고

호주, 미국, 영국, 뉴질랜드, 캐나다의 신호정보기관들이 정부와 기업을 마비시킬 수 있는 강력한 AI 모델이 수 개월 내 출현할 수 있다고 경고했다. 파이브아이즈(Five Eyes) 연합의 사이버정보 기관들이 드물게 공동 성명을 발표한 것은 트럼프 행정부가 인류픽(Anthropic)이 개발한 테이블(Fable) AI 모델에 대한 외국인 접근을 금지한 조치 직후였다.

성명에서 파이브아이즈 기관들은 「차세대 AI 모델은 현재 업계 기준을 크게 초과할 것으로 예상되며, 공격적·방어적 사이버 능력을 근본적으로 변화시킬 것」이라 밝혔다. 이어 「그 시간은 수년이 아니라 수 개월」이라고 강조했다. 성명은 또한 「AI는 사이버 위협의 속도, 규모, 정교함을 가속화한다」며 지도자들에게 「즉시 행동할 것」을 촉구했다.

사이버보안 기관들은 AI 모델의 급진적 발전이 악의적 행위자들의 진입장벽을 낮추고 공격의 속도와 복잡성을 증가시킬 것이라고 지적했다. 성명은 「조직 전체, 사회 전체의 대응이 필요하다」며 「사이버 위험은 더 이상 순수 기술 문제가 아니라 핵심 비즈니스 위험이자 리더십의 책임」이라고 강조했다.

인류픽의 최신 모델인 테이블 5는 올해 초 출시된 강력한 AI 모델 미토스(Mythos)의 더욱 친화적 버전으로, 사이버 시스템의 취약점 탐지에 능하다. 미토스는 악용 우려로 검증된 조직과 기업만 사용할 수 있도록 제한되고 있다. 미국 정부는 지난 6월 국가보안 당국의 조언을 이유로 외국인의 두 모델 사용을 중단했다.

시드니대학교 미국학센터의 올리비아 셴(Olivia Shen) 국가안보 및 AI 전문가는 「다음 미토스, 다음 테이블이 눈앞에 있을 것으로 예상해야 한다」고 말했다. 그는 중국을 포함한 다른 국가나 기업들이 개발 중인 AI 모델이 동등하게 발전했을 가능성을 제시했다. 한편 알바니즈 호주 정부는 3월 인류픽과 국가 AI 계획의 첫 번째 파트너십을 체결했으며, 이는 기업들이 AI 발전 정보를 정부와 공유하고 안전성을 촉진하도록 하는 비구속적 양해각서다.