구글 클라우드(Google Cloud) 최고운영책임자(COO) 프랜시스 드 수자(Francis de Souza)는 최근 AI 시대의 보안이 사후 고려사항이 아닌 필수적인 플랫폼 접근 방식임을 강조했다. 그는 기업들이 AI 여정을 시작하면서 보안, 거버넌스, 감사 가능성(auditability)을 처음부터 요구해야 하며, 데이터 전략과 보안 전략 없이는 AI 전략이 존재할 수 없다고 경고했다. 또한, 조직의 감독 없이 직원이 소비자 도구를 사용하는 ‘섀도우 AI(Shadow AI)’의 위험성도 지적했다.
드 수자 COO는 멀티클라우드(multicloud) 환경에서의 일관된 보안 태세가 중요하며, 위협 환경이 근본적으로 변화하여 전통적인 방어 모델로는 대응하기 어렵다고 설명했다. 그는 초기 침해부터 다음 공격 단계까지 걸리는 시간이 8시간에서 22초로 단축되었고, 공격 표면(attack surface)이 모델, 데이터 파이프라인, 에이전트, 프롬프트 등으로 확장되었다고 밝혔다. 특히, 에이전트가 내부 시스템을 돌아다니며 잊힌 데이터 저장소를 찾아내 데이터를 노출시킬 수 있다고 경고하며, 기계 속도에 대응하는 AI 네이티브, 완전 에이전트 기반 방어가 필요하다고 역설했다. 그는 AI 보안이 기술 문제를 넘어 이사회 및 경영진의 이슈가 되었다고 덧붙였다.
하지만 이러한 경고에도 불구하고, 구글 클라우드(Google Cloud) 자체에서 AI 보안 취약점이 현실화된 사례가 드러났다. 언론사 더 레지스터(The Register)의 보도에 따르면, 다수의 구글 클라우드 개발자들이 제미니(Gemini) 모델에 대한 무단 API 호출로 수만 달러의 고액 청구서를 받았다. 이는 구글 맵스(Google Maps)용으로 배포된 API 키의 범위가 구글에 의해 확장되었음에도 불구하고, 관련 변경 사항이 명확히 공지되지 않아 발생했다. 인터뷰 준비 플랫폼 프렌터스(Prentus)의 로드 다난(Rod Danan) CEO는 해킹된 API 키로 인해 약 30분 만에 10,138달러를 청구받았으며, 시드니의 개발자 이수루 폰세카(Isuru Fonseka)는 250달러의 지출 한도가 있다고 생각했으나 약 17,000 호주 달러(AUD)를 청구받았다. 구글의 자동 시스템이 명시적 동의 없이 청구 등급을 최대 10만 달러까지 상향했기 때문으로, 구글은 보도 이후 해당 금액을 환불 조치했다. 한편, 링키드인(LinkedIn) 최고정보보안책임자(CISO) 리아 키스너(Lea Kissner)는 AI가 도입하는 취약점이 보안팀의 대처 속도보다 빠르게 증가하고 있으며, 업계가 AI 보안을 지속 가능한 방식으로 이해하는 데 수년이 걸릴 것이라고 언급하며 AI 보안 인력 부족 문제를 지적했다.