기기 속 AI, 보안 표준은 아직 걸음마 단계

퀄컴 칩셋 234개. 구글이 2026년 3월 안드로이드 보안 권고를 통해 배포한 패치 묶음 하나에서 드러난 영향 범위다. 총 129개 항목 중에는 메모리 손상을 유발하는 고위험 제로데이 취약점도 포함됐다. 이 칩셋들은 단순한 통화·문자 기기에 들어가는 것이 아니다. 사진 분류, 음성 인식, 실시간 번역, 건강 데이터 분석까지 처리하는 온디바이스 AI의 핵심 연산 장치다. 취약점 하나가 곧 개인 데이터 전체의 허점으로 이어지는 구조다.

클라우드 없이 처리한다고 안전한 것은 아니다

온디바이스 AI는 데이터를 기기 안에서 처리하기 때문에 클라우드 전송 과정의 도청·탈취 위험을 줄인다는 점에서 환영받았다. 스마트폰 제조사들이 앞다퉈 「AI폰」을 내세우고, 노트북과 웨어러블 기기까지 추론 연산을 기기 자체에서 수행하는 방향으로 전환하는 흐름도 이 논리에 기댄다. 그러나 보안 전문가들은 이 전제에 균열이 있다고 지적한다.

온디바이스 AI가 처리하는 데이터는 클라우드 연동 서비스보다 오히려 더 민감하다. 건강 지표, 생체 인식 패턴, 행동 습관, 위치 이력이 단말기 내부에 집약되기 때문이다. 클라우드 서버는 전담 보안팀과 실시간 위협 탐지 체계를 갖추고 있지만, 개인 기기는 그렇지 않다. 칩셋 수준의 취약점이 패치되지 않은 채 방치될 경우, 공격자는 원격으로 메모리를 손상시켜 AI 모델이 학습·추론에 사용하는 로컬 데이터에 접근할 수 있다.

표준 없이 빠르게 퍼지는 기술

문제는 기술 보급 속도와 보안 표준 수립 속도의 격차다. 온디바이스 AI 기능을 탑재한 스마트폰은 이미 전 세계 신규 출하 모델의 상당 비중을 차지하고 있으나, 이 기기들이 준수해야 할 보안 요건을 명시한 국제 표준은 아직 초안 단계를 벗어나지 못했다. 클라우드 AI 서비스에 적용되는 보안 인증 체계는 서버 환경을 전제로 설계돼 있어, 엣지 단말에 그대로 적용하기 어렵다는 것이 업계 안팎의 공통된 평가다.

국내에서도 개인정보보호위원회와 한국인터넷진흥원(KISA)이 AI 기기 보안 가이드라인을 검토하고 있지만, 법적 구속력을 갖는 인증 체계로 이어지려면 상당한 시간이 필요하다는 분석이 나온다. 유럽연합(EU)이 AI법(AI Act)을 통해 고위험 AI 시스템에 대한 보안·투명성 요건을 규정하기 시작한 것과 비교하면, 온디바이스 특화 규제 논의는 전 세계적으로 초기 단계에 머물러 있다.

보안 패치 구조 자체를 바꿔야 한다

퀄컴 칩셋 취약점 사례가 보여주는 또 다른 문제는 패치 전달 경로의 복잡성이다. 칩 제조사가 패치를 내놓아도, 단말기 제조사가 이를 펌웨어에 반영하고, 다시 이동통신사를 거쳐 사용자 기기에 도달하기까지 수개월이 걸리는 경우가 많다. 그 사이 취약점은 공개된 상태로 노출된다. 특히 저가 단말이나 지원이 종료된 구형 기기일수록 이 공백은 길어진다.

온디바이스 AI가 처리하는 데이터의 민감도를 고려하면, 패치 전달 구조 자체를 재설계하는 논의가 필요하다는 지적이 제기된다. 칩셋 단계에서 직접 보안 업데이트를 받을 수 있는 구조, 또는 AI 연산 전용 보안 구역(TEE·신뢰실행환경)의 독립적 패치 경로 확보가 기술적 대안으로 거론된다. 결국 온디바이스 AI의 신뢰성은 기기 안에서 데이터가 얼마나 잘 처리되느냐가 아니라, 그 기기가 얼마나 빠르게 위협에 대응할 수 있느냐에 달려 있다. 기술은 이미 기기 안에 들어와 있다. 보안 표준은 아직 문 밖에 있다.