한국과학기술원(KAIST)은 자율적으로 복잡한 업무를 수행하는 AI 에이전트가 기존 질의응답형 AI보다 한 건의 질문당 최대 136.5배 많은 전력을 소비한다는 연구결과를 5일 공개했다. 이는 실제 서비스 환경에서 AI 에이전트의 전력 소비를 정량적으로 분석한 첫 번째 사례다.

KAIST 전기 및 전자공학부 유민수 석좌교수 연구팀의 분석에 따르면, 700억개의 매개변수를 가진 대형 언어 모델 기반 AI 에이전트는 한 건의 질문 처리에 평균 348.41와트시(Wh)의 전력을 필요로 한다. 같은 규모의 생성형 AI와 비교하면 최대 136.5배 높은 수치다. 또한 응답 시간은 최대 153.7배 늘어나는 것으로 나타났으며, GPU가 검색이나 계산 같은 외부 도구 사용 중 유휴 상태로 머물러 있는 시간이 전체 실행 시간의 최대 54.5%에 달했다.

연구팀은 매일 137억 건에 달하는 AI 에이전트 처리 요청이 발생하는 시나리오를 바탕으로 미래 수요를 추산했다. 그 결과 데이터센터가 필요로 할 전력량은 약 198.9기가와트(GW)에 도달할 것으로 예측됐다. 이는 현재 추진 중인 수 기가와트 규모의 AI 데이터센터를 훨씬 초과하는 수준이며, 미국 전체 평균 전력 소비량의 약 절반에 해당하는 규모다.

연구팀은 이번 결과가 AI 시대의 경쟁력이 「더 똑똑한 AI」에서 「더 효율적인 AI」로 이동하고 있음을 보여준다고 설명했다. 유민수 석좌교수는 「AI 에이전트가 보편화되는 시대에는 AI 데이터센터 인프라뿐만 아니라 AI 에이전트 모델과 전력 인프라까지 통합적으로 공동 설계해 최적화하는 접근이 필수적일 것」이라고 강조했다. 앞으로 AI 반도체, 데이터센터, 전력 인프라를 함께 최적화하는 전략이 산업의 핵심 과제로 부상할 전망이다.