기업들의 인공지능(AI) 관련 지출 통제 움직임이 본격화되면서, 관련 비용 관리 솔루션을 제공하는 핀테크 기업 '램프(Ramp)'가 440억 달러(약 60조 원)의 기업 가치를 인정받으며 7500억 원 규모의 신규 투자를 유치했다. 이번 투자는 ICONIQ, GIC, Ontario Teachers' Pension Plan 등이 주도했으며, 이는 램프의 기업 가치를 약 38% 끌어올린 결과다.
AI 비용 관리 솔루션의 부상
뉴욕에 본사를 둔 램프의 에릭 글리먼(Eric Glyman) 최고경영자(CEO)는 연간 매출 10억 달러 돌파와 함께 긍정적인 잉여 현금 흐름을 기록했다고 밝혔다. 이러한 성장의 배경에는 AI 솔루션 도입으로 인해 예산 부담이 커진 기업 고객들의 니즈가 자리 잡고 있다. 글리먼 CEO는 "AI 관련 '토큰' 비용이 상당하며, 많은 최고재무책임자(CFO)들이 이러한 급증세를 예상하지 못했을 뿐만 아니라 이를 관리할 효과적인 도구도 부족한 상황"이라고 지적했다. 그는 AI 사용에 따른 비용 관리가 기존의 지출 항목과는 다른 새로운 과제로 부상했다고 설명했다.
비용 효율적 AI 활용 솔루션 제공
이에 램프는 기업들이 AI 지출을 효율적으로 관리할 수 있도록 돕는 솔루션을 제공한다. 이 솔루션은 기업들이 AI 모델을 통해 작업을 처리할 때, 더 저렴한 비용으로 가능한 모델을 우선적으로 활용하도록 지원한다. AI 기업들이 사용하는 사용량 단위인 '토큰'의 가격은 CFO들에게 예상치 못한 부담으로 작용하고 있으며, 많은 기업들이 가장 발전된 최첨단 AI 모델을 모든 업무에 사용하고 있어 비용이 과도하게 발생하고 있다는 분석이다. 글리먼 CEO는 "가장 중요한 분석에는 고도화된 AI가 필요할 수 있지만, 이메일 편집과 같은 업무에는 그럴 필요가 없다"며 비용 효율적인 AI 활용의 중요성을 강조했다. 실제로 램프를 이용하는 기업 중 AI에 많은 비용을 지출한 곳은 매출이 12% 증가했지만, 적게 지출한 곳은 매출 성장이 정체된 것으로 나타났다.
'토큰 맥싱' 시대의 저물어감
글리먼 CEO는 OpenAI, Anthropic과 같은 선도적인 AI 기업들이 더 저렴한 옵션을 추천할 유인이 없다고 언급했다. 그는 "이들 기업의 목표는 수익과 이익을 극대화하는 것"이라며, 이로 인해 램프와 같이 토큰 비용 관리를 돕는 기업이나 비용 효율적인 옵션을 제공하는 AI 기업들이 부상하고 있다고 분석했다. 그는 또한 개발자들이 생산성 향상을 위해 가능한 많은 토큰을 사용하려는 '토큰 맥싱(tokenmaxxing)' 현상에 대해서도 언급하며, 더 이상 토큰 사용량이 반드시 더 큰 가치를 의미하지는 않는다고 지적했다. 글리먼 CEO는 "토큰 맥싱 시대는 저물어가고 있다"며 기업들이 이러한 지표의 한계를 인식하기 시작했다고 덧붙였다.