AI 서비스의 토큰 단가가 꾸준히 하락하고 있지만 기업이 실제로 지불하는 AI 비용 총액은 오히려 늘어날 것이라는 분석이 나왔다. 가트너는 최근 발간한 보고서 ‘AI의 임박한 비용 폭발이 가치에 대한 냉혹한 집중을 강제할 것(AI’s Impending Cost Explosion Will Force a Ruthless Focus on Value)’에서 평균 토큰 가격이 낮아지더라도 기업이 부담하는 ‘완료 작업당 비용’은 상승하고 있다고 지적했다. 에이전트형 업무 자동화가 확산되면서 고성능 추론 모델을 반복적으로 호출해야 하는 복잡한 처리 과정이 늘어났기 때문이다. IDC는 전 세계 AI 지출이 2024년 2350억달러에서 2028년 6320억달러로 늘어날 것으로 전망했으며, 생성형 AI 지출 비중은 같은 기간 17.2%에서 32%로 확대될 것으로 내다봤다.
가트너는 이 현상을 ‘토큰 슈링크플레이션(token shrinkflation)’이라고 표현했다. 겉으로 보이는 토큰 단가는 내려가지만 업무 하나를 완료하는 데 드는 실제 비용은 같거나 높아지는 상황을 시리얼 박스 가격은 그대로지만 내용물이 줄어드는 것에 빗댄 것이다. 보고서는 2028년까지 프런티어 모델의 완료 작업당 비용이 4배 이상 오를 것으로 전망했다. 기업 현장에서 이미 예산 초과 사례가 이어지고 있다. 우버(Uber)는 AI 코딩 소프트웨어 예산이 급증하자 직원 1인당 월 1500달러의 토큰 사용 상한을 도입했고, 월마트(Walmart)도 소프트웨어 엔지니어링 조직에 AI 예산 게이트를 적용했다.
AI 애플리케이션 공급사도 비용 압박에서 자유롭지 않다. 가트너가 인용한 사례에 따르면 AI 코딩 도구 커서(Cursor)는 매출 5억달러에 앤트로픽(Anthropic)에 6억5000만달러를 지불해 마이너스 30% 마진을 기록했으며, 이후 자체 모델과 인프라 구축에 35억달러를 조달해 2025년 말 마진을 74%까지 끌어올린 것으로 전해졌다. 마이크로소프트의 깃허브 코파일럿(GitHub Copilot)은 지난 6월 1일부로 용량 기반 과금으로 전환했으며, 가트너는 이로 인해 헤비 유저의 비용이 평균 3~10배 증가했다고 추정했다. 앤트로픽도 클로드 엔터프라이즈 요금 체계를 사용량 기반으로 바꾸면서 헤비 유저 비용이 두세 배 뛸 수 있다고 가트너는 분석했다.
가트너는 기업이 토큰 소비량이 아니라 완료 작업 단위로 AI 경제성을 따져야 한다고 권고했다. 고부가가치 업무에만 고사양 모델을 쓰고, 나머지 업무는 저비용 모델·캐싱·소형 특화 모델로 처리해 비용을 통제해야 한다는 것이다. 또 현재의 낮은 가격표를 영구적인 것으로 착각하지 말고, 비용이 4배 오른 상황에서도 AI 투자가 성과를 낼 수 있는지를 미리 검증해야 한다고 강조했다. 가트너 조사에서 AI 투자 ROI(투자수익률)가 높은 기업은 그렇지 못한 기업보다 데이터·거버넌스·인력 기반에 매출 대비 4배 더 많이 지출한 것으로 나타났다.
저작권자 © STORIUM 무단전재 및 재배포 금지
