AI에 서둘러 투자했던 기업들이 치솟는 비용과 불확실한 생산성 앞에서 투자 효과에 의문을 제기하기 시작했다. IT 지출이 불어나는 가운데 직원들의 회의감까지 커지면서, 한 컨설턴트는 직원용 클로드(Claude) 라이선스에 사용 한도를 걸지 않은 한 고객사가 한 달 만에 5억 달러를 지출한 사례를 전했다. 마이크로소프트는 비용 등을 이유로 자사 클로드 코드 라이선스 대부분을 취소했고, 우버 최고운영책임자(COO)는 AI 비용이 “정당화하기 점점 어려워진다”고 토로했다.
비용 부담은 인력 감축으로도 이어진다. 기업들은 AI의 업무 자동화 능력을 감원의 명분으로 들지만, 클라우드비스 최고경영자(CEO) 아누지 카푸르는 인력 감축이 사실상 AI 청구서를 상쇄할 “유일한 수단”일 수 있다고 지적했다. 모델 훈련 기업 마이크로원의 CEO 알리 안사리는 가능한 한 많은 토큰을 소진하려는 ‘token-maxxing’ 흐름에서 벗어나 효율적 사용으로 돌아서는 “건강한 조정”이 일어나고 있다고 진단했다. 그는 “지금 AI의 현실은 코딩에서만 제대로 작동한다”며, 시장의 기대와 달리 모든 업무에 똑같이 들어맞지는 않는다고 덧붙였다.

관계자들은 기업 AI 도입이 네 가지 문제에 부딪힌다고 짚었다. 사람들이 회사에 가장 가치 있는 일이 아니라 자신이 싫어하는 일을 자동화하는 데 AI를 쓰는 경향, 단순 챗봇 질의에도 무거운 토큰 비용이 붙어 사실상 ‘무제한’이 아닌 요금 구조, 인간이 아직 AI를 따라잡지 못하는 적응 격차, 기업이 독점 데이터 접근을 꺼리면서 에이전트가 무력해지는 데이터 통제 딜레마가 그것이다. 전 마이크로소프트 최고AI책임자 소피아 벨라스테구이는 AI 라이선스를 무작정 뿌려 효과를 보려는 ‘천 송이 꽃’ 방식이 실질적 수익으로 이어지지 않는다고 비판했다.
이번 흐름은 AI 투자 거품 논쟁의 핵심을 건드린다. 한 최고기술책임자(CTO)는 직원들이 날씨를 확인하는 데까지 AI 모델을 써 비용이 빠르게 불어난다고 전했다. 안사리는 이번 조정이 기업을 더 효율적인 AI 사용으로 이끌기를 바란다고 밝혔다. AI 전환에 속도를 내온 한국 기업들에도 도입 자체보다 투자수익(ROI) 측정과 사용 통제가 다음 과제로 떠오를 전망이다. 다만 기업들이 절제로 향할지, 아니면 과잉 반응해 사용을 옥죌지는 더 지켜봐야 한다.


