생성형 인공지능(AI) 활용이 개발 현장과 사내 업무 전반으로 확산되면서 ‘AI 토큰비용’이 국내 소프트웨어(SW) 기업의 새로운 연구개발(R&D) 변수로 떠오르고 있다. 토큰은 AI 모델이 질문과 답변을 처리하는 기본 단위로, 사용량이 늘수록 비용도 함께 증가한다. 과거 클라우드 사용료가 기업 IT 운영비 관리의 핵심 항목으로 자리 잡았던 것처럼, AI 사용료를 어떻게 관리하고 생산성으로 환산할지가 새로운 과제로 떠오르고 있다.
웹케시그룹은 월평균 AI 토큰 비용이 1억5000만~2억원 수준으로, 전년 대비 증가율이 3144%에 달한다고 밝혔다. 최근 4개월간 개발 부서는 물론 경영지원·관리 부서까지 전 직군에 AI 활용을 전면 도입한 결과다. 회사 측은 이 같은 비용 증가를 부담 요인이 아니라 생산성 향상을 위한 전략적 투자로 보고 있다고 밝혔다. 7월 말까지는 임직원의 AI 활용에 제한을 두지 않고, 8월부터 비용 관리 메커니즘과 사용량 통제 시스템을 도입할 계획이다. 위세아이텍 역시 AI 토큰과 인프라 지출을 제품 연구개발 투자로 보고 있으며, 현재는 월정액 기반 운영으로 비용을 관리 가능한 수준에서 유지하고 있다고 설명했다.
익명을 요청한 한 AI 데이터 기업은 지난해 월 수십만원이던 AI 사용 비용이 올해 월 수천만원 규모로 늘었다고 밝혔다. 이 회사는 AI 도입으로 얻는 생산성 향상 가치가 인프라 지출 비용을 상회한다고 판단해, 개발자 전원에게 프리미엄 플랜 업그레이드를 지원하기도 했다. 데이터 라벨링 기업 크라우드웍스도 내부 개발용 토큰 사용량이 전년 대비 2배 넘게 늘었으며, 고객사 프로젝트에서도 사용 한도 초과로 계속 증설이 이뤄지고 있다고 전했다. 양수열 크라우드웍스 최고AI책임자(CAIO)는 토큰 비용이 과도하게 나오는 사례를 보면 AI 활용 목적이 불분명한 경우가 많다며, 기업별 거버넌스 구축이 필요하다고 언급했다.
기업들은 아직 AI 토큰 비용이 전체 비용에서 차지하는 비중이 크지 않아 재무적 영향을 단정하기는 이르다고 보면서도, 관리 체계는 필요하다는 입장이다. 사이냅소프트는 올해부터 생성형 AI 기술을 도입해 비용 대비 생산성 향상과 비즈니스 가치를 모니터링하고 있으며, 데이터가 쌓이면 재무적 영향도를 분석해 경영 계획에 반영할 방침이다. 업계에서는 이미 AI 토큰 기반 가격제로 클라우드 비용 부담이 커지고 있다는 경고가 나온 만큼, 국내 기업들의 대응도 본격화되는 모습이다.
업계에서는 앞으로 토큰비 논의가 단순 절감 경쟁보다 AI 활용 능력과 산출물 품질을 함께 평가하는 방향으로 이어질 것으로 전망한다. 다만 불필요하게 긴 프롬프트나 통제되지 않은 호출, 단순 작업에 고성능 모델을 남용하는 경우 비용이 빠르게 불어날 수 있다는 우려도 나온다. 이에 일부 기업은 사내 LLM 호출을 단일 게이트웨이로 통합해 사용량과 비용에 대한 가시성을 확보하고, 작업 난이도에 따라 적정 모델을 자동 배정하며 응답·프롬프트 캐싱으로 불필요한 고비용 호출을 줄이는 방식을 도입하고 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
