클라우드 데이터 분석 기업 스노우플레이크(Snowflake)를 이끄는 스리다르 라마스와미(Sridhar Ramaswamy) 최고경영자(CEO)가 AI 업계에 빠르게 퍼지고 있는 토큰 맥싱(token maxing) 관행에 공개적으로 우려를 표했다. 토큰 맥싱이란 AI 모델이 처리하는 최소 데이터 단위인 토큰의 사용량을 최대화해 성과를 끌어내려는 접근법이다. 라마스와미 CEO는 “단지 기록을 높이기 위한 토큰 맥싱은 끔찍한 생각”이라며 “AI를 쓴다고 해서 더 발전적이거나 생산적이라는 의미는 아니다”라고 밝혔다.
토큰 맥싱은 한때 AI 활용도가 높은 인재의 척도로 여겨지며 업계에 빠르게 번졌으나, 빅테크들에서는 이미 부작용이 나타나고 있다. 아마존은 직원들이 사용량과 평가를 높이려 불필요한 업무까지 AI 에이전트에 떠넘기는 현상이 번지자 추적 도구 ‘키로랭크(KiroRank)’를 중단했다. 메타는 월간 토큰 소비량이 급증하자 토큰 순위표 ‘클로드노믹스(Claudenomics)’를 폐지했고, 우버는 연간 AI 예산을 넉 달 만에 소진하고도 생산성 향상을 입증하지 못하자 사용량 상한을 도입했다. 세일즈포스는 토큰 대신 실제 완료한 작업을 측정하는 ‘에이전트 작업 단위(AWU)’ 개념을 도입해 방향을 수정했다.
스노우플레이크는 비용 급등에 대응하기 위해 고급 AI 모델과 오픈소스 모델을 전략적으로 조합하는 방식을 택하고 있다. 라마스와미 CEO의 발언은 AI 산업이 ‘더 많이 쓸수록 좋다’는 단순 논리에서 벗어나, 실질적 가치와 비용 효율성을 따지는 방향으로 성숙하고 있음을 보여준다. AI 도입 초기의 과열 분위기가 가라앉으면서 기업들이 ROI(투자 대비 효과)를 엄밀히 따지는 국면으로 진입하고 있다는 분석이 나온다.
