일부 기업이 AI 코딩 도구의 답변 방식을 단답형 ‘원시인 말투(caveman)’로 바꾸는 플러그인을 도입해 치솟는 AI 토큰 비용을 줄이고 있다고 IT매체 404미디어가 보도했다. 이 플러그인은 클로드 코드(Claude Code), 코덱스(Codex), 제미나이(Gemini) 등 대규모 언어 모델(LLM) 기반 코딩 도구가 평소 장황하게 설명을 늘어놓던 답변 방식을 짧고 핵심만 전달하는 형태로 바꿔준다. 예를 들어 오류를 지적받았을 때 정중한 사과와 감사 인사를 길게 늘어놓는 대신 곧바로 수정 사항만 압축해 응답하도록 유도하는 방식이다.
이런 시도는 AI 사용 비용이 예측하기 어려울 만큼 치솟는 데 대한 기업들의 대응으로 풀이된다. 404미디어는 앞서 컨설팅기업 액센츄어(Accenture)의 분석을 인용해, 급증하는 토큰 소비의 상당 부분이 직원들이 AI로 PDF 문서를 프레젠테이션으로 변환하는 등의 업무에서 발생한다고 보도한 바 있다. 이번에 확인된 원시인 말투 플러그인의 경우 개발사에 따르면 OpenAI, 엔비디아, 깃허브(GitHub) 소속 개발자들도 실제로 사용하고 있으며, OpenAI의 한 시니어 직원은 이 도구가 자사의 코덱스를 지원하도록 코드를 직접 기여하기도 한 것으로 전해졌다.
AI 코딩 도구의 토큰 소비 문제는 최근 실리콘밸리 안팎에서 꾸준히 제기돼 온 화두다. 장황한 서술형 응답은 사용자 경험 측면에서는 친절하게 느껴질 수 있지만, 매 응답마다 소비되는 토큰량이 늘어나면서 대량으로 AI를 활용하는 기업일수록 비용 부담이 커지는 구조다. 이 때문에 응답을 압축하는 방식의 비용 절감 시도는 이번이 처음은 아니며, 개발자 커뮤니티를 중심으로 유사한 프롬프트 최적화 기법이 계속 공유되고 있다.
메타가 최근 클로드 코드와 코덱스 사용을 제한한 사례에서 보듯, AI 코딩 도구를 둘러싼 기업들의 비용·보안 관리 전략은 갈수록 정교해지는 추세다. 대규모 개발조직을 운영하는 기업일수록 AI 도구의 응답 방식 하나까지 세밀하게 조정해 비용 효율을 극대화하려는 움직임이 앞으로 더 확산될 가능성이 크다.
저작권자 © STORIUM 무단전재 및 재배포 금지
