엔비디아가 스타트업과 신생 AI 기업들의 대규모 컴퓨팅 접근을 지원하는 새로운 사업모델을 공개했다. AI 산업의 중심이 모델 개발 단계에서 상시 가동되는 대규모 토큰 생성, 즉 ‘프로덕션 추론’ 단계로 옮겨가면서 신속하게 가동 가능하고 활용도가 높은 대규모 멀티테넌트 가속 컴퓨팅 수요가 커지고 있다는 판단에서다.
엔비디아는 그동안 신생 AI 기업들이 장기 계약을 맺더라도 자본 집약적 인프라에 대한 금융 조달이 어려웠다는 문제의식을 밝혔다. 이를 해소하기 위해 회사는 AI 클라우드 기업들이 수익 공유와 신용 지원을 결합한 방식으로 엔비디아 인프라를 조달해 AI 네이티브 기업·엔터프라이즈·소프트웨어 개발사(ISV) 고객에게 서비스할 수 있는 구조를 도입했다. 이 구조에서 엔비디아는 하드웨어 판매 수익과 함께, 지원한 컴퓨팅 용량에서 발생하는 클라우드 매출의 일부도 함께 얻는 반복적 수익원을 확보하게 된다. 모델 개발사·추론 서비스 제공사·에이전트 플랫폼·기업 고객 입장에서는 부지 선정, 전력 조달, 건설, 하드웨어 구축을 기다리지 않고 풀스택 가속 컴퓨팅에 더 빠르게 접근할 수 있다는 이점이 있다.
이 새로운 모델의 초기 파트너로는 샤론AI(Sharon AI)와 퍼머스(Firmus)가 이름을 올렸다. 샤론AI는 엔비디아 그레이스 블랙웰 GB300 GPU를 최대 4만 개까지 배치할 예정이다. 퍼머스는 인도네시아 바탐에 DSX AI 팩토리 캠퍼스를 건설 중이며, 이 캠퍼스는 최대 360메가와트 규모, GPU 최대 17만 개까지 확장될 계획이다. 두 기업 경영진은 각각 자국 및 지역 단위의 주권형 대규모 AI 컴퓨팅 인프라 구축, 에너지·비용 효율이 높은 컴퓨팅 접근 확대라는 목표를 강조했다.
엔비디아는 베이스텐(Baseten), 파이어웍스AI(Fireworks AI), 투게더AI(Together AI) 등 AI 네이티브 기업들의 사례를 들어 컴퓨팅 수요가 향하는 방향을 설명했다. 이들 기업은 모델 훈련과 사후 훈련, 파인튜닝, 대규모 에이전트형 추론을 개발자와 기업 고객을 위해 즉시 처리할 수 있는 컴퓨팅 용량을 필요로 한다. 엔비디아는 이들 고객사가 사업 성장에 따라 안정적인 대규모 컴퓨팅을 확보하는 동시에, 시범 단계에서 상용화 단계로 넘어가는 과정에서 유연한 상업적 조건도 필요로 한다고 설명했다.
