래블업은 2026년 8월 25일 공식 발표에서 AI 인프라 플랫폼 Backend.AI를 도입한 고객 사례의 GPU 활용률이 30%에서 85%로 높아졌다고 밝혔다. 이는 55%포인트 상승이자 약 2.8배 수준이지만, 여러 환경을 비교한 독립 벤치마크가 아니라 회사가 공개한 특정 고객 사례다. 따라서 제목과 본문은 이 수치를 Backend.AI 전체 환경에서 항상 재현되는 일반 성능으로 확대하지 않고, 공식 발표에 적힌 사례 범위로 한정했다.
발표가 설명한 핵심 기능은 한 장의 GPU를 여러 작업이 나눠 쓰도록 하는 분할 가상화 기술이다. Backend.AI는 작업별로 필요한 만큼 자원을 배정해 유휴 구간을 줄이는 방식을 제공하며, NVIDIA CUDA GPU뿐 아니라 AMD ROCm과 Intel GPU, NPU 등 서로 다른 가속기를 한 환경에서 관리할 수 있다고 설명한다. 특정 제조사의 장비만을 전제로 한 수치나 비용 절감률은 공식 자료에 없어 본문에 포함하지 않았다.
래블업은 Backend.AI가 온프레미스와 퍼블릭 클라우드, 하이브리드 환경에서 AI 가속기 자원을 통합 관리하도록 설계됐다고 밝혔다. 위 화면은 회사의 공식 오픈소스 저장소가 시각 회귀 테스트용으로 공개한 실제 관리 화면으로, CUDA GPU 지원, ROCm GPU 지원, Fractional GPU 설정 항목을 확인할 수 있다. 다만 이 화면 자체는 30%에서 85%로 오른 고객 사례의 측정 결과를 보여 주는 자료는 아니다.
이번 공개에서 확인되는 범위는 분할 가상화와 이기종 가속기 관리 기능, 그리고 회사가 제시한 고객 사례 수치까지다. 고객사의 이름과 하드웨어 구성, 워크로드 종류, 측정 기간처럼 재현에 필요한 세부 조건은 공식 발표에 제시되지 않았다. 실제 도입 효과는 각 조직의 모델 크기, 동시 작업 수, GPU 구성과 운영 정책에 따라 달라질 수 있으므로, 해당 수치는 제품 기능을 설명하는 사례로 보는 것이 정확하다.
저작권자 © STORIUM 무단전재 및 재배포 금지
