국내 AI 인프라 스타트업 망고부스트가 글로벌 반도체 기업 AMD와 손잡고 한국·일본·싱가포르 등 아시아태평양 시장 공략에 속도를 내고 있다. 망고부스트 김장우 대표는 이달 직접 일본을 방문해 현지 주요 대기업들과 AI 인프라 도입 방안을 논의했다. 이에 앞서 4월에는 AMD 싱가포르 행사에 공식 초청받아 익스클루시브 소프트웨어(SW) 파트너 활동을 수행했고, 6월에는 한국에서도 AMD와 공동 세미나를 개최했다. 2022년 창업 이후 처음으로 본격적인 영업 활동에 나선 것으로, 오랜 연구개발 끝에 제품 라인업이 갖춰졌다고 판단한 데 따른 행보다.
국내 시장에서도 성과가 가시화되고 있다. AMD와 망고부스트는 국내 주요 대기업과 함께 이기종 및 레거시 장비 연동 개념검증(PoC)을 진행 중이다. AMD의 최신 350x 모델을 포함해 기존 250·250x·300x 등 여러 세대 모델을 멀티 클러스터링으로 묶어 성능을 최적화하는 시도가 대표적이다. 망고부스트의 핵심 기술은 하드웨어가 가진 성능을 100% 구현할 수 있도록 소프트웨어·네트워크·데이터처리장치(DPU) 수준에서 시스템을 최적화하는 스케일아웃(Scale-out) 역량에 기반한다. 개방형 생태계를 활용해 워크로드에 필요한 자원만 할당하는 맞춤형 설계로 엔비디아 대비 최대 10분의 1 수준으로 AI 시스템 구축 비용을 낮추는 것이 가능하다고 회사 측은 밝혔다.
성능 측면에서도 이미 주목할 만한 결과가 나왔다. AMD의 MI300X GPU와 망고부스트의 LLM부스트 조합이 지난해 4월 MLPerf(엠엘퍼프) 벤치마크에서 엔비디아 H100을 제치고 세계 기록을 세웠다. 이번 파트너십은 엔비디아의 소프트웨어 생태계인 쿠다(CUDA)에 맞선 AMD의 개방형 생태계 ROCm(로컴) 확산 전략과도 맞닿아 있다. 김장우 대표는 “과거에는 GPU 아키텍처를 직접 프로그래밍해야 했기 때문에 쿠다 선호도가 높았지만, 지금은 표준화된 엔터프라이즈 언어(콜렉티브 커뮤니케이션 알고리즘)가 있어 상황이 달라졌다”며 “이는 AMD가 개발자 생태계에서 크게 유리해진 부분”이라고 설명했다.
엔비디아가 독주해 온 AI 인프라 시장에서 AMD와 망고부스트의 풀스택(Full-Stack) 기술 협력이 어느 정도의 점유율을 가져갈지가 관전 포인트다. 비용 경쟁력과 개방형 생태계를 내세운 AMD·망고부스트 연합의 아태 확장 전략은 고가의 엔비디아 시스템을 채택하기 부담스러운 중견·대기업 시장에서 실질적인 대안으로 부상할 가능성이 있다.
