SK텔레콤이 9일 서울 코엑스에서 열린 ‘NVIDIA AI Day Seoul’ 행사에서 엔비디아, 리벨리온과 GPU와 NPU(신경망처리장치)를 한 시스템으로 묶는 기술을 함께 개발·검증하기로 하고 업무협약(MOU)을 맺었다. 엔비디아의 칩 연결 기술 NVLink Fusion으로 리벨리온이 개발 중인 NPU ‘Rebel R200’을 엔비디아 플랫폼에 붙이고, 엔비디아의 서버 랙 표준 설계 규격 MGX를 적용해 랙 단위 통합 시스템을 만드는 것이 협약의 골자다. NVLink Fusion은 엔비디아 GPU끼리 데이터를 주고받는 연결 기술을 다른 회사가 만든 AI 반도체까지 쓸 수 있게 넓힌 것이다.
세 회사가 내세운 방식은 ‘분리형 추론’이다. 대규모 언어 모델(LLM)이 답을 내는 과정은 사용자의 질문을 해석하는 프리필(Prefill) 단계와 답변을 한 단어씩 만들어 내는 디코드(Decode) 단계로 나뉜다. 프리필은 계산량이 많아 엔비디아 GPU가 맡고, 메모리에서 데이터를 빠르게 읽어 오는 능력이 중요한 디코드는 리벨리온 NPU가 맡는다. 에이전틱 AI가 퍼지며 추론 요청이 급격히 늘어나자 AI 데이터센터의 처리 성능뿐 아니라 전력 효율과 운영비가 경쟁력을 가르게 됐다는 것이 협력의 배경이다.
SK텔레콤은 자사 AI 데이터센터에 통합 시스템을 들여 성능과 안정성을 실증하고, 실제 서비스 적용과 상용화 가능성을 따져 볼 계획이다. 여기에 독자 AI 모델 A.X K2와 대국민 AI 서비스 ‘모두의 AI’를 연결해 인프라부터 모델, 서비스까지 이어지는 풀스택 소버린 AI(자국 통제형 AI)를 제공하겠다는 구상이다. 세 회사는 과학기술정보통신부의 소버린 AI·국산 AI 반도체 육성 정책에 맞춰 국내 공공·민간 부문이 쓸 수 있는 인프라 사례를 확보하겠다고 밝혔다.
정석근 SKT CTO 겸 AI CIC장은 이번 협력이 엔비디아 GPU와 리벨리온 NPU의 강점을 합쳐 추론 성능과 전력 효율을 끌어올리는 한국형 인프라의 가능성을 확인하는 작업이라고 설명했다. 아쉬시 카란디카르 엔비디아 NVLink Fusion 부문 부사장은 이 기술이 한국의 ASIC(특정 용도용 주문형 반도체)을 엔비디아의 AI 팩토리 플랫폼과 결합하도록 돕는다고 말했다. 박성현 리벨리온 대표는 한국의 AI 반도체와 모델을 글로벌 기술과 결합하는 전환점이라고 평가했다.
다만 이번 협약은 개발·검증을 위한 첫 단계여서 통합 시스템의 성능 수치나 상용화 일정은 공개되지 않았고, 핵심 부품인 Rebel R200도 아직 개발 중이다. 국산 NPU가 엔비디아 GPU를 대체하는 대신 같은 랙 안에서 일을 나눠 맡는 구조라는 점에서, SK텔레콤 데이터센터 실증 결과가 국산 AI 반도체의 시장 진입 가능성을 가늠하는 기준이 될 전망이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
