엔비디아(NVIDIA)의 AI 인프라 의존도가 GPU(그래픽처리장치)를 넘어 데이터센터 네트워크 장비로까지 빠르게 확장되고 있다. 시장조사기관 IDC 데이터에 따르면 엔비디아의 전 세계 데이터센터 이더넷 스위치 시장 점유율은 2024년 1분기 4%에서 2026년 1분기 21.5%로 급등했다. 이제 AI 데이터센터(AIDC)는 칩·서버·네트워킹·운영 소프트웨어까지 사실상 엔비디아 단일 생태계로 묶이는 구조가 되고 있다.
한국은 2035년까지 18.4GW 규모의 AIDC를 구축하겠다는 계획을 추진하고 있다. 그러나 2024년 국내 서버 시장은 전년 대비 72.7% 성장해 5조 1,400억 원을 기록했고, GPU 탑재 서버 비중은 26.2%에서 45%로 높아졌음에도 핵심 인프라는 외산 의존에서 벗어나지 못하고 있다. KAIST 주도 연구보고서에 따르면 전 세계 AI 연산 능력은 미국이 75%, 중국 15%, EU 5%로 집중돼 있다. 한국을 포함한 중간 수준 AI 국가들의 자립 여지는 구조적으로 좁다. 엔비디아가 로봇 AI 파운데이션 모델로도 패러다임을 선도하는 상황에서 의존도는 더욱 심화되는 추세다.
전문가들은 AI 반도체뿐 아니라 서버·네트워크·운영 소프트웨어까지 포함한 종합 생태계 자립 역량 확보가 시급하다고 강조한다. 현재 국내 AIDC는 엔비디아 CUDA(쿠다) 드라이버 등 소프트웨어 스택에도 종속돼 있어, 엔비디아의 수출 통제나 공급 우선순위 조정이 이루어질 경우 운영 차질이 발생할 수 있다. 이를 극복하기 위한 방안으로 유사한 수준의 AI 역량을 보유한 중간국가들 간 공동 AI 개발 파트너십 구성이 대안으로 거론된다.
국내 네트워크 장비 업체와 서버 제조사가 AI 인프라 시장에 진입하려 해도 엔비디아 생태계와의 호환성이 관건이 된다. GPU와 네트워크 장비를 엔비디아 단일 벤더로 구성할 때 최적 성능이 보장되는 구조상, 대안 벤더로의 전환은 상당한 성능 손실을 감수해야 한다. 국내 AI 인프라의 운영 자립을 실현하려면 칩 설계·서버 제조·네트워크 장비를 아우르는 장기 로드맵과 정부 차원의 공급망 다변화 지원이 병행돼야 한다는 분석이 나온다.
