수천 개 가속기가 동시에 데이터를 주고받는 AI 학습에서는 GPU 한 개의 최고 성능보다 네트워크가 전체 처리 시간을 좌우할 수 있다. 엔비디아는 수십만 GPU·CPU 규모의 이른바 ‘기가스케일 AI 팩토리’를 겨냥해 Spectrum-6를 공개했다. Vera Rubin 플랫폼을 위해 설계된 102.4테라비트/초 이더넷 스위치 시스템이며 이전 세대 시스템의 두 배 용량을 제공한다는 것이 회사 설명이다.
대규모 학습과 추론의 집단통신은 여러 가속기를 동기화하면서 데이터센터 내부의 동서 방향 트래픽을 집중시킨다. 일반 기업용 이더넷이 사용자·서버·스토리지 사이의 남북 트래픽을 주로 처리해 온 것과 다른 패턴이다. Spectrum-6는 ConnectX-9 SuperNIC과 결합해 차세대 Spectrum-X를 구성하고, GPU에 데이터가 끊기지 않도록 트래픽 경로를 조정하는 역할을 맡는다.
제품은 플러그형 광학 부품과 공동 패키징 광학 방식 모두를 지원하고 액체 냉각 구성도 제공한다. 스위치, SuperNIC과 풀스택 네트워크 소프트웨어가 경로 사이의 부하를 분산하며 장애를 우회하고 전송 실패를 복구하도록 설계됐다. 표준 이더넷과 공개 네트워크 운영체제, 공개 프로토콜 및 여러 RDMA 전송 모델을 지원한다는 점도 엔비디아가 강조한 사양이다.
코어위브, 마이크로소프트, 네비우스, SpaceXAI와 테슬라가 초기 도입 기업으로 이름을 올렸다. 이 가운데 코어위브·마이크로소프트·네비우스는 Spectrum-6를 포함한 Vera Rubin 기반 인프라를 먼저 배치할 클라우드 사업자로 제시됐다. ‘도입’과 ‘배치 예정’ 표현이 함께 쓰인 만큼 각 회사의 일반 고객 제공 시점과 설치 규모는 개별 발표로 확인해야 한다.
엔비디아 내부 자료는 Spectrum-X가 일반 이더넷보다 AI 네트워킹 성능을 최대 1.6배 높이고, GPU 10만 개를 넘는 배치에서 네트워크 효율을 최대 95% 유지한다고 제시한다. 멀티플레인 토폴로지는 필요한 스위치 수를 1.7분의 1로 줄인다고 설명했다. 광학 구성의 전력 효율 5배와 평균 장애 간격 10배 수치도 모두 회사가 설정한 비교 조건에 속한다.
이번 공개로 확인되는 것은 Spectrum-6의 사양과 초기 파트너 명단이지, 모든 대형 데이터센터에서의 실측 비용 절감은 아니다. 처리량과 효율은 토폴로지, 광학 방식, 워크로드와 소프트웨어 구성에 따라 달라진다. 각 파트너가 설치 대수와 가동 날짜를 밝히고 10만 GPU 이상 조건의 측정을 재현하기 전까지 성능 수치는 엔비디아 공식 사양·내부 평가로 표시할 필요가 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
