인공지능 검색기업 퍼플렉시티를 비롯한 여러 AI 기업이 엔비디아의 새 데이터센터 CPU ‘베라(Vera)’를 도입하고 있다고 엔비디아가 밝혔다. 회사 측은 이번 채택 사례를 소개하면서 에이전트형 AI 시대에는 코어 수를 늘리는 것보다 하나의 작업을 최대한 빨리 끝내는 대규모 싱글스레드 성능이 더 중요하다고 강조했다. 이는 앞서 HPE와 엔비디아가 에이전트 시대 대응을 위해 AI 팩토리 플랫폼에 베라 CPU를 추가한 데 이어 나온 후속 성과 발표다.
엔비디아에 따르면 베라의 커스텀 코어 ‘올림푸스(Olympus)’는 명령어 처리 효율(IPC)이 기존 그레이스(Grace) CPU 대비 50% 향상됐고, 코어 간 대역폭은 데이터센터 CPU 중 최고 수준인 3.4TB/s에 달한다. 전체 메모리 대역폭은 최대 1.2TB/s를 40와트 미만의 전력으로 제공하며, 88개 코어 모두가 병목 없이 완전한 메모리 성능을 활용할 수 있도록 설계됐다. 회사 측은 에이전트가 순차적 루프 구조로 작동하기 때문에, 코어 수를 아무리 늘려도 각 단계가 이전 결과에 의존하는 한 응답 속도는 개선되지 않는다고 설명했다.
실제 도입 사례로는 퍼플렉시티가 리포지토리 클론과 테스트 스위트 실행 등 코딩 워크플로우에서 베라를 시험했고, 기존 x86 CPU 대비 작업 완료 속도가 약 1.5배, 동시 샌드박스 구동 속도는 최대 1.9배 빨라진 것으로 나타났다. 데이터 분석 기업 스타버스트는 대규모 SQL 분석에서 x86 대비 3배 빠른 성능을 확인했고, 스트리밍 데이터 기업 레드팬더는 실시간 처리 지연시간을 최대 6배까지 줄였다고 밝혔다.
엔비디아는 부하가 걸린 워크로드에서 베라의 지속 코어당 성능이 x86 대비 1.8배에 이른다고 덧붙였다. 회사는 이미 후속 CPU인 ‘로사(Rosa)’와 Arm v9.2 기반의 ‘리겔(Rigel)’ 코어를 예고하며, 동일한 실리콘 면적에서 더 높은 코어당 성능을 낼 계획이라고 밝혔다. 이번 발표는 GPU 중심으로 진행돼온 AI 인프라 경쟁이 CPU와 메모리 대역폭 등 주변 요소로 확장되고 있음을 보여준다.
저작권자 © STORIUM 무단전재 및 재배포 금지
