엔비디아가 AI 에이전트 시대를 겨냥한 새로운 유형의 서버용 프로세서 ‘베라(Vera)’ CPU를 공개하며, 코어당 단일 스레드 성능을 극대화하는 설계를 강조했다. 엔비디아는 에이전트 시스템의 생성과 배포 전 과정에서 CPU가 추론, 응답 시간, 학습의 핵심 경로에 놓인다고 설명했다. 도구 호출, 코드 실행, 데이터 처리, KV 캐시 관리, 결과 분석 등 AI 모델이 지시하는 실제 작업을 수행하는 것이 CPU이기 때문이다.
엔비디아는 오늘날 데이터센터 CPU가 속도가 아닌 방향으로 진화해 왔다고 지적했다. 클라우드 확산으로 CPU 제조사들이 비용을 낮추면서 코어 수를 늘리는 데 집중했고, 그 과정에서 코어를 빠르게 만드는 고성능 메모리 패브릭 같은 요소가 희생됐다는 것이다. 칩렛 구조로 비용은 더 줄었지만, 각 코어가 칩 전체의 메모리 성능을 온전히 쓰지 못하는 이른바 ‘칩렛 세금’이 생겼다고 봤다. 엔비디아는 AI 에이전트가 순차적으로 작동하는 루프 구조를 갖기 때문에, 코어를 늘리는 것만으로는 한 단계의 실행 시간을 줄일 수 없으며 코어당 속도가 루프의 진행 속도를 좌우한다고 강조했다.
베라의 핵심은 엔비디아의 커스텀 CPU 코어 ‘올림푸스(Olympus)’로, 이전 세대 그레이스(Grace) 대비 사이클당 명령 처리량이 50% 높다고 엔비디아는 밝혔다. 여기에 최대 초당 1.2테라바이트(TB/s)의 LPDDR5X 메모리 대역폭을 40와트 미만의 전력으로 지원하고, 단일 컴퓨트 다이와 초당 3.4테라바이트의 코어 간 대역폭을 갖춰 88개 코어 모두가 병목 없이 전체 메모리 성능을 쓸 수 있게 했다고 설명했다. 엔비디아는 부하가 걸린 에이전트형 작업에서 베라가 x86 대비 코어당 지속 성능을 1.8배 낸다고 밝혔다.
엔비디아는 실제 사용 사례로 퍼플렉시티(Perplexity)를 들었다. 저장소를 복제해 샌드박스에서 테스트 스위트를 돌리는 실제 코딩 워크플로에서 베라가 x86보다 약 1.5배 빠르게 작업을 끝냈고, 동시 샌드박스 구동은 최대 1.9배 빨랐으며 퍼플렉시티는 이를 자사 운영 시스템에 도입하는 방안을 검토 중이라고 전했다. 대규모 SQL 분석에서는 파트너사 측정 기준 3배, 레드판다(Redpanda)를 활용한 실시간 스트리밍에서는 지연이 최대 6배 낮았다고 덧붙였다. 엔비디아는 베라가 베라 루빈(Vera Rubin)에서 GPU를 함께 구동하는 CPU이기도 하다며, 차세대 로사(Rosa) CPU와 리겔(Rigel) 코어로 에이전트 시대 로드맵을 이어가겠다고 밝혔다.
저작권자 © STORIUM 무단전재 및 재배포 금지
