엔비디아 DynoSim, LLM 서빙 설정 수천 종 초고속 시뮬레이션
엔비디아가 Dynamo LLM 서빙 스택의 디지털 트윈 시뮬레이터 DynoSim을 공개했다. 실제 시간 대비 약 1,500배 빠른 속도로 최적 배포 구성을 ...
[태그:] LLM 추론
엔비디아 블랙웰, 금융 LLM 추론 STAC-AI 벤치마크 신기록 수립
엔비디아 블랙웰 HGX B200이 금융 업계 표준 STAC-AI LANG6 벤치마크에서 이전 세대 대비 최대 2.8배 높은 LLM 추론 성능을 기록했다.
