NVIDIA, 쿠버네티스 LLM 추론 콜드스타트 단축하는 Dynamo Snapshot 공개
NVIDIA Dynamo Snapshot이 체크포인트·복원 방식으로 쿠버네티스 환경의 LLM 추론 워크로드 콜드스타트 시간을 대폭 단축한다.
[태그:] Kubernetes
엔터프라이즈 IT 에이전트 벤치마크, 최전선 AI 모델도 50% 벽 못 넘어
IBM·Artificial Analysis 공동 개발 벤치마크 ITBench-AA에서 클로드 오퍼스 등 최전선 모델 전체가 정확도 50% 미만을 기록했다.
