FlashRT, 코딩 에이전트로 다중 GPU 배포 자동 최적화
FlashRT는 개발자의 기준 구현을 코딩 에이전트가 다중 GPU 배포안으로 바꾸는 하니스다. 저자 실험에서 NVIDIA B200은 지연을 최대 약 70배 줄였고, ...
[태그:] GPU
엔비디아 GPU 가속 프레스토, 분석 쿼리 최대 8배 빨라져
엔비디아가 GPU 가속 프레스토로 대규모 분석 쿼리를 CPU 클러스터 대비 최대 8배 빠르게 처리하는 벤치마크 결과를 공개했다.
정부, ‘소버린 AI’ GPU 확보 총력전…3조 규모 사업 연장 검토
과기정통부가 소버린 AI를 위한 GPU 확보 사업 연장을 검토한다. 올해 2조원으로 2만장 이상을 확보했고 내년엔 최대 4조원이 거론된다.
SKT ‘해인’ 블랙웰 GPU 클러스터, CSAP 인증 획득
SK텔레콤이 엔비디아 블랙웰 GPU 기반 AI 클러스터 '해인'으로 국내 블랙웰 사업자 최초 CSAP 인증을 획득하며 공공 AI 인프라 진출 기반을 ...
AI 토큰 경제 2026년 중반 점검, 하루 30조 토큰 시대
파이어웍스AI가 하루 30조 토큰을 처리하는 등 2026년 중반 AI 인프라·토큰 경제 지표가 급성장세를 보였다.
엔비디아, 비균일 텐서 병렬화로 대규모 LLM 훈련 굿풋 개선
엔비디아가 GPU 장애 시 자동으로 재구성하는 비균일 텐서 병렬화 기술로 LLM 훈련 손실을 줄인다.
스타트업 온, GPU 컴퓨팅을 원자재처럼 거래하는 시장 도전
a16z 투자 스타트업 온이 GPU 컴퓨팅 파워를 원유처럼 선물 거래하는 시장을 구축한다
메타 클라우드 진출에 반도체株 흔들…”AI 사이클엔 변화 없어”
메타의 컴퓨팅 자원 재판매 소식에 반도체주가 출렁였지만, 전문가들은 AI 수요 둔화가 아닌 투자 회수 방식 변화로 해석했다.
엔비디아, 트랜스포머 저정밀도 학습 최적화 벤치마킹 기법 공개
엔비디아가 FP8·NVFP4 등 저정밀도 포맷의 실제 학습 속도 향상을 정확히 측정하는 벤치마킹 방법을 공개했다.
왓GPU, 처음 보는 GPU도 전력·지연시간 미리 예측
학습 데이터에 없던 GPU·LLM 조합의 추론 전력과 지연시간을 사전 프로파일링 없이 예측하는 모델이 공개됐다.
엔비디아, AI 스타트업에 자금 지원…빅테크 종속 탈피 노린다
엔비디아가 신생 클라우드 업체에 재정 보증을 제공해 GPU 판매처를 다변화하고 있다.
엔비디아, AI 컴퓨트 대규모 개방…신규 사업모델로 파트너 확대
엔비디아가 수익 공유 방식의 새 사업모델로 스타트업·클라우드 기업의 대규모 AI 컴퓨팅 접근을 지원한다.
