• AI 모델·연구
  • 빅테크·기업
  • 반도체·인프라
  • 산업 적용
  • AI 서비스·툴
  • 정책·윤리
  • 스타트업·투자
  • 문의
STORIUM
  • AI 모델·연구
  • 빅테크·기업
  • 반도체·인프라
  • 산업 적용
  • AI 서비스·툴
  • 정책·윤리
  • 스타트업·투자
  • 문의
No Result
View All Result
  • AI 모델·연구
  • 빅테크·기업
  • 반도체·인프라
  • 산업 적용
  • AI 서비스·툴
  • 정책·윤리
  • 스타트업·투자
  • 문의
No Result
View All Result
STORIUM
No Result
View All Result

딥시크 V4, 엔비디아 블랙웰로 초당 150토큰 추론 달성

STORIUM 편집부 작성: STORIUM 편집부
2026년 06월 15일 16시 27분
Reading Time: 1 min read
A A
Home 반도체·인프라
Share on FacebookShare on Twitter

딥시크(DeepSeek)가 4세대 플래그십 모델인 DeepSeek-V4-Pro와 DeepSeek-V4-Flash를 출시하고, 엔비디아(NVIDIA) 블랙웰(Blackwell) 플랫폼에서의 성능 벤치마크 결과를 공식 개발자 블로그를 통해 공개했다. V4-Pro는 총 파라미터 1.6조 개, 활성 파라미터 490억 개 규모의 대형 모델이며, V4-Flash는 총 파라미터 2840억 개에 활성 파라미터 130억 개로 속도와 효율을 우선한 설계다. 두 모델 모두 최대 100만 토큰(1M) 컨텍스트 창을 지원하며 MIT 라이선스로 공개됐다.

V4 패밀리는 MoE(혼합 전문가) 아키텍처를 기반으로 어텐션 구조를 대폭 개선했다. 핵심은 ‘하이브리드 어텐션’으로, 동적 시퀀스 압축으로 KV 캐시 메모리 부담을 줄이는 CSA(압축 희소 어텐션)와 복수 토큰의 KV 항목을 단일 압축 항목으로 통합하는 HCA(고압축 어텐션)를 혼합한 방식이다. 엔비디아에 따르면 이 설계를 통해 DeepSeek-V3.2 대비 토큰당 추론 연산량(FLOPs)이 73%, KV 캐시 메모리 부담이 90% 줄었다.

tilt-shift photography of green computer motherboard
사진: Chris Ried / Unsplash

엔비디아 블랙웰 플랫폼에서 수행된 초기 벤치마크에서 V4-Pro를 GB200 NVL72에 배포했을 때 사용자당 초당 150토큰 이상을 달성했으며, 이는 H200 대비 성능 대비 전력 효율이 30배 향상된 수치라고 엔비디아 측은 밝혔다. 개발자는 build.nvidia.com에서 GPU 가속 엔드포인트를 통해 V4를 바로 테스트할 수 있으며, NVIDIA NIM 컨테이너를 통한 자체 배포도 출시일 당일부터 지원된다. vLLM과 SGLang 모두 블랙웰·호퍼 플랫폼용 V4 서빙 레시피를 제공하며, 멀티노드 프리필·디코드 분리 구성을 포함해 100개 이상의 GPU 규모까지 확장 가능하다.

엔비디아는 V4가 에이전트 AI 워크플로에 특히 강점을 보인다고 강조했다. 장문 컨텍스트 조율, 추론, 도구 호출 등 에이전트 시스템의 핵심 요구사항에 최적화돼 있다는 설명이다. 오픈소스 에이전트 프레임워크인 NVIDIA NemoClaw, AI-Q Blueprint, 데이터 익스플로러 에이전트 등과의 연동 방법도 함께 공개됐다. 엔비디아는 Dynamo, NVFP4, 최적화 CUDA 커널 등 자체 공동 설계 스택에서의 추가 최적화로 성능이 더 높아질 것이라고 전망했다.

Tags: BlackwellDeepSeekV4LLMMoENVIDIA추론인프라
STORIUM 편집부

STORIUM 편집부

STORIUM 편집부 공식 계정

관련 기사

Close-up of a modern skyscraper's glass and steel facade in downtown Tokyo, Japan.
반도체·인프라

캐나다 연기금 CPP Investments, 인도 데이터센터 CtrlS에 7410억 원 투자

2026년 06월 18일 19시 22분
MS·아마존·구글·메타, AI 인프라 투자 급증…2026년 3분기 현금흐름 한계 도달 전망
반도체·인프라

MS·아마존·구글·메타, AI 인프라 투자 급증…2026년 3분기 현금흐름 한계 도달 전망

2026년 06월 18일 14시 47분
A modern power plant exterior with smokestacks under a clear sky in London, Ontario.
반도체·인프라

발전설비 22% 늘 때 송전망 4% 증가 그쳐…AI 데이터센터 전력 수요 위기 신호

2026년 06월 18일 13시 39분
반도체·인프라

xFormers로 메모리 효율적인 트랜스포머 구현하기…GQA·ALiBi·SwiGLU 통합

2026년 06월 17일 18시 20분
Next Post
A developer writes code on a laptop in front of multiple monitors in an office setting.

데이터브릭스, AI 에이전트 통합 오케스트레이터 '옴니젠트' 오픈소스 공개

답글 남기기 응답 취소

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다

  • 인기 급상승
  • 최신
A 3D rendering of a neural network with abstract neuron connections in soft colors.

퍼플렉시티, 로컬·클라우드 AI를 자동 판단하는 하이브리드 추론 시스템 발표

2026년 06월 04일 08시 53분
Close-up of a GeForce RTX graphics card on a desk, showcasing its design and technology.

엔비디아 RTX Spark, 윈도 노트북 판도 바꿀까…가격 걸림돌

2026년 06월 13일 09시 29분
Contemporary building with a glass facade and geometric patterns, low angle view.

앤트로픽·네이버 개발자 밋업 개최…서울 오피스 개소 앞두고 본사 임원 참석

2026년 06월 15일 20시 45분
책상에서 법률 문서에 서명하는 모습

클로드 ‘드리밍’ 기능 공개…앤트로픽, 법률·의료 AI 성능 대폭 향상

2026년 06월 15일 20시 45분
데이터센터 서버

구글, ‘제미나이 3.5 플래시’·AI 에이전트 ‘스파크’ 공개… 가격·사용자로 추격

2026년 06월 04일 15시 14분
Scenic view of a nuclear power plant with cooling towers emitting steam in Hameln, Germany.

솔트룩스, 한전원자력연료 전사 AI 구축 사업 51억 원 수주

2026년 06월 18일 19시 39분
A woman researching adoption information on a laptop indoors.

허깅페이스, ARD로 에이전트 도구 실시간 검색 표준 공개

2026년 06월 18일 19시 31분
Close-up of a modern skyscraper's glass and steel facade in downtown Tokyo, Japan.

캐나다 연기금 CPP Investments, 인도 데이터센터 CtrlS에 7410억 원 투자

2026년 06월 18일 19시 22분
High-tech robot toy with a gray background in studio lighting.

제네시스AI 로봇 Eno, 사람 닮지 않은 범용 휴머노이드 설계

2026년 06월 18일 19시 08분
Music sheets and headphones arranged on a wooden surface, perfect for musical inspiration.

음악 AI 학습 데이터 보상 모델, 서렐·사운드버스가 설계 중

2026년 06월 18일 19시 00분

검색

No Result
View All Result

인기 태그

AI규제 AI반도체 AI보안 AI안전 AI에이전트 AI연구 AI인프라 AI정책 Anthropic arXiv AWS ChatGPT Claude Gemini IPO LLM MCP Microsoft NVIDIA OpenAI 강화학습 구글 데이터센터 마이크로소프트 멀티모달 멀티에이전트 메타 반도체 벤치마크 사이버보안 삼성전자 생성AI 생성형AI 스타트업 앤트로픽 에이전트 에이전트AI 에이전틱AI 엔비디아 오픈AI 오픈소스 의료AI 자율주행 젠슨황 피지컬AI

카테고리

  • AI 모델·연구 (680)
  • AI 서비스·툴 (363)
  • 반도체·인프라 (283)
  • 빅테크·기업 (320)
  • 산업 적용 (231)
  • 스타트업·투자 (156)
  • 정책·윤리 (270)

STORIUM은 트렌드와 인사이트를 전하는 종합 뉴스 매체입니다. 정확성, 균형, 맥락의 편집 원칙으로 신뢰받는 뉴스를 전합니다.

카테고리

  • AI 모델·연구
  • AI 서비스·툴
  • 반도체·인프라
  • 빅테크·기업
  • 산업 적용
  • 스타트업·투자
  • 정책·윤리

태그

AI규제 AI반도체 AI보안 AI안전 AI에이전트 AI연구 AI인프라 AI정책 Anthropic arXiv AWS ChatGPT Claude Gemini IPO LLM MCP Microsoft NVIDIA OpenAI 강화학습 구글 데이터센터 마이크로소프트 멀티모달 멀티에이전트 메타 반도체 벤치마크 사이버보안 삼성전자 생성AI 생성형AI 스타트업 앤트로픽 에이전트 에이전트AI 에이전틱AI 엔비디아 오픈AI 오픈소스 의료AI 자율주행 젠슨황 피지컬AI

최근 뉴스

Scenic view of a nuclear power plant with cooling towers emitting steam in Hameln, Germany.

솔트룩스, 한전원자력연료 전사 AI 구축 사업 51억 원 수주

2026년 06월 18일 19시 39분
A woman researching adoption information on a laptop indoors.

허깅페이스, ARD로 에이전트 도구 실시간 검색 표준 공개

2026년 06월 18일 19시 31분
  • 소개
  • 문의
  • 광고문의
  • 개인정보처리방침
  • 이용약관
  • 청소년보호정책
  • 정정·반론 보도 안내
  • 편집·윤리강령

주소: 경기 고양시 덕양구 꽃마을로 66, 한일미디어타워 15층
상호: 스토리움 |  사업자등록번호: 579-27-02025 |  대표자: 이국환
발행·편집인: 이국환 |  청소년보호책임자: 이국환 |  발행일자: 2025.01.01
스토리움의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
© 2026 STORIUM. All Rights Reserved.

No Result
View All Result
  • AI 모델·연구
  • 빅테크·기업
  • 반도체·인프라
  • 산업 적용
  • AI 서비스·툴
  • 정책·윤리
  • 스타트업·투자
  • 문의

주소: 경기 고양시 덕양구 꽃마을로 66, 한일미디어타워 15층
상호: 스토리움 |  사업자등록번호: 579-27-02025 |  대표자: 이국환
발행·편집인: 이국환 |  청소년보호책임자: 이국환 |  발행일자: 2025.01.01
스토리움의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
© 2026 STORIUM. All Rights Reserved.