• AI 모델·연구
  • 빅테크·기업
  • 반도체·인프라
  • 산업 적용
  • AI 서비스·툴
  • 정책·윤리
  • 스타트업·투자
  • 문의
STORIUM
  • AI 모델·연구
  • 빅테크·기업
  • 반도체·인프라
  • 산업 적용
  • AI 서비스·툴
  • 정책·윤리
  • 스타트업·투자
  • 문의
No Result
View All Result
  • AI 모델·연구
  • 빅테크·기업
  • 반도체·인프라
  • 산업 적용
  • AI 서비스·툴
  • 정책·윤리
  • 스타트업·투자
  • 문의
No Result
View All Result
STORIUM
No Result
View All Result

딥시크 V4, 엔비디아 블랙웰로 초당 150토큰 추론 달성

한이준 리포터 작성: 한이준 리포터
2026년 06월 15일 16시 27분
Reading Time: 1 min read
A A
Home 반도체·인프라
Share on FacebookShare on Twitter

딥시크(DeepSeek)가 4세대 플래그십 모델인 DeepSeek-V4-Pro와 DeepSeek-V4-Flash를 출시하고, 엔비디아(NVIDIA) 블랙웰(Blackwell) 플랫폼에서의 성능 벤치마크 결과를 공식 개발자 블로그를 통해 공개했다. V4-Pro는 총 파라미터 1.6조 개, 활성 파라미터 490억 개 규모의 대형 모델이며, V4-Flash는 총 파라미터 2840억 개에 활성 파라미터 130억 개로 속도와 효율을 우선한 설계다. 두 모델 모두 최대 100만 토큰(1M) 컨텍스트 창을 지원하며 MIT 라이선스로 공개됐다.

V4 패밀리는 MoE(혼합 전문가) 아키텍처를 기반으로 어텐션 구조를 대폭 개선했다. 핵심은 ‘하이브리드 어텐션’으로, 동적 시퀀스 압축으로 KV 캐시 메모리 부담을 줄이는 CSA(압축 희소 어텐션)와 복수 토큰의 KV 항목을 단일 압축 항목으로 통합하는 HCA(고압축 어텐션)를 혼합한 방식이다. 엔비디아에 따르면 이 설계를 통해 DeepSeek-V3.2 대비 토큰당 추론 연산량(FLOPs)이 73%, KV 캐시 메모리 부담이 90% 줄었다.

tilt-shift photography of green computer motherboard
사진: Chris Ried / Unsplash

엔비디아 블랙웰 플랫폼에서 수행된 초기 벤치마크에서 V4-Pro를 GB200 NVL72에 배포했을 때 사용자당 초당 150토큰 이상을 달성했으며, 이는 H200 대비 성능 대비 전력 효율이 30배 향상된 수치라고 엔비디아 측은 밝혔다. 개발자는 build.nvidia.com에서 GPU 가속 엔드포인트를 통해 V4를 바로 테스트할 수 있으며, NVIDIA NIM 컨테이너를 통한 자체 배포도 출시일 당일부터 지원된다. vLLM과 SGLang 모두 블랙웰·호퍼 플랫폼용 V4 서빙 레시피를 제공하며, 멀티노드 프리필·디코드 분리 구성을 포함해 100개 이상의 GPU 규모까지 확장 가능하다.

엔비디아는 V4가 에이전트 AI 워크플로에 특히 강점을 보인다고 강조했다. 장문 컨텍스트 조율, 추론, 도구 호출 등 에이전트 시스템의 핵심 요구사항에 최적화돼 있다는 설명이다. 오픈소스 에이전트 프레임워크인 NVIDIA NemoClaw, AI-Q Blueprint, 데이터 익스플로러 에이전트 등과의 연동 방법도 함께 공개됐다. 엔비디아는 Dynamo, NVFP4, 최적화 CUDA 커널 등 자체 공동 설계 스택에서의 추가 최적화로 성능이 더 높아질 것이라고 전망했다.

저작권자 © STORIUM 무단전재 및 재배포 금지

Tags: BlackwellDeepSeekV4LLMMoENVIDIA추론인프라
한이준 리포터

한이준 리포터

안녕하세요, 한이준 리포터입니다. 구글·마이크로소프트·메타 같은 글로벌 빅테크의 AI 전략과 플랫폼 경쟁을 좇으며, 발표 뒤에 숨은 셈법을 읽어 드립니다. 모든 기사는 발행 전 편집인의 검수를 통과합니다.

관련 기사

Close-up view of modern rack-mounted server units in a data center.
반도체·인프라

엔비디아 네모트론 3 울트라 공개…장기 에이전트용 550B MoE 모델

2026년 06월 05일 11시 30분
데이터센터 서버 랙과 전원·네트워크 케이블 근접
반도체·인프라

엔비디아 네모트론 3 퍼즐 압축모델 공개…처리량 2배

2026년 07월 11일 16시 48분
음성 파형과 텍스트 지능을 통합하는 엔비디아 오덱스 모델 개념도
반도체·인프라

엔비디아 오덱스(Audex-30B-A3B) 공개…음성·텍스트 통합하고도 언어지능 유지

2026년 07월 09일 10시 13분
대형 모니터로 코드를 작성하는 개발자
빅테크·기업

텐센트 Hy3 공개, 21B 활성으로 5배 큰 모델급 성능 주장

2026년 07월 08일 14시 27분
Next Post
A developer writes code on a laptop in front of multiple monitors in an office setting.

데이터브릭스, AI 에이전트 통합 오케스트레이터 '옴니젠트' 오픈소스 공개

답글 남기기 응답 취소

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다

  • 인기 급상승
  • 최신
Close-up of a GeForce RTX graphics card on a desk, showcasing its design and technology.

엔비디아 RTX 스파크 가격, 최소 2000달러 전망…윈도 노트북 ‘M1 모먼트’ 걸림돌

2026년 06월 02일 11시 19분
A 3D rendering of a neural network with abstract neuron connections in soft colors.

퍼플렉시티, 로컬·클라우드 AI를 자동 판단하는 하이브리드 추론 시스템 발표

2026년 06월 04일 08시 53분
Contemporary building with a glass facade and geometric patterns, low angle view.

앤트로픽·네이버 개발자 밋업 개최…서울 오피스 개소 앞두고 본사 임원 참석

2026년 06월 06일 21시 12분
책상에서 법률 문서에 서명하는 모습

클로드 ‘드리밍’ 기능 공개…앤트로픽, 법률·의료 AI 성능 대폭 향상

2026년 05월 30일 21시 11분
Close-up of a wooden gavel on a judge's desk, symbolizing justice.

AI 생성 성인 콘텐츠 유료 판매 운영자들, 법원서 잇달아 징역형

2026년 06월 05일 22시 40분
K-디스플레이 2026에 전시된 LG디스플레이 휴머노이드용 P-OLED

LG디스플레이 휴머노이드 P-OLED 국내 첫 공개, 양산 일정 미공개

2026년 08월 04일 23시 45분
Runware Sonic Inference Pod 이동식 AI 추론 설비

Runware Sonic Inference Pod 공개, 추론 비용 한계

2026년 08월 04일 23시 29분
F1 데이터 운영 책임자 맷 켐프

F1·AWS 데이터 에이전트, 8주 연동 코드 40분 생성과 한계

2026년 08월 04일 22시 42분
상벨 차량 내부에서 건강 스크리닝 결과를 상담하는 아크 담당자들

아크 상벨, 시각장애인 골프 현장 AI 건강 스크리닝 활용과 한계

2026년 08월 04일 22시 27분
레노버 Yoga Slim 7i Ultra Aura Edition의 얇은 본체와 USB-C 단자

레노버 Yoga Slim 7i Ultra, 2,250달러 가격 한계

2026년 08월 04일 22시 16분

검색

No Result
View All Result

인기 태그

AI규제 AI반도체 AI보안 AI안전 AI에이전트 AI연구 AI인프라 AI정책 Anthropic arXiv AWS ChatGPT Claude Gemini HBM IPO LLM MCP Meta NVIDIA OpenAI RAG SK하이닉스 강화학습 구글 데이터센터 마이크로소프트 멀티모달 메타 반도체 벤치마크 사이버보안 삼성전자 생성AI 생성형AI 스타트업 앤트로픽 에이전트 에이전틱AI 엔비디아 오픈AI 오픈소스 의료AI 자율주행 피지컬AI

카테고리

  • AI 모델·연구 (1,517)
  • AI 서비스·툴 (856)
  • 반도체·인프라 (575)
  • 빅테크·기업 (591)
  • 산업 적용 (482)
  • 스타트업·투자 (255)
  • 정책·윤리 (481)

STORIUM은 트렌드와 인사이트를 전하는 종합 뉴스 매체입니다. 정확성, 균형, 맥락의 편집 원칙으로 신뢰받는 뉴스를 전합니다.

카테고리

  • AI 모델·연구
  • AI 서비스·툴
  • 반도체·인프라
  • 빅테크·기업
  • 산업 적용
  • 스타트업·투자
  • 정책·윤리

태그

AI규제 AI반도체 AI보안 AI안전 AI에이전트 AI연구 AI인프라 AI정책 Anthropic arXiv AWS ChatGPT Claude Gemini HBM IPO LLM MCP Meta NVIDIA OpenAI RAG SK하이닉스 강화학습 구글 데이터센터 마이크로소프트 멀티모달 메타 반도체 벤치마크 사이버보안 삼성전자 생성AI 생성형AI 스타트업 앤트로픽 에이전트 에이전틱AI 엔비디아 오픈AI 오픈소스 의료AI 자율주행 피지컬AI

최근 뉴스

K-디스플레이 2026에 전시된 LG디스플레이 휴머노이드용 P-OLED

LG디스플레이 휴머노이드 P-OLED 국내 첫 공개, 양산 일정 미공개

2026년 08월 04일 23시 45분
Runware Sonic Inference Pod 이동식 AI 추론 설비

Runware Sonic Inference Pod 공개, 추론 비용 한계

2026년 08월 04일 23시 29분
  • 소개
  • 문의
  • 광고문의
  • 개인정보처리방침
  • 이용약관
  • 청소년보호정책
  • 정정·반론 보도 안내
  • 편집·윤리강령

주소: 경기 고양시 덕양구 꽃마을로 66, 한일미디어타워 15층
상호: 스토리움 |  사업자등록번호: 579-27-02025 |  대표자: 이국환
발행·편집인: 이국환 |  청소년보호책임자: 이국환 |  발행일자: 2025.01.01
스토리움의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
© 2026 STORIUM. All Rights Reserved.

No Result
View All Result
  • AI 모델·연구
  • 빅테크·기업
  • 반도체·인프라
  • 산업 적용
  • AI 서비스·툴
  • 정책·윤리
  • 스타트업·투자
  • 문의

주소: 경기 고양시 덕양구 꽃마을로 66, 한일미디어타워 15층
상호: 스토리움 |  사업자등록번호: 579-27-02025 |  대표자: 이국환
발행·편집인: 이국환 |  청소년보호책임자: 이국환 |  발행일자: 2025.01.01
스토리움의 모든 콘텐츠는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
© 2026 STORIUM. All Rights Reserved.