중국 AI 기업 딥시크(DeepSeek)가 AI 모델의 사용자당 응답 속도를 60~85% 향상시키는 추론 최적화 프레임워크 DSpark를 공개했다. 딥시크는 대부분의 대규모 언어 모델(LLM)이 텍스트를 토큰 단위로 한 번에 하나씩 생성하는 구조 때문에 긴 응답을 처리할 때 GPU 활용률이 낮아지고 대기 시간이 늘어난다는 점을 개선 대상으로 삼았다.
DSpark는 투기적 디코딩(speculative decoding) 방식을 활용한다. 소형 경량 모델이 여러 답변 후보를 미리 제안하면 대형 모델이 이를 배치로 검증하는 구조다. 여기에 단일 토큰 대신 작은 단어 묶음을 함께 생성하는 방식을 결합해 전체 처리 효율을 높였다. 검증 깊이는 컴퓨팅 부하에 따라 동적으로 조정되는 신뢰도 기반 시스템으로 제어해 기각된 토큰 제안에 낭비되는 연산을 줄였다. 딥시크는 구글 딥마인드의 젬마(Gemma)와 알리바바의 큐원(Qwen) 오픈 모델에도 DSpark를 적용해 효과를 검증했으며, 프레임워크와 베이징대학교가 공동 개발한 DeepSeek-V4-Pro 모델은 MIT 라이선스로 허깅페이스와 깃허브에 공개됐다.
이번 발표는 미국의 대중국 반도체 수출 규제가 강화되는 시점에 나온 것이어서 전략적 의미가 더해진다. 추론 효율이 높아지면 쿼리당 칩 소요량이 줄어 고성능 칩을 덜 보유한 환경에서도 더 많은 AI 서비스를 제공할 수 있다. 딥시크는 DSpark가 “이전에는 도달할 수 없었던 성능 단계를 가능하게 해 서빙 시스템의 파레토 경계를 이동시킨다”고 밝혔다. 중국뿐 아니라 미국 대비 데이터센터 구축과 고성능 칩 확보에서 뒤처진 유럽연합(EU) 국가들도 유사한 효율 향상의 혜택을 받을 수 있다는 분석이 나온다.
다만 제번스 역설(Jevons paradox)의 적용 가능성도 제기된다. 추론 효율이 향상되면 쿼리당 칩 수요는 줄지만, 절감된 컴퓨팅 자원이 더 많은 AI 요청이나 더 긴 컨텍스트, 새로운 응용 분야에 곧장 흡수될 수 있다. 이 경우 전체 칩 수요는 오히려 정체되거나 증가할 가능성도 있다. 단기적으로는 칩 공급이 제한된 환경에서 AI 성능을 끌어올리는 실용적 돌파구가 되지만, 장기적으로 고성능 칩에 대한 구조적 수요를 줄일 수 있을지는 불확실하다는 평가다.
저작권자 © STORIUM 무단전재 및 재배포 금지
