삼성전자가 저전력 메모리인 LPDDR5X에 연산 처리 기능을 결합한 AI 추론 전용 PIM(Processing in Memory) 솔루션을 세계 최초로 확보했다. 이 기술은 오는 8월 정식 공개될 예정이며, 데이터 이동 병목 현상을 해소하는 동시에 전력 효율을 크게 개선해 저전력 AI 시대 구현에 기여할 것으로 기대된다. PIM 기술은 기존 CPU나 GPU가 메모리와 데이터를 주고받으며 발생하는 속도 지연과 전력 낭비 문제를 해결하기 위해 메모리 내에 연산 유닛을 내장하는 방식이다. 고대역폭 메모리(HBM) 등 고성능 메모리에서 이미 활용됐지만, 전력 소모가 낮아야 하는 LPDDR 계열에 AI 추론 기능을 접목한 사례는 이번이 처음이다.
삼성전자는 지난 5월 LP5X-PIM 시뮬레이터 연구 결과를 논문 형태로 공개한 데 이어, 8월에는 실제 하드웨어 데모와 성능 실측치를 공개할 계획이다. 삼성전자의 시뮬레이션 결과에 따르면 LPDDR5X-PIM은 AI가 행렬 곱셈(GEMV) 작업을 수행할 때 기존 대비 최대 6.2배 빠른 처리 속도를 기록했다. 이는 사진 분석이나 자연어 처리 같은 AI 추론 작업이 크게 빨라질 수 있다는 것을 의미한다. 삼성은 메모리 내 연산 가속과 저전력 특성을 바탕으로 스마트폰과 노트북 등 개인용 기기 시장을 집중 공략할 전략이다. 특히 온디바이스 AI(기기 내에서 AI 연산이 이뤄지는 기술)는 개인정보 보호와 네트워크 지연 문제를 완화하는 데 중요한 역할을 한다.
이와 함께 삼성은 자체 개발 중인 4나노 공정 기반 AI 가속기 ‘가이아(GAIA)’와 LPDDR5X-PIM을 결합하면 AI 연산 효율성이 더욱 향상될 것으로 보고 있다. 가이아가 NPU(신경망처리장치) 중심으로 AI 연산을 담당하고, LPDDR5X-PIM이 메모리 내에서 연산 지원을 담당해 전력과 성능 최적화를 동시에 달성한다. 국내외 경쟁사도 유사한 PIM 기술 개발에 박차를 가하고 있다. SK하이닉스는 그래픽 D램에 PIM 기능을 탑재한 ‘GDDR6-AiM’과 이를 활용한 AI 가속기 ‘AiMX’를 선보인 바 있다. 업계 관계자는 “AI PC와 플래그십 스마트폰에서 실시간 AI 기능 지원이 가능해지는 기술들이 잇따라 등장하면서 온디바이스 AI 시장의 성장이 기대된다”고 평가했다.
삼성전자의 LPDDR5X-PIM 기술은 AI 연산 속도와 전력 효율을 동시에 개선하는 혁신적 접근으로, 앞으로 스마트 기기 내 AI 기능을 한층 강화하는 핵심 요소가 될 전망이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
