SK하이닉스가 7월 24일 AI 서버와 데이터센터에서 차세대 메모리 성능을 끌어내는 시스템 설계·검증 방식을 공개했다. 강남은 어드밴스트 메모리 솔루션팀 TL과 곽형석 AI 플랫폼 소프트웨어팀 TL이 설명한 실무는 제품을 만든 뒤 성능을 확인하는 단계에 머물지 않는다. 고객의 사용 환경과 AI 작업 특성을 제품 개발 전부터 분석하고, 메모리 구조와 소프트웨어를 함께 조정하는 방식이다. 메모리 반도체를 단순 저장 부품이 아니라 전체 AI 시스템의 성능과 효율을 좌우하는 인프라로 다룬다는 의미다.
시스템 아키텍처 조직은 고객 요구를 바탕으로 AI 서버와 데이터센터에 맞는 메모리 구조를 정의한다. 대상 기술에는 메모리 안에서 연산해 프로세서와의 데이터 병목을 줄이는 PIM(연산 메모리), 프로세서와 메모리를 효율적으로 연결하는 CXL(컴퓨트 익스프레스 링크), 고객의 작업 특성에 맞춰 인터페이스와 기능을 조정하는 Custom HBM(맞춤형 고대역폭 메모리)이 포함된다. 소프트웨어 설루션 조직은 AI 모델의 동작 패턴을 살피고 KV 캐시의 저장 방식과 데이터 이동 경로를 설계하며, 새 메모리 기술이 모델 성능에 미치는 영향을 시뮬레이션한다.
| 구분 | 주요 역할 | 확인 대상 |
|---|---|---|
| 시스템 아키텍처 | 고객 환경에 맞는 메모리·연결 구조 설계 | AI 서버, 데이터센터, 인터커넥트 |
| 소프트웨어 설루션 | AI 모델과 데이터 이동 경로 최적화 | KV 캐시, 모델 동작, 성능 시뮬레이션 |
| 공동 목표 | 하드웨어와 소프트웨어의 통합 검증 | 성능, 효율, 안정성, 확장성 |
두 조직의 역할은 실제 사용 단계에서 맞물린다. 시스템 아키텍처는 데이터센터 아키텍처, xPU·SoC 아키텍처, 메모리 서브시스템 아키텍처로 나뉘어 클러스터와 고성능 연결 구조를 다룬다. 소프트웨어 설루션은 AI 모델 연구, 플랫폼 소프트웨어 연구, 시스템 소프트웨어 연구를 맡아 실제 AI 작업 기반의 성능 평가와 이종 메모리 관리, 연산 메모리용 컴파일러 설계를 수행한다. 서버 운영사와 AI 서비스 개발자는 특정 메모리의 사양만 비교하기보다 자신의 모델이 데이터를 저장하고 불러오는 흐름까지 함께 검토해야 한다.
다만 새 구조나 소프트웨어를 제안했다고 곧바로 기대한 성능 향상이 보장되는 것은 아니다. 곽형석 TL은 시스템 수준의 복합적인 요인 때문에 제안한 설루션이 예상만큼 개선으로 이어지지 않을 수 있다고 설명했다. 이때 연구 진행 상황을 팀과 공유하고 원인을 여러 관점에서 분석해 방향을 다시 점검한다. 강남은 TL도 기능별 객관적 비교 기준을 빠르게 세우고 충분한 근거가 확보되면 판단하는 과정이 중요하다고 밝혔다. AI 메모리의 실사용 가치는 개별 칩의 최고 수치보다 고객 작업에 맞는 구조 설계와 반복 검증에서 결정된다는 점을 보여준다.
저작권자 © STORIUM 무단전재 및 재배포 금지
