노엄 브라운 오픈AI 리서치 부문 부사장이 3일 서울에서 열린 ‘글로벌 AI 프론티어 심포지엄 2026’에서 한국 메모리 반도체의 위상이 앞으로 더 중요해질 것이라고 밝혔다. 그는 메모리 병목 현상이 계속될 것이라며, 최근 일각에서 제기되는 메모리 수요 둔화 우려와는 다른 시각을 내놨다. 그는 지금까지 AI가 이만큼 발전한 배경에는 알고리즘뿐 아니라 반도체 같은 인프라가 있었다며, 앞으로도 인프라의 중요성이 이어질 것이라고 설명했다.
그는 한국이 하드웨어 분야에서 놀라운 성과를 내는 글로벌 리더라며, AI 산업에서 매우 훌륭한 위치를 구축하고 있다고 평가했다. 이 같은 메모리 수요 확신은 오픈AI의 개발 전략과 맞닿아 있다는 설명이다. 브라운 부사장은 앞으로 AI가 더 오래 생각하고 정확한 답을 내는 방향으로 발전할 것이라고 강조했는데, AI가 오래 생각할수록 내부 데이터 처리량이 늘어나 메모리 반도체 수요가 가파르게 상승하는 구조라는 것이다.
최근 구글과 오픈AI 등 빅테크는 AI 모델의 추론 시간을 늘리는 방향으로 개발을 진행 중이다. 추론 시간이 길어질수록 AI가 답변을 여러 번 검증하고 다시 질문하는 과정을 거치며 품질이 개선되는 ‘추론 시간 스케일링 법칙’ 때문이다. 브라운 부사장은 지난해 오픈AI 모델이 국제수학올림피아드에서 금메달 수준의 성적을 거둔 사례를 들며, 이는 AI 모델이 몇 시간 동안 추론해서 나온 결과라고 설명했다. 그는 앞으로는 몇 개월간 추론하는 AI 모델도 필요할 것이라고 전망했다.
학습은 물론 추론 자체에도 메모리를 쓰는 프론티어 모델의 특성상, 이런 모델의 메모리 수요는 급격히 늘어날 것으로 보인다. 브라운 부사장은 AI 모델이 앞으로 신약 개발과 과학적 발견 등에 활용될 것이며, 이런 문제는 막대한 추론 비용을 투자할 가치가 있다고 말했다. 그는 벤치마크 성능을 단일 점수로만 표현하지 말고 토큰 비용과 시간을 함께 고려해 평가해야 한다고 덧붙이며, 추론 능력이 뛰어난 AI 에이전트 간 협력이 아직 시작 단계에 불과하다고 진단했다.
