오픈AI와 브로드컴이 공동 개발한 추론 특화 인공지능(AI) 반도체 ‘할라페뇨(Jalapeño)’를 현지 시간 24일 공개했다. 두 회사는 올해 말부터 실제 데이터센터에 이 칩을 배치할 계획이라고 밝혔다. 브로드컴의 호크 탄 최고경영자(CEO)는 “할라페뇨는 엔비디아의 블랙웰 칩이나 구글의 텐서처리장치(TPU)와 대등한 성능을 갖췄다”고 밝혔으며, 탄 CEO와 찰리 카와스 사장이 시제품을 오픈AI의 샘 올트먼 CEO와 그레그 브록먼 사장에게 직접 전달했다.
할라페뇨는 기존 AI 가속기를 개조한 범용 칩이 아니라, 챗GPT와 코덱스 등을 운영한 경험을 기반으로 처음부터 새로 설계된 반도체다. 양사는 데이터 이동으로 인한 병목을 줄이고 연산·메모리·네트워킹 자원의 균형을 맞춰 이론상 최대 성능에 근접한 활용도를 달성했다고 설명했다. 초기 시험 결과 단위 전력(W)당 성능이 현행 최첨단 칩보다 우수한 것으로 나타났으며, 오픈AI 모델뿐 아니라 모든 대형언어모델(LLM)과 호환할 수 있는 유연성도 갖췄다. 대만 TSMC에서 양산하며, 삼성전자와 SK하이닉스가 메모리 칩을 공급한다. 특히 설계 착수에서 파운드리(반도체 수탁생산) 공장에 설계 도면을 넘기는 테이프아웃까지 9개월이 걸렸는데, 양사는 이를 역대 맞춤형 반도체(ASIC) 중 최단 개발 주기로 꼽았다. AI 모델을 설계·최적화 과정에 직접 활용한 덕분이라는 설명이다.
양사는 향후 칩 로드맵도 이미 마련했다고 밝혔다. 차기 버전은 2028년에 출시하고, 이후로는 매년 신규 칩을 발표할 예정이다. 현재 할라페뇨는 추론 기능에 초점을 맞췄지만, 후속 칩은 다른 영역에 집중할 수도 있다고 탄 CEO는 밝혔다. 브록먼 사장은 “세계는 AI 연산 기반 경제로 나아가고 있다”며 “할라페뇨는 연산 자원을 더욱 풍부하게 만들어 개인과 기업에 더 빠르고 안정적이며 저렴한 AI를 제공할 수 있게 해줄 것”이라고 기대감을 드러냈다.
이번 발표는 AI 가속기 시장 구도에 직접적인 영향을 미친다. 오픈AI는 엔비디아 그래픽처리장치(GPU)의 최대 단일 고객으로 알려져 있었는데, 이제 자체 추론 칩을 확보함으로써 엔비디아 의존도를 줄이는 방향으로 전환하게 됐다. TPU를 앞세운 구글에 이어 오픈AI가 독자 칩을 선보였고, 앤트로픽도 칩 개발을 검토하고 있어 AI 모델 시장 선두 3개사가 모두 엔비디아 이탈 움직임을 보이는 상황이다. 칩 공개 당일 엔비디아 주가는 1% 이상 하락해 장중 197달러대를 기록했다.
