에퀴닉스가 엔비디아, Together AI와 손잡고 기업용 AI 추론을 분산형 데이터센터에서 처리하는 ‘에퀴닉스 인퍼런스 익스체인지’ 구상을 내놨다. 내년 1분기 출시를 목표로 하며, 사용자가 있는 곳에 가까운 데이터센터에서 답변 생성을 처리해 지연을 줄이려는 전략이다. 대규모 학습보다 실제 서비스 응답을 먼저 개선하려는 방향이라는 점에서 의미가 있다.
추론은 이미 학습한 AI가 질문에 답변을 내놓는 마지막 단계다. 이 작업을 멀리 떨어진 대형 클라우드가 아니라 가까운 엣지 데이터센터에서 돌리면 응답 속도와 데이터 이동 비용을 함께 낮출 수 있다. 에퀴닉스는 전 세계 77개 주요 도시의 280여 개 데이터센터와 230여 개 클라우드 연결 지점을 활용할 수 있다고 밝혔다. 기업이 모델을 어디에 둘지, 어떤 경로로 연결할지에 따라 체감 성능이 달라질 수 있다는 뜻이다.
세 회사의 역할도 분명하다. 에퀴닉스는 전력·냉각·상호연결 인프라를 제공하고, 엔비디아는 GPU와 AI 인프라 설계 표준을 맡으며, Together AI는 200여 개 이상의 오픈소스 AI 모델로 추론 서비스를 운영한다. 기업 입장에서는 규제가 까다로운 산업에서도 지역 내 처리와 모델 선택 유연성을 확보할 수 있다. 하나의 거대한 클라우드에 묶이지 않고 분산된 인프라를 조합하는 방식이다.
이 구상은 금융·의료처럼 데이터 국외 이전 규제가 있는 분야에서 특히 의미가 크다. 지연이 민감한 고객지원, 내부 지식검색, 문서 요약 같은 업무에도 맞는다. 다만 분산 추론망이 실제로 어느 정도의 지연 개선과 비용 절감을 낼지는 서비스가 깔리고 나서 검증될 문제다. 현재로서는 클라우드 중심 AI를 지역 데이터센터와 연결하는 방향이 더 넓어질 수 있다는 신호에 가깝다.
결국 이번 협력은 AI 경쟁의 중심이 모델 크기만이 아니라 서비스 배치와 응답 시간으로 옮겨가고 있음을 보여준다. 기업이 규제와 비용, 속도를 함께 고려해야 하는 상황에서 인프라 사업자와 모델 공급자의 결합이 더 잦아질 가능성이 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
