국산 AI 반도체 기업 리벨리온이 자사 NPU 서버 ‘RebelServer’ 한 대에서 SK텔레콤의 초거대 언어모델 A.X K1을 구동하고, 여러 사용자의 요청을 동시에 처리하는 지도형 AI 에이전트 데모를 공개했다. 리벨리온은 7월 23일 공식 보도자료에서 단일 서버 구성으로 모델을 실행했다고 밝혔다.
A.X K1은 SK텔레콤이 개발한 519B, 5,190억 매개변수 규모의 전문가 혼합 모델이다. SK텔레콤이 1월 공개한 기술 보고서에 따르면 입력에 따라 33B만 선택적으로 활성화한다. 리벨리온은 이 구조에 맞춰 연산을 가속기 여러 장에 나누는 분산 처리 소프트웨어를 최적화했다고 설명했다.
공개된 데모는 여러 사용자가 ‘주말에 이용 가능한 약국’처럼 서로 다른 질문을 동시에 입력하면 A.X K1이 답을 만들고 지도에 결과를 표시하는 방식이다. 회사는 병목 없이 실시간 처리했다고 설명했지만, 동시 사용자 수와 초당 처리량, 첫 토큰 지연시간은 보도자료에 제시하지 않았다.
| 구분 | 공식 자료에서 확인된 내용 |
|---|---|
| 모델 | A.X K1, 전체 519B·활성 33B의 MoE 구조 |
| 인프라 | RebelServer 단일 서버 구성 |
| 시연 | 다중 동시 요청을 처리하는 지도형 에이전트 |
| 미공개 | 처리량·지연시간·전력·비용의 독립 비교값 |
자료: STORIUM 정리
리벨리온은 단일 RebelServer가 글로벌 고성능 GPU 서버에 준하는 인프라 역량을 확보했다고 주장했다. 다만 비교한 GPU 서버의 구성, 같은 입력·출력 조건에서 측정한 토큰 처리량과 전력 소비량은 공개하지 않았다. 이번 발표는 구동과 서비스 데모의 성립을 보여준 회사 실증이며, 비용과 성능 우위까지 독립적으로 검증한 벤치마크는 아니다.
리벨리온은 과기정통부 독자 AI 파운데이션 모델 사업의 SKT 컨소시엄에 참여하고 있다. 회사는 에이닷 전화 통화요약 등 실시간 AI 서비스를 국산 NPU 인프라에서 약 1년간 운영했다고 밝혔다. 다음 확인 지점은 동일 조건의 GPU 대비 처리량·전력 자료, 데모의 실제 동시 사용자 규모, A.X K1 기반 서비스의 정식 배포 범위다. 모델 규모와 활성 매개변수는 SK텔레콤 기술 보고서 공개 자료로 교차 확인했다.
저작권자 © STORIUM 무단전재 및 재배포 금지
