SK텔레콤이 8월 4일 독자 AI 파운데이션 모델 A.X K2의 장문 처리 성능과 산업 적용 계획을 공개했다. 김태윤 SK텔레콤 파운데이션 모델 담당은 이 모델이 단순 질의응답을 넘어 여러 차례의 대화와 도구 호출을 이어가는 AI 에이전트 업무를 겨냥했다고 설명했다. A.X K2는 전체 6,880억 개 매개변수를 갖췄고, 추론할 때 실제 활성화되는 매개변수는 330억 개로 유지했다. 모델 규모를 키우면서도 연산 부담을 통제하려는 혼합 전문가 구조의 운용 방식이다.
핵심은 긴 문맥을 다루는 자체 SGA 구조다. 입력 길이가 32K를 넘으면 처리량과 지연 시간에서 이점이 나타나며, 120K 입력에서는 A.X K1보다 전체 토큰 처리량이 67.7% 개선됐다는 것이 회사 측 설명이다. 국내외 14개 벤치마크 평균 성능은 전작보다 32.2%포인트 높아졌고, 장문 이해와 에이전트 관련 평가의 개선 폭은 약 83.9%포인트였다. 개별 평가에서는 AIME26 97.1점, 한국어 지식 평가 KMMLU-Pro 80.5점, 한국 문화 이해 평가 CLIcK 91.6점을 기록했다.
| 확인 항목 | 공개 내용 |
|---|---|
| 전체 규모 | 6,880억 개 매개변수 |
| 활성 매개변수 | 추론 시 330억 개 |
| 장문 처리 | 120K 입력에서 전작 대비 토큰 처리량 67.7% 개선 |
| 현장 적용 | KG스틸·코넥 제조 실증, SK하이닉스 사내 도구 연동 |
실제 사용처는 제조와 사내 업무부터 잡았다. SK텔레콤은 KG스틸과 코넥의 생산 현장에서 과거 불량 사례를 학습해 원인과 조치 방법을 안내하는 제조 특화 AI 에이전트를 실증할 계획이다. SK하이닉스의 사내 도구 LLM Chat에는 경량 모델을 연결해 반도체 지식 검색과 정보 정리를 지원하고 있다. 국방부에는 기존 A.X K1을 FP8·FP4·INT4 세 형태로 양자화해 제공했으며 A.X K2 공급 계획도 세우고 있다. 보안이 필요한 특화 학습은 기관이나 기업의 폐쇄형 내부망에서 수행하고 데이터를 외부로 반출하지 않는다는 방침이다.
A.X K2 메인 모델은 Apache 2.0 라이선스로 가중치와 추론 코드를 공개한다. 다만 공개된 수치는 자체 벤치마크와 회사 설명에 기반한 결과이므로 기업 도입 전에는 실제 문서 길이, 응답 지연, 하드웨어 비용과 보안 환경에서 별도 검증이 필요하다. SK텔레콤은 후속 모델을 조 단위 매개변수로 확장하고 에이전트 강화학습과 사이버 보안 역량을 높이는 한편, 리벨리온과 국산 NPU에서 서빙 최적화와 상용 서비스 실증을 추진할 계획이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
