거대언어모델(LLM) 구동에 필요한 대규모 데이터센터와 전력 인프라를 갖추지 못한 개발도상국을 중심으로 소형 AI 모델(sLM) 채택이 빠르게 확산하고 있다. IEEE 스펙트럼 보도에 따르면 세계은행이 지난해 11월 발표한 보고서에서는 최빈국 인터넷 이용자의 0.7%만이 챗GPT를 사용해본 반면, 선진국에서는 인터넷 이용자 네 명 중 한 명이 이를 사용한 것으로 나타났다. 세계은행 총재 아자이 방가는 다보스포럼에서 생성형 AI 논의가 대체로 대형 모델 중심으로 이뤄지지만, 인도·중국을 제외한 대다수 개발도상국은 이를 뒷받침할 컴퓨팅 자원과 전력, 인력을 갖추지 못했다고 지적한 바 있다.
대표 사례로 나이지리아 출신 아데바요 알롱게가 개발한 휴대용 분광계 ‘알엑스스캐너(RxScanner)’가 꼽힌다. 알약을 적외선으로 스캔해 위조 의약품 여부를 판별하는 이 기기는 가나·케냐·미얀마·나이지리아 등 10여 개국 약국에서 사용돼 왔다. 다만 2019년 케이프타운 시연 당시에는 스캔 데이터를 미국 데이터센터로 전송해야 해 결과를 받는 데 5분 이상 걸리는 문제가 발생했고, 개발팀은 이후 2시간 만에 안드로이드폰에서 완전히 오프라인으로 작동하는 경량화 버전을 만들어 이를 해결했다.
이 밖에도 인도 벨로르 공과대학 연구진은 드론에 탑재한 소형 모델로 캐슈나무 질병을 사진만으로 즉시 식별하는 시스템을 개발했고, 우루과이에서는 포도밭의 개미 침입을 탐지하는 데, 여러 국가에서는 말라리아 매개 모기를 탐지하는 데 소형 AI가 활용되고 있다. 브라질에서는 50달러짜리 아두이노(Arduino) 보드에서 소비전력 3와트로 언어모델을 구동해 첨단 장비 없이 심전도(ECG)를 측정하는 실험도 진행됐다. 소형 모델은 대형 모델을 가지치기(pruning)하거나 증류(distillation)하는 방식, 또는 32비트 구조를 8비트로 낮추는 양자화 방식으로 만들어지며, 특정 작업만을 목표로 처음부터 소형으로 학습되는 경우도 있다.
시장조사업체 카운터포인트리서치에 따르면 2025년 기준 전 세계 출하 스마트폰의 약 33%가 생성형 AI 실행이 가능하며, 이 비율은 2026년 말 45%로, 2027년 말에는 절반 이상으로 늘어날 전망이다. 구글 딥마인드의 오픈웨이트 모델 젬마(Gemma) 4와 알리바바의 큐원(Qwen) 3.5 등은 특정 산업 데이터로 손쉽게 재학습할 수 있어 신흥국 스타트업들의 소형 모델 개발 기반으로 활용되고 있다. 알롱게는 미래의 AI가 하나의 거대 모델이 아니라, 특정 맥락에 맞춰 배치된 수백만 개의 소형·정밀 모델 형태로 진화할 것이라는 전망을 밝혔다.
다만 소형 AI가 만능 해결책은 아니라는 지적도 나온다. 알롱게는 안정적인 전력 공급과 공급망, AI 인재 양성 체계 같은 기본 인프라 없이는 장기적인 지속이 어렵다고 강조했다. 배터리 기반 기기라 하더라도 결국 주기적인 소프트웨어 업데이트와 최소한의 전력 인프라가 필요하다는 점에서, 소형 AI 확산이 곧바로 신흥국의 디지털 격차 해소로 직결되지는 않는다는 신중론도 함께 제기된다.
