엣지 지능형 서비스에서 사용자가 주어진 과제를 성공적으로 완수할 수 있을지 미리 예측하는 사전 경보 기능은 서비스 품질 관리에 중요한 역할을 한다. 그러나 엣지 환경은 처리 지연이 짧아야 하고 프라이버시 제약이 크다는 두 가지 한계를 동시에 안고 있다. 2026년 6월 arXiv에 공개된 연구는 이 문제를 해결하는 CogGuard 프레임워크를 제안한다. CogGuard는 오프라인에서 대규모언어모델(LLM)로 정적·동적 사용자 프로파일을 구성하는 단계와, 온라인에서 소형언어모델(SLM)로 실시간 점수 예측을 수행하는 단계를 명확히 분리하는 구조를 취한다.
연구진은 교육 성취 예측과 운영 과제 결과 예측이라는 두 가지 대표 시나리오에 CogGuard를 적용했다. 프로파일 구성 단계에서는 시나리오별 방법론과 함께 KV 캐시를 재사용하는 프리픽스 정렬 기법을 설계해 반복 인코딩 연산을 줄였다. 분산 엣지 클러스터에서의 미세조정 단계에는 입력 시퀀스 길이 차이로 인한 불균형 처리를 완화하는 길이 인식 분산 학습 전략과 대조 정규화를 도입했다. 실험 결과 CogGuard는 프로파일 구성 시간을 최대 48%, 분산 미세조정 시간을 19% 단축했다. 교육 과제에서는 100점 척도 기준 평균절대오차(MAE) 13.4, 운영 과제에서는 MAE 5.9를 기록했으며, 가장 큰 교육 설정에서 최강 기준선 대비 예측 오차를 15.4% 낮췄다.
CogGuard는 서비스 시나리오마다 따로 설계해야 했던 프로파일 구성을 공통 파이프라인으로 재사용 가능하게 추상화한 점이 특징이다. 이는 교육, 헬스케어, 제조 현장 등 다양한 엣지 환경으로 확장 적용할 수 있는 가능성을 열어준다. 국내에서도 AI 기반 학습 관리 시스템이나 산업 현장 모니터링에 이 같은 경량 예측 구조가 활용될 수 있어 실용적 시사점이 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
