시계열(time-series) 예측 분야에서 대형 트랜스포머나 파운데이션 모델이 아닌 단순 선형 모델만으로도 최첨단 성능에 근접할 수 있다는 연구가 발표됐다. 연구팀은 더 큰 아키텍처가 정확도를 높인다는 기존 통념에 반론을 제기하며, 모델 규모 확장보다 전처리(preprocessing) 파이프라인 튜닝이 성능 격차를 훨씬 효율적으로 좁힌다는 주장을 내놓았다.
연구팀이 선택한 실험 모델은 해석 가능성과 닫힌 형태의 해법(closed-form solution)을 갖춘 리지 회귀(Ridge regression)다. 탐색한 하이퍼파라미터는 컨텍스트 길이, 지역 정규화, 정칙화(regularization), 데이터 증강 방식 등이다. 8개 표준 벤치마크에서 평가한 결과, 하이퍼파라미터를 최적화한 리지 회귀는 기존 선형 예측 모델뿐 아니라 트랜스포머·MLP(다층 퍼셉트론)·CNN 기반 모델보다 6개 벤치마크에서 더 나은 성능을 기록했다. 세부 분석에서 최적 컨텍스트 길이는 데이터셋마다 크게 달랐으며, 전체 컨텍스트가 아닌 학습된 트레일링 구간(trailing fraction)을 기준으로 정규화하는 방식이 거의 모든 경우에 유리한 것으로 확인됐다. 시리즈별 최적 하이퍼파라미터가 완전히 균일한 경우부터 완전히 개별화된 경우까지 데이터셋 내에서도 다양하게 분포했다는 점도 주목할 만한 발견이다.
이번 연구는 파운데이션 모델 중심으로 재편되는 시계열 예측 연구 방향에 균형추를 제시한다. 대규모 컴퓨팅 자원 없이도 전처리 설계만으로 성능을 끌어올릴 수 있다는 실증적 근거를 제공함으로써, 자원이 제한된 환경의 실무 연구자와 기업에 실질적인 대안을 제시하는 연구로 평가된다. 모델 구조가 단순한 만큼 가중치 해석이 용이해 예측 근거를 설명해야 하는 금융·의료 등 규제 산업에서의 활용 가능성도 거론된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
