시계열 파운데이션 모델(TSFM)을 실제 세계의 데이터로 학습시켰을 때 성능이 얼마나 달라지는지를 대규모로 검증한 연구가 공개됐다. 연구진은 arXiv에 게재한 논문에서, 이를 위해 구축한 실세계 다변량 시계열 말뭉치 ‘RMISC’를 소개했다. 최근 여러 시계열 파운데이션 모델이 강력한 제로샷(zero-shot) 일반화 능력을 보이고 있으나, 이들이 주로 합성 다변량 데이터로 사전학습된다는 점에서 출발한 연구다.
합성 데이터는 규모를 키우기 쉽다는 장점이 있지만, 실제 세계의 복잡성을 온전히 담아내지 못할 수 있다는 것이 연구진의 문제의식이다. 이에 따라 연구진은 ‘선도적인 시계열 파운데이션 모델을 실세계 말뭉치로 학습시키면 합성 데이터로 학습한 경우보다 실제로 얼마나 더 나은 성능을 내는가’라는 물음을 던졌다. 여러 변수가 시간에 따라 함께 변하는 다변량 시계열은 금융, 기상, 에너지, 산업 설비 등 폭넓은 분야에서 나타나며, 학습 데이터의 성격에 따라 예측 모델의 일반화 능력이 크게 좌우된다.
연구진이 구축한 RMISC는 상당히 큰 규모의, 고품질이며 공개적으로 접근 가능한 실세계 다변량 시계열 아카이브다. 다양한 도메인에 걸쳐 약 200개의 데이터셋과 1420억 개의 시점을 담고 있다. 연구진은 이 말뭉치와 함께 단변량 데이터, 합성 다변량 데이터를 각각 활용해 네 가지 진보된 시계열 파운데이션 모델을 사전학습시킨 뒤, 표준적인 분포 내(in-distribution)와 분포 외(out-of-distribution) 벤치마크에서 제로샷 일반화 능력을 평가했다.
실험 결과 실세계 다변량 데이터를 학습에 포함하는 것이 단변량 모델과 다변량 모델 모두의 일반화 성능을 대체로 향상시키는 것으로 나타났다. 연구진은 이 결과가 실세계 다변량 데이터가 더 강력한 시계열 파운데이션 모델을 개발하는 데 어떻게 기여하는지에 대한 통찰을 제공한다고 설명했다. 대규모 실측 데이터를 공개 아카이브로 정리한 이번 작업은, 합성 데이터에 치우쳐 온 시계열 모델 연구의 균형을 잡는 데 활용될 수 있다.
