스파이킹 신경망(SNN, Spiking Neural Networks)은 생물학적 뇌의 동작 방식을 모방하고 에너지 효율이 높아 순차 데이터 처리 분야에서 주목받아 왔다. 그러나 주류 SNN 아키텍처는 신경 상태 전이를 1차 미분방정식(ODE)으로 모델링하는 구조를 따르는데, 이 1차 가정이 ‘무기억성(memoryless)’ 특성을 유발해 장시간에 걸친 복잡한 의존 관계를 포착하는 능력이 제한되는 문제가 있었다.
이 한계를 해결하기 위해 제안된 LongSpike는 제어 이론에서 사용되는 분수차 상태공간 모델(f-SSM, fractional-order State-Space Modeling)을 스파이킹 도메인에 통합한 새로운 SNN 프레임워크다. 기존 정수 차원의 SSM을 분수 미적분(fractional calculus) 영역으로 확장함으로써, 신경 동역학에 장기 기억 커널을 계층적으로 결합할 수 있게 했다. 분수 연산자가 통상적으로 유발하는 계산 부담과 병렬화 어려움은 병렬 학습을 지원하는 상태공간 수식을 활용해 완화했다.
성능 검증은 Long Range Arena(LRA), 대규모 언어 모델링 벤치마크인 WikiText-103, Speech Commands 음성 인식 세 가지 과제에서 이루어졌다. LongSpike는 세 벤치마크 모두에서 현재까지 보고된 최고 수준의 SNN을 정확도 기준으로 앞서면서, 스파이킹 연산 특유의 희소 시냅스 계산(sparse synaptic computation)도 유지했다. 코드는 GitHub에 공개돼 있다.
LongSpike는 에너지 효율과 장거리 의존성 학습 능력을 동시에 확보해야 하는 상황에서 기존 SNN의 구조적 제약을 분수 미적분이라는 수학적 접근으로 풀어낸 사례다. 전통적으로 트랜스포머나 LSTM 같은 아키텍처가 주도하던 장시퀀스 학습 영역에서 에너지 효율적 SNN의 경쟁력을 끌어올린 연구로 평가된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
