지리적 환경이 계속 바뀌는 상황에서도 이전에 학습한 지식을 잃지 않으면서 새로운 도메인에 모델을 적응시키는 ‘도메인 증분 변화탐지(DICD, Domain-Incremental Change Detection)’는 원격 탐사 분야의 난제로 꼽혀 왔다. 연구진은 이 과정에서 구조적인 불일치가 발생한다고 지적했다. 레이블 공간은 고정돼 있는데 도메인의 특성은 크게 달라지기 때문에, 증분 학습 모델이 여러 도메인에 걸쳐 안정적인 공간 변화 표현을 유지하기 어렵다는 것이다.
기존에 쓰이던 리플레이 기반 또는 정규화 기반 방법들은 도메인 시퀀스가 길어질수록 확장성이 떨어져 지식 손실이나 계산 비용 증가로 이어지는 경우가 많았다. 이에 연구진은 시각 상태공간 모델(visual state space model)을 기반으로 한 통합 프레임워크인 ‘이중선택 증분 네트워크(DSINet, Dual-Selective Incremental Network)’를 제안했다. DSINet은 맘바(Mamba) 계열 모델의 입력 의존적 선택 메커니즘을 활용하는 ‘선택적 공간 상태 유닛(S3U)’을 핵심 구성 요소로 사용한다.
이 유닛은 특징 전파 과정에서 도메인별로 달라지는 요소는 걸러내면서도 안정적인 공간 변화 구조는 그대로 보존하는 역할을 한다. 그 결과 여러 도메인에 걸쳐 공간 표현이 안정적으로 유지되며, 증분 학습 단계가 누적되면서 특징이 뒤섞이는 문제를 방지한다는 설명이다. 연구진은 여기에 더해 ‘농도균형 증류(CBD, Concentration-Balanced Distillation)’ 전략을 함께 적용해 도메인 간 지식 전이를 안정화했다. 이 전략은 증분 업데이트 과정에서 난이도와 신뢰도 집중 효과의 균형을 맞춰 확률 질량이 고르게 배분되도록 하며, 지나친 평탄화나 모드 붕괴를 방지한다.
연구진은 이러한 메커니즘들이 함께 작동함으로써 증분 학습 전 단계에 걸쳐 안정적인 학습 동역학을 유지할 수 있다고 설명했다. 실험 결과 DSINet은 긴 도메인 시퀀스에 걸쳐 지식 저하를 완화하면서도 상태공간 모델 특유의 선형적 계산 효율성을 그대로 유지하는 것으로 나타났다. 이는 위성영상 기반 지형 변화 모니터링처럼 관측 환경이 계속 바뀌는 실제 응용 분야에서, 모델을 매번 처음부터 다시 학습시키지 않고도 꾸준히 성능을 확장해 나갈 수 있는 가능성을 제시한다.
저작권자 © STORIUM 무단전재 및 재배포 금지
