기존 확산 모델(Diffusion Model)이 단일 시간 불변 가우시안 분포를 생성의 기준 분포로 사용하는 데 따른 구조적 한계를 극복하려는 연구가 제안됐다. arXiv에 공개된 논문 PTL-Diffusion은 순방향 노이즈 과정이 단일 고정 분포가 아니라 주기적 종단 법칙(Periodic Terminal Laws)의 패밀리로 수렴하도록 설계된 확산 프레임워크를 소개한다.
연구진은 저차원 매니폴드(manifold) 근방에 데이터가 집중되는 경우, 데이터 분포의 서로 다른 영역이 각기 다른 기하학적·의미론적 특성을 갖는다는 점에 주목했다. 표준 확산 모델에서는 역방향 모델이 비구조화된 단일 기준 분포에서 매니폴드 수준의 구조를 전부 복원해야 하지만, PTL-Diffusion은 위상 정보를 순방향 노이즈 동역학 자체에 내장한다. 구체적으로는 주기적 강제 오른슈타인-울렌벡(Ornstein-Uhlenbeck) 유형의 순방향 과정에 대해 닫힌 형식의 순방향 주변 분포, 주기적 가우시안 종단 패밀리, 명시적 역방향 사후 분포를 유도했으며, 이는 표준 노이즈 예측 훈련 방식과 호환된다.
논문은 위상 조건부 역방향 동역학을 평균 주기적 기준 분포로 연결하는 불변 평균 정규화 항도 도입했다. 토러스(torus)와 실린더(cylinder) 점군 벤치마크 및 올리베티 얼굴 데이터셋 실험에서 PTL-Diffusion은 동일 구조의 DDPM 기준 모델 대비 위상 조건부 오차, 특징 공간 공분산 오차, 최근접 이웃 매니폴드 거리를 모두 감소시키는 결과를 보였다.
연구진은 이번 결과가 구조화된 종단 기준 법칙이 유망한 방향임을 시사하면서도, 더 표현력 있는 위상 구성과 대규모 평가가 추가로 필요하다고 밝혔다. 확산 모델의 생성 다양성과 매니폴드 구조 표현 능력을 함께 높이려는 연구 방향에서 의의가 있는 개념 검증(proof-of-concept) 연구로 평가된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
