학습 기반 이미지 압축은 서로 다른 rate-distortion 지점마다 독립 모델을 따로 보관해야 하는 부담에 막혀 있었다. 2026년 7월 15일 공개된 arXiv에 공개된 첫 원고에서 칼빈-캉 타와 동료들은, 이 문제를 하나의 변수 비트율 프레임워크로 풀기 위해 MixCompress를 제시했다. 핵심은 공유 백본에 억지로 모든 변화를 몰아넣는 대신, 희소한 구조적 전문화로 계산과 표현을 나눠 맡기는 설계다.
기존 변수 비트율 방법은 밀집한 파라미터 변조에 기대는 경우가 많았고, 그 과정에서 저비트율의 평활화 경사와 고주파 질감 보존이 충돌해 특징이 엉키는 문제가 있었다. 이 논문은 이를 완화하기 위해 sparse-gated Mixture-of-Experts를 쓰되, 고정된 계산 예산의 한계를 넘기려고 Mixture-of-Depths를 더했다. 여기에 Conditional Auxiliary Transforms를 결합해 하위 대역 에너지를 rate에 맞게 조절하는 계층형 구조를 만들었다.
검증은 코드닥 24장, Tecnick 100장, CLIC Professional 검증 41장과 테스트 60장으로 구성된 벤치마크에서 이뤄졌다. 같은 총 학습 시간 동안 각 rate point는 전용 단일-속도 체크포인트보다 약 6분의 1의 반복만 보았지만, MixCompress 변형들은 각 벤치마크에서 해당 단일-속도 체크포인트와 맞먹거나 이를 넘었다고 보고됐다. 특히 MixCompress-LALIC-MoD는 비교한 모든 벤치마크에서 FAT와 LIC-TCM을 포함한 다른 단일-속도 구조를 앞섰다.
정량 비교에서는 BD-Rate(PSNR)%가 제시됐다. VTM-23.1을 0.00 기준으로 둘 때, LALIC은 Kodak에서 -18.81, CLIC-V에서 -23.96, CLIC-T에서 -26.43, Tecnick에서 -26.03이었고, MixCompress-LALIC-MoE는 각각 -18.81, -24.16, -26.80, -27.05, MixCompress-LALIC-MoD는 -20.12, -25.73, -28.71, -28.88을 기록했다. 같은 표에서 밀집 변조형 VBR인 LALIC-QRAF는 -9.32, -13.22, -15.24, -14.36, LALIC-CondConv는 -15.12, -19.22, -22.05, -21.60이었다.
학습 안정성도 별도로 살폈다. 100장의 학습 이미지에 대한 가장 낮은 operating point와 가장 높은 operating point 사이의 layer-wise gradient cosine similarity 밀도 추정에서, QRAF와 CondConv는 긴 음수 꼬리를 보여 강한 경사 충돌을 드러냈다. 반면 MixCompress는 분포를 0 쪽으로 이동시켰고, 인코더 층에서 음수 유사도를 보인 비율도 QRAF 78%, CondConv 79%에서 MixCompress-LALIC-MoE 31%, MixCompress-LALIC-MoD 22%로 줄었다고 보고했다.
| 비교 항목 | 수치/결과 | source_locator |
|---|---|---|
| Kodak/CLIC-V/CLIC-T/Tecnick BD-Rate (PSNR), MixCompress-LALIC-MoD | -20.12 / -25.73 / -28.71 / -28.88; VTM-23.1 기준 0.00 | p.12 | Table 1 |
| Kodak/CLIC-V/CLIC-T/Tecnick BD-Rate (PSNR), MixCompress-LALIC-MoE | -18.81 / -24.16 / -26.80 / -27.05; VTM-23.1 기준 0.00 | p.12 | Table 1 |
| 인코더 음수 gradient cosine similarity 비율 | QRAF 78%, CondConv 79%, MixCompress-LALIC-MoE 31%, MixCompress-LALIC-MoD 22% | p.8 | source_excerpt, Fig. 4 |
| 속도·메모리·FLOPs·파라미터 수, LALIC vs MixCompress-MoE vs MixCompress-MoD | LALIC 0.234s/0.184s/0.875G/283.39G/66.13M; MixCompress-MoE 0.252s/0.187s/1.037G/311.99G/77.86/88.56M; MixCompress-MoD 0.257s/0.190s/1.262G/392.02G/120.22/156.55M | p.14 | table excerpt |
자료: STORIUM 정리
속도와 자원 측면의 표도 함께 제시됐다. LALIC의 인코딩/디코딩 시간은 0.234초와 0.184초, 메모리는 0.875G, FLOPs는 283.39G, 파라미터 수는 66.13M이었다. MixCompress-MoE는 0.252초, 0.187초, 1.037G, 311.99G, 77.86/88.56M, MixCompress-MoD는 0.257초, 0.190초, 1.262G, 392.02G, 120.22/156.55M으로 적혔다. 이 논문은 내부 비교와 벤치마크 평가를 통해, 하나의 모델 안에서 rate별 표현을 분리하면서도 단일-속도 기준선에 근접하거나 상회하는지를 검증했다.
저작권자 © STORIUM 무단전재 및 재배포 금지
