머신러닝 원자간 포텐셜(MLIP)을 학습시킬 때 사용하는 옵티마이저(최적화 알고리즘) 선택이 그동안 거의 연구되지 않은 채 대부분 아담(Adam) 계열을 기본값으로 써왔다는 지적과 함께, 새로운 대안 옵티마이저들이 더 나은 성능을 낸다는 연구 결과가 나왔다. 연구진은 행렬 구조를 활용하는 옵티마이저인 뮤온(Muon), 소프(SOAP), 그리고 이 둘을 결합한 하이브리드 소프-뮤온(SOAP-Muon)을 네퀴아이피(NequIP)와 알레그로(Allegro) 두 모델의 학습에 적용해 체계적으로 비교했다.
MLIP은 원자와 분자 사이의 상호작용 에너지를 예측해 물질의 물리적 특성을 시뮬레이션하는 데 쓰이는 머신러닝 모델이다. 신약 개발이나 신소재 설계 등에서 값비싼 양자역학 계산을 대체할 수 있어 계산화학·재료과학 분야에서 주목받아 왔지만, 학습 과정에서 어떤 최적화 기법을 쓰느냐에 따른 성능 차이는 상대적으로 덜 다뤄진 주제였다.
연구 결과 소프와 소프-뮤온은 수렴 속도와 최종 정확도 모두에서 아담을 뚜렷하게 앞서는 것으로 나타나 안정적이고 일관되게 강력한 방법으로 확인됐다. 반면 뮤온 단독 적용은 아담 대비 부분적인 개선에 그쳤다. 특히 힘(force) 정보가 부분적으로만 제공되는, 즉 라벨이 제한된 상황에서 새 옵티마이저들의 개선 효과가 더욱 두드러졌다고 연구진은 밝혔다. 이는 실제 연구 현장에서 완전한 힘 데이터를 확보하기 어려운 경우가 많다는 점에서 실용적 의미가 크다.
연구진은 옵티마이저 선택이 MLIP 모델 설계에서 그동안 간과돼 온 요소이지만 실제로는 학습 효율과 최종 성능에 상당한 영향을 미친다고 결론지었다. 이번 연구는 대규모 언어 모델 학습에서 주로 논의돼 온 옵티마이저 최적화 논의가 과학 계산용 머신러닝 모델 전반으로 확장되고 있음을 보여주는 사례로 평가된다.
