베이지안 최적화(Bayesian Optimization, BO)는 평가 비용이 크고 블랙박스 형태의 비볼록 목적 함수를 가진 최적화 문제에 널리 활용되는 기법이다. 그런데 기존의 표준 BO 알고리즘은 문제가 가진 대칭성, 즉 순열 불변성을 적극적으로 활용하지 못하는 한계가 있다. 해상 풍력단지 레이아웃 설계가 대표적인 사례다. 동일한 풍력 터빈들의 배치 순서를 바꾸어도 연간 발전량에는 아무 영향이 없지만, 표준 BO는 이 순열 불변성을 무시하고 모든 배치 순서를 독립적으로 탐색한다.
이탈리아와 네덜란드 연구자들은 이 문제를 해결하기 위해 최적운송(Optimal Transport) 이론에 기반한 순열 불변 베이지안 최적화 기법인 PIBO(Permutation-Invariant Bayesian Optimization)를 제안했다. 해상 풍력단지 레이아웃처럼 점들의 집합 위에서 최적화하는 문제를 포인트 클라우드(순서가 의미 있는 경우)와 구별되는 레이아웃 최적화 문제로 정식화하고, 이 설정에 맞는 순열 불변 커널과 탐색 전략을 설계했다. 핵심은 최적운송 거리를 이용해 두 레이아웃 간의 유사도를 측정함으로써, 터빈 순서가 달라져도 실제로 같은 배치라면 같은 거리를 부여하는 것이다.
실험 결과, PIBO는 표준 BO 방법에 비해 더 나은 풍력단지 레이아웃을 도출하면서 계산 시간을 약 절반으로 줄였다. 해상 풍력단지 레이아웃 최적화는 터빈 간 후류(wake) 간섭을 최소화해 연간 발전량을 극대화하는 과제로, 대규모 단지의 경우 시뮬레이션 한 번에도 상당한 시간이 소요되기 때문에 효율적인 최적화 알고리즘의 중요성이 크다. 한국도 서남해 해상풍력 단지 등 대형 사업을 추진 중인 만큼, AI 기반 배치 최적화 기술의 실질적인 활용 가능성이 높아지고 있다.
이번 연구는 도메인 특화 대칭성을 AI 최적화 프레임워크에 내재화하면 탐색 효율을 크게 높일 수 있음을 보여준다. 레이아웃 최적화 문제는 물류 창고 내 시설 배치, 반도체 공정 최적화 등 다양한 산업 영역으로 확장 가능해, 향후 PIBO 방법론의 응용 범위는 재생에너지를 넘어 폭넓게 이어질 전망이다.
