MIT 컴퓨터과학·인공지능연구소(CSAIL)와 마이크로소프트 애저 연구팀이 AI 에이전트 워크플로의 설계와 배포를 자동화하는 시스템을 개발했다. 에이전트 워크플로는 여러 모델과 외부 도구를 엮어 영상 분석 후 질의응답 같은 복잡한 작업을 수행하는 AI 소프트웨어 시스템인데, 고도로 분절된 구조 탓에 연산·에너지·비용 낭비가 빈번하다. ‘Murakkab’으로 명명된 이 시스템은 우르두어로 ‘여러 요소의 합성’을 뜻한다. 개발자가 애플리케이션의 의도를 평문으로 기술하면 시스템이 최적의 모델·도구·하드웨어 구성을 자동으로 선택하고, 사용자의 우선순위에 따라 실시간으로 배포 설정을 조정한다. 논문의 제1저자는 MIT 전기공학·컴퓨터과학(EECS) 대학원생 고하르 차우드리이며, EECS 부교수 애덤 벨레이와 마이크로소프트 애저 기술 펠로 리카르도 비안키니 등이 공동 저자로 참여했다.
기존 에이전트 워크플로 개발에서는 개발자가 어떤 AI 에이전트·모델·도구를 사용할지, 하드웨어 배분은 어떻게 할지 처음부터 모두 직접 결정해야 했다. 새 모델이 출시되면 처음부터 다시 검토해야 하는 비효율도 컸다. Murakkab은 이 과정을 자동화해 병렬로 처리할 수 있는 작업을 파악하고 사용자 요건에 맞게 구성을 동적으로 조정한다. 클라우드 제공자도 여러 워크플로를 통합 파악해 컴퓨팅 자원을 더 효율적으로 공유 배분할 수 있게 된다.
영상 Q&A와 코드 생성 등 다양한 에이전트 워크플로를 대상으로 한 실험에서 Murakkab은 사용자 요구를 충족하면서도 다른 방식 대비 필요한 연산을 약 35% 수준으로 낮췄다. 에너지 소비는 약 27%, 비용은 25% 미만이었다. 한 실험에서는 정확도를 약 2%만 낮추면서 에너지 소비를 10배 이상 줄이는 구성도 찾아냈고, 영상 프레임을 선별하는 모델에서는 사람이 수작업으로는 찾기 어려운 최적 구성을 자동으로 발견했다. 연구진은 향후 이 시스템을 더 복잡한 워크플로와 대규모 컴퓨팅 클러스터로 확장할 계획이다. 이번 연구는 반도체연구협회(SRC)와 미국 방위고등연구계획국(DARPA)의 일부 지원을 받았으며, 논문은 USENIX 운영체제 설계 및 구현 심포지엄(OSDI)에서 발표될 예정이다. 에이전트 워크플로가 클라우드 사업의 근간으로 빠르게 자리 잡는 가운데, 자원 과할당으로 인한 에너지·비용 낭비를 줄이는 자동 최적화는 클라우드 사업자와 이용 기업 모두에 실질적 의미를 갖는다.
저작권자 © STORIUM 무단전재 및 재배포 금지
