메타가 멀티에이전트 자동화 워크플로를 구동하기 위해 최적화한 새 플래그십 대규모 언어모델(LLM) 뮤즈 스파크(Muse Spark) 1.1을 공개했다. 이 모델은 메타 AI 챗봇 서비스와 함께 개발자용 API인 메타 모델 API를 통해 제공되며, 개발자는 이를 자사 소프트웨어에 직접 임베드할 수 있다. 해당 서비스는 현재 공개 프리뷰 단계다.
멀티에이전트 자동화는 보통 작업 계획을 세우는 메인 에이전트와 그 지시를 수행하는 서브에이전트들로 구성된다. 메인 에이전트는 새 프로젝트를 시작할 때 계획을 짜는데, 메타는 뮤즈 스파크 1.1이 작업 도중 계획 변경이 필요한 상황을 감지하고 대응할 수 있다고 설명했다. 여러 에이전트가 협업하는 작업은 대개 단계가 많고 그 과정에서 방대한 데이터가 쌓인다. 이 데이터가 모델의 컨텍스트 한계를 넘으면 일부 정보를 버려야 하고, 이는 종종 결과 품질 저하로 이어진다.
뮤즈 스파크 1.1은 컨텍스트 압축(context compaction) 메커니즘으로 이 문제에 대응한다. 메타에 따르면 이 기능은 에이전트가 생성한 데이터를 가장 중요한 정보를 보존하는 방식으로 압축해, 훨씬 이전 작업에서 만든 정보까지 필요할 때 다시 불러올 수 있게 한다. 모델의 컨텍스트 창은 100만 토큰 규모다. 이런 특성은 코딩 작업에서 특히 빛을 발한다. 메타 엔지니어들이 진행한 내부 테스트에서 이 모델은 프롬프트만으로 채팅 앱을 만들고, 인터페이스 스크린샷을 찍어 여러 기술적 문제를 짚어낸 뒤 원인이 된 코드를 찾아 수정했다.
성능 지표에서도 개선 폭이 뚜렷하다. 뮤즈 스파크 1.1은 AI 프로그래밍 벤치마크 바이브 코드 벤치(Vibe Code Bench) v1.1에서 72.2점을 받아 메타의 이전 플래그십 모델을 50점 넘게 앞섰고, 또 다른 테스트인 SWE-아틀라스 코드베이스 QnA에서는 약 18% 높은 점수를 기록했다. 이 능력은 코드 생성에만 국한되지 않아, 제품 영상을 바탕으로 전자상거래 상품 설명을 작성하거나 사용자를 대신해 식당에 주문을 넣는 등 여러 단계를 거치는 작업으로 확장된다.
메타 모델 API는 페이스북 모회사 자체 인프라 위에서 돌아가는 것으로 보인다. 로이터는 메타가 내년 데이터센터 용량을 14기가와트까지 늘릴 계획이라고 이날 보도했으며, 그 중심에는 9월 양산에 들어갈 자체 개발 AI 칩 ‘아이리스(Iris)’가 있다고 전했다. 이 칩은 지난 3월 공개된 커스텀 AI 프로세서 MTIA400으로 추정되는데, 이전 세대보다 고대역폭 메모리를 51% 더 탑재하고 처리 속도는 400% 빠르다고 메타는 밝혔다. 자체 실리콘을 확보한 메타는 향후 MTIA 칩과 뮤즈 스파크 1.1을 결합한 온프레미스 추론 장비를 기업용으로 내놓는 선택지도 열어두게 됐다.
저작권자 © STORIUM 무단전재 및 재배포 금지
