마이크로소프트가 허깅페이스(Hugging Face)의 오픈웨이트 모델을 자사 애저 파운드리(Azure Foundry)에서 원클릭으로 배포할 수 있는 ‘파운드리 매니지드 컴퓨트(Foundry Managed Compute)’ 기능을 공개했다. 허깅페이스 공식 블로그에 따르면 이 기능은 지난 2026년 마이크로소프트 빌드(Build) 행사에서 처음 발표됐으며, 매주 갱신되는 큐레이션 카탈로그를 통해 수천 개의 오픈웨이트 모델을 텍스트·비전·오디오·멀티모달 등 전 모달리티에 걸쳐 프리뷰로 제공한다.
작동 방식은 마이크로소프트가 허깅페이스에서 모델 가중치를 사전에 가져와 검증한 뒤 자체 관리하는 애저 스토리지에 저장하고, 컨테이너 이미지를 빌드해 보안 취약점(CVE)을 스캔한 후 서명해 배포하는 구조다. 인기 모델을 식별하고 라이선스·보안을 심사한 뒤 런타임을 빌드·스캔하고 가중치를 업로드해 카탈로그에 게시하는 5단계 파이프라인을 거친다. 보안을 위해 세이프텐서(Safetensors) 형식만 허용하고 신뢰할 수 없는 코드 실행 경로가 있는 모델은 배제하는 원칙을 적용한다고 설명했다.
지원되는 런타임은 vLLM, SGLang, TensorRT-LLM, NIM, TEI, llama.cpp, hf-serve 등이며, 가속기로는 엔비디아 A100·H100과 AMD MI300X를 글로벌·데이터존 배포 옵션으로 지원한다. 이용자는 카탈로그에서 모델을 선택한 뒤 지연시간·처리량 최적화 여부와 가속기, 컨텍스트 길이를 미리 조합해둔 배포 템플릿을 고르고, 인스턴스 수를 설정해 포털이나 CLI·SDK·REST API로 배포할 수 있다. 예를 들어 큐원3-32B(qwen3-32b) 모델은 A100·H100과 4만·12만 8000토큰 컨텍스트를 조합한 4가지 템플릿으로 제공된다.
이 기능의 핵심 이점은 가중치와 런타임이 애저에 사전 배치돼 있어 배포 시 허깅페이스 허브로의 외부 네트워크 접근이 필요 없다는 점이다. 컨테이너와 런타임, 보안 패치도 재배포 없이 자동 적용되며, 페이퍼토큰이나 프로비저닝된 처리량 등 기존 배포 방식과 동일한 엔드포인트·SDK·인증·과금 체계를 공유한다. 콘텐츠 안전 필터와 역할 기반 접근 제어(RBAC), 프라이빗 네트워킹 등 엔터프라이즈 거버넌스 기능도 지원한다. 오픈 모델을 자체 인프라에서 구동할 때는 유휴 시 스케일을 낮춰 사용한 시간만큼만 가속기 비용을 지불하는 유연성도 활용할 수 있다. 마이크로소프트는 향후 허깅페이스 생태계 커버리지를 넓히고 자체 파인튜닝 가중치를 직접 배포할 수 있는 기능도 추가할 계획이라고 밝혔다.
저작권자 © STORIUM 무단전재 및 재배포 금지
