아마존웹서비스(AWS)가 아마존 베드록(Amazon Bedrock)에서 제공하는 120여 개 파운데이션 모델을 한 화면에서 검색하고 비교할 수 있는 오픈소스 도구 ‘모델 프로파일러(Model Profiler)’를 공개했다. <a href=”https://www.storium.io/%ed%81%b4%eb%a1%9c%eb%93%9c-%ec%98%a4%ed%8d%bc%ec%8a%a4-4-8-amazon-bedrock-%ec%a0%95%ec%8b%9d-%ec%b6%9c%ec%8b%9c%ec%9e%a5%ec%8b%9c%ea%b0%84-%ec%97%90%ec%9d%b4%ec%a0%84%ed%8b%b1-%ec%9e%91/”>앤트로픽·오픈AI·메타·미스트랄AI·코히어 등 100개 이상의 모델을 제공하는 아마존 베드록</a>은 팀마다 용도에 맞는 모델을 고를 수 있는 유연성을 주지만, 모델별 성능·가격·리전 지원·컨텍스트 창 크기 등의 정보가 콘솔 페이지와 문서, 리전별 API 호출에 흩어져 있어 비교 작업이 번거롭다는 지적을 받아왔다.
모델 프로파일러는 서버리스 파이프라인을 통해 다섯 개의 AWS API와 두 개의 공개 URL 등 총 일곱 개 출처에서 데이터를 자동 수집한다. AWS 스텝 함수(Step Functions)가 오케스트레이션하는 이 파이프라인은 17개의 람다(Lambda) 함수를 네 단계로 나눠 실행하며, 람다 간 S3 캐싱을 통해 실행당 API 호출 수를 약 480회에서 29회로 줄여 97%의 캐시 적중률을 달성했다. 전체 파이프라인은 8~12분 만에 완료되며 매일 UTC 오전 6시에 자동 실행된다. AWS 베드록 기반의 자가 치유(self-healing) 에이전트 시스템이 데이터 결손을 감지해 안전한 설정 오류를 자동으로 수정하고, 안전 기준을 충족하지 못하는 제안은 수동 검토용으로 별도 기록한다.
모델 프로파일러는 모델 탐색기, 모델 비교, 리전별 가용성 매트릭스, 즐겨찾기 네 가지 핵심 기능을 제공한다. 모델 탐색기에서는 공급사·기능(비전, 코드 생성, 함수 호출 등)·입출력 모달리티·리전별로 필터링할 수 있고, 비교 화면에서는 최대 25개 모델을 가격·리전별 가용성·컨텍스트 창 크기·기능 매트릭스 등 네 개 축으로 동시에 비교할 수 있다. 리전별 가용성 매트릭스는 아마존 베드록이 지원하는 33개 리전을 지역별로 묶어 온디맨드, 교차 리전 추론(CRIS), 맨틀(Mantle) 등 제공 방식과 모델의 생애주기 상태(활성·레거시·단종 예정)까지 보여준다.
AWS는 이 도구를 활용한 가상의 사례로 유럽 리전 내 비전 모델 탐색, 서드파티 AI 서비스에서 베드록으로의 전환, 다중 리전 배포 검토 등을 제시하며 각각 수 시간이 걸리던 모델 평가 작업을 20분에서 45분 수준으로 단축했다고 소개했다. 모델 프로파일러는 로컬 환경에서 5분 이내에 배포할 수 있는 방식과, AWS 서버리스 인프라에 배포해 매일 자동으로 데이터를 갱신하는 방식 두 가지를 지원하며, MIT-0(무저작자표시 MIT) 라이선스로 깃허브(GitHub)에 공개돼 있어 누구나 자유롭게 활용하거나 기여할 수 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
