아마존웹서비스(AWS)가 미국 정부 전용 클라우드인 AWS 거브클라우드(GovCloud)에 엔비디아 네모트론(Nemotron)과 OpenAI GPT-OSS 오픈웨이트 모델을 아마존 베드록(Amazon Bedrock)으로 제공한다고 밝혔다. 이번 조치로 국방·정보기관 및 관련 계약업체는 별도의 인프라 구축 없이 최신 오픈웨이트 모델을 규제 경계 안에서 쓸 수 있게 됐다. AWS 거브클라우드는 미국 시민만 운영에 참여하는 격리된 리전으로, 페드램프(FedRAMP) 하이·국방부 클라우드 컴퓨팅 보안요구사항(SRG) 등급 2·4·5, 국제무기거래규정(ITAR), 형사사법정보서비스(CJIS) 등 다수의 규제 프레임워크를 충족한다.
이번에 추가된 모델은 OpenAI의 GPT-OSS 120B·20B와 엔비디아 네모트론 3 계열(나노 9B v2·나노 12B v2·나노 30B·슈퍼 120B)이다. 네모트론 3 슈퍼는 1200억 개 총파라미터 중 토큰당 120억 개만 활성화하는 하이브리드 전문가 혼합(MoE) 구조로, 이전 세대보다 최대 5배 높은 처리량과 100만 토큰 컨텍스트 창을 지원한다. 네모트론 3 나노는 300억 파라미터 규모에 토큰당 약 30억 개만 활성화하며 이전 세대 대비 4배 높은 처리량과 추론 토큰 생성량 최대 60% 절감을 내세운다. OpenAI의 GPT-OSS 120B·20B는 각각 프로덕션·범용 고난도 추론과 저지연 로컬 활용을 겨냥한 오픈웨이트 모델로, 두 모델 모두 12만8000토큰 컨텍스트와 최대 1만6000 출력 토큰을 지원한다.
기술적으로는 차세대 추론 엔진인 베드록 맨틀(bedrock-mantle)이 핵심이다. AWS·고객·모델 제공사 어느 쪽 운영자도 추론 프롬프트나 결과값에 접근할 수 없는 제로 오퍼레이터 액세스(zero operator access) 설계를 적용해, 거브클라우드의 격리 경계와 결합한 데이터 보호 체계를 갖췄다는 설명이다. 베드록 맨틀은 OpenAI 파이썬·타입스크립트 SDK와 호환되는 API를 제공하며, 기존 베드록 런타임(bedrock-runtime) 엔드포인트는 AWS SDK 기반의 컨버스(Converse)·인보크모델(InvokeModel) API와 가드레일(Guardrails) 등 네이티브 기능에 접근할 수 있다. 추론 요청은 미국 거브클라우드 웨스트(us-gov-west-1) 단일 리전 또는 웨스트·이스트 두 리전을 넘나드는 지역 간 교차 추론 방식으로 처리되며, 전 세계 상용 리전을 넘나드는 글로벌 교차 추론은 거브클라우드에서 지원되지 않는다.
서비스 요금제는 예약 없이 토큰당 과금하는 스탠더드, 지연시간에 민감한 트래픽을 위한 프라이어리티, 비용 효율을 우선하는 플렉스 세 등급이 세 모델 모두에 적용된다. 아직 예약형 전용 처리량 등급인 리저브드는 지원되지 않는다. AWS는 이번 발표를 정보 분석, 임무 계획, 조달·계약 문서 검토, 보안 로그 분석, 컴플라이언스 자동화 등 정부·국방 업무에 오픈웨이트 모델을 곧바로 투입할 수 있는 사례로 제시했다. 오픈웨이트 모델의 가중치가 공개돼 있어 기관이 자체적으로 아키텍처를 검증하고 모델 카드를 검토하며 대표 워크로드로 벤치마크를 수행할 수 있다는 점도 정부 조직의 위험평가·제로트러스트 원칙에 부합한다고 강조했다.
저작권자 © STORIUM 무단전재 및 재배포 금지
