엔비디아(NVIDIA)가 멀티에이전트 AI 레퍼런스 아키텍처 AI-Q 2.0을 오라클 클라우드 인프라(OCI) 위에 배포하는 방법을 공식 기술 블로그에 공개했다. AI-Q Blueprint는 LangChain Deep Agents와 엔비디아 NeMo Agent Toolkit을 기반으로 한 오픈소스 프레임워크로, 단발성 질의응답부터 복수 하위 에이전트가 협력하는 장기 리서치 리포트 생성까지 지원한다. 인텐트 라우터(intent router), 얕은 연구 에이전트, 심층 연구 에이전트, 계획 하위 에이전트, 리서처 하위 에이전트가 계층적으로 구성된다.
이번 배포 가이드는 인프라와 애플리케이션을 분리하는 구조를 채택했다. Terraform이 OCI의 VCN 네트워크, OKE(Oracle Kubernetes Engine) 클러스터, 로드밸런서, OCI Vault 시크릿 저장소를 자동으로 생성하고, Helm 차트가 FastAPI 기반 에이전트 서버, Next.js 웹 UI, PostgreSQL 데이터베이스의 세 워크로드를 쿠버네티스에 설치한다. API 키는 AES-256 암호화로 Vault에 보관되며, 작업이 끝나면 `terraform destroy` 한 명령으로 전체 자원을 삭제할 수 있다. 이 인프라 구성까지 약 10~15분, 전체 배포는 20~25분이 걸린다고 엔비디아는 설명했다.
사전 요건은 NGC API 키(build.nvidia.com), Tavily 웹 검색 API 키, OCI 테넌시 접근 권한, 그리고 Kubernetes·Terraform·Helm 기본 지식이다. 코드 리포지터리는 `github.com/oracle-samples/ai-q`에 공개돼 있으며, AI-Q 구동에 필요한 컨테이너 이미지와 Helm 차트는 NGC(NVIDIA GPU Cloud) 레지스트리에서 직접 내려받는다. 모델, 도구, RAG 백엔드, 하위 에이전트, 평가 모듈은 YAML 설정 파일이나 NeMo Agent Toolkit 플러그인 시스템을 통해 교체할 수 있도록 설계됐다.
엔비디아는 이번 가이드가 시리즈 형태로 이어질 예정이라고 밝혔다. 2·3편에서는 모델 교체와 하위 에이전트 확장 방법을 다룰 계획이다. 엔터프라이즈 환경에서 멀티에이전트 AI를 빠르게 검증하고 싶은 개발자와 플랫폼 엔지니어를 위한 프로덕션 수준의 출발점을 제공한다는 것이 이번 공개의 목적이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
