마이크로소프트(Microsoft)가 Build 2026에서 Azure API 관리(APIM) 서비스에 AI 게이트웨이 기능을 대폭 확장한다고 발표했다. 주요 신기능으로는 단일 API 형식으로 여러 AI 백엔드 공급자에 접근하는 통합 모델 API, 앤트로픽(Anthropic)과 구글 버텍스 AI(Google Vertex AI) 모델 지원 확대, 그리고 MCP(모델 컨텍스트 프로토콜) 툴 호출과 에이전트 간 통신까지 포괄하는 콘텐츠 안전 정책이 포함됐다.
현재 공개 미리 보기 중인 통합 모델 API는 OpenAI·앤트로픽·구글 등 여러 공급자의 모델을 혼합해 쓰는 기업 팀의 운영 부담을 줄이기 위해 설계됐다. 클라이언트는 OpenAI 채팅 완성 형식 하나로 표준화하면, APIM이 각 백엔드 공급자의 네이티브 형식으로 투명하게 변환한다. 클라이언트 코드를 수정하지 않고도 백엔드 공급자를 교체하거나 새 모델을 추가할 수 있다. 콘텐츠 안전 기능은 MCP 툴 호출 인수와 응답 텍스트, 에이전트 간 페이로드까지 검사 범위를 넓혔으며, 혐오·폭력 등 카테고리별 심각도 필터링과 프롬프트 인젝션 공격 차단 기능을 각각 제공한다. 스트리밍 응답 모드에서는 위반 감지 시 명시적 오류 코드 없이 이벤트 전송이 중단되는 점을 에이전트가 처리해야 한다.
토큰 지표도 다중 공급자 현실에 맞게 확장됐다. APIM은 이제 추론 토큰·캐시 토큰·오디오 토큰을 Application Insights에 기록한다. Azure API 센터 데이터 플레인 MCP 서버는 정식 출시(GA)됐으며, 등록된 MCP 서버·도구·API·에이전트를 단일 MCP 연결로 검색할 수 있는 통합 엔터프라이즈 검색 엔드포인트 역할을 한다. APIM은 기존 REST API도 에이전트가 호출할 수 있는 MCP 서버로 노출하는 기능을 추가해, 에이전트 시대 이전에 구축된 엔터프라이즈 API를 재설계 없이 에이전트에서 활용할 수 있도록 했다.
저작권자 © STORIUM 무단전재 및 재배포 금지
