마이크로소프트가 AI 에이전트의 허용 행동 범위를 정의하는 오픈소스 표준 ACS(Agent Control Specification, 에이전트 제어 사양)를 공개했다. 에이전트가 다양한 환경과 프레임워크에 걸쳐 배포될 때 일관된 거버넌스를 유지하기 어려운 문제를 해결하기 위해 설계됐다.
ACS는 개발자·컴플라이언스·보안 팀이 에이전트가 해야 할 일, 해서는 안 될 일, 인간 승인이 필요한 행동, 감사를 위해 기록해야 할 증거를 하나의 정책 파일로 정의할 수 있게 한다. 에이전트가 작업을 수행하는 동안 여러 지점에서 정책이 점검된다. 입력 수신 전, 도구 호출 전, 도구 결과 반환 후, 최종 응답 전송 전의 4단계가 기본 점검 시점이며, 각 지점에서 행동 허용·차단·민감 정보 삭제·인간 승인 요청 중 하나가 적용된다. 정책 파일 단위로 에이전트에 동봉해 다양한 프레임워크와 환경에서 동일하게 적용할 수 있다는 점이 특징이다.
ACS는 SDK 형태로 배포되며 LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, MCP 도구 등 주요 에이전트 프레임워크와의 플러그인을 지원한다. 개발자는 입력·출력을 분류하는 분류기를 추가하거나, 프롬프트를 적용한 LLM을 정책 판정자(judge)로 활용하고, 도구 호출과 도구 선택, 입력 정확성, 출력 사용 방식, 응답을 점검하는 로직을 끼워 넣을 수도 있다.
에이전트가 툴 오용이나 의도치 않은 연쇄 실패를 일으키는 사례가 늘면서 에이전트 거버넌스에 대한 수요가 높아지고 있다. 현재 개발자들은 시스템 프롬프트, 애플리케이션 코드 내 맞춤 검사, 분류기 등을 조합해 에이전트를 제어하지만, 이 방식은 감사하기 어렵고 프레임워크 간 재사용성이 낮다는 문제가 있다. ACS는 이러한 제어 방식을 공통 거버넌스 계층으로 표준화하려는 시도다.
저작권자 © STORIUM 무단전재 및 재배포 금지
