시스코(Cisco) 사장 겸 최고제품책임자(CPO) 지투 파텔이 미국 라스베이거스에서 열린 연례 콘퍼런스 ‘시스코 라이브 2026’에서 AI 에이전트 기업 도입의 가장 중요한 변수로 성능이 아닌 신뢰를 꼽았다. AI 성능 경쟁이 어느 정도 평준화 단계에 접어든 만큼, 앞으로는 기업이 AI를 얼마나 믿고 업무를 맡길 수 있는지가 도입 속도를 좌우한다는 논리다. 파텔 CPO는 “지금은 AI를 믿지 못해 사용을 꺼리는 사람이 많지만, 앞으로는 오히려 AI를 쓰지 않는 것이 더 위험해질 수 있다”고 밝혔다. 시스코는 이번 행사에서 사람과 AI 에이전트가 함께 기업 네트워크와 보안을 운영하는 통합 플랫폼 ‘클라우드 컨트롤(Cloud Control)’을 공개했다.
파텔 CPO는 AI에 업무를 위임하기 위한 세 가지 조건을 제시했다. 사람이 직접 처리하는 것보다 쉬워야 하고, 예상치 못한 오류를 일으키지 않아야 하며, 문제 발생 시 스스로 멈출 수 있어야 한다는 것이다. 시스코의 접근법은 초기에 사람이 AI의 행동을 승인하는 ‘휴먼 인 더 루프(human-in-the-loop)’ 방식을 기본으로, 반복 수행 이력이 쌓이면 점차 자동화 범위를 넓히는 방식이다. 뉴스 정리나 회의 준비처럼 간단한 업무부터 위임을 시작해 권한을 확대하는 단계적 신뢰 구축 모델이다. 그는 AI가 명령을 받았더라도 명백히 위험한 행동은 스스로 거부할 수 있는 안전장치도 필요하다고 강조했다.
파텔 CPO는 AI 에이전트가 기업 조직 구조 자체를 변화시키고 있다는 점도 언급했다. 과거 개발자 8명이 운영하던 소프트웨어 팀이 개발자 2~3명과 여러 AI 에이전트로 재편되는 방향으로 바뀌고 있으며, 사람은 코드 직접 작성보다 AI 에이전트를 관리하고 검증하는 역할을 맡게 된다는 설명이다. 한국의 망분리 규제와 관련해서는, 온프레미스 시스템에서 필요한 데이터만 클라우드로 전송하는 방식으로 대응할 수 있으며 넥서스 같은 온프레미스 네트워킹 제품은 클라우드 커넥터로 연동해 계속 지원할 것이라고 밝혔다. 다만 클라우드 컨트롤 자체의 온프레미스 버전 출시 계획은 현재 없다고 선을 그었다.
