구글 딥마인드(Google DeepMind)가 슈미트 사이언스(Schmidt Sciences), 협력 AI 재단(Cooperative AI Foundation), 영국 정부의 연구 기관 ARIA, Google.org와 연합해 다중 에이전트 AI 안전 연구자를 위한 최대 1천만 달러 규모의 기술 연구 지원 공모를 발표했다. 수십 년간 AI 연구는 개별 모델의 역량과 안전성을 높이는 데 집중해 왔으나, 이제 서로 다른 조직이 개발한 수백만 개의 AI 에이전트가 디지털 환경에서 소통하고 협상하며 거래하는 새로운 단계가 가시권에 들어왔다. 구글 딥마인드는 이 전환이 현재 안전 평가 모델로는 예측·감지·관리할 수 없는 ‘보이지 않는’ 위험을 만들어낼 수 있다고 경고했다.
이번 연구 공모는 네 가지 우선 분야에 집중한다. 첫째는 가상 시장, 시뮬레이션 생태계, 다기관 워크플로를 포함한 현실적·재현 가능한 다중 에이전트 샌드박스와 테스트베드 구축이다. 둘째는 에이전트 집단의 집단 역량이 어떻게 창발하고 확산되며 위험한 집단 특성을 어떻게 탐지할 수 있는지를 연구하는 에이전트 네트워크 과학이다. 셋째는 플랫폼 간 안전한 상호작용을 위한 신원·평판·이행 프로토콜의 스트레스 테스트를 포함한 에이전트 인프라 강화다. 넷째는 배포된 에이전트 집단을 모니터링하고 집단적 피해를 완화하는 감독·통제 방법론 개발이다.
구글 딥마인드는 2025년 다중 에이전트 상호작용 이해를 위한 프레임워크를 정립한 데 이어, 최근에는 에이전트가 적대적 환경에서 직면하는 취약점을 다룬 ‘AI 에이전트 트랩(AI Agent Traps)’ 연구를 발표하기도 했다. 이번 공모는 그 후속 조치로, 다중 에이전트 안전 분야를 독자적인 연구 영역으로 키우기 위해 기업 외부의 학계와 독립 연구자들을 참여시키는 것이 목적이다. 지원 신청 마감은 2026년 8월 8일이며 수상자는 2026년 가을 발표 예정이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
