KAIST가 7월 28일 마이크로소프트 AI 레드팀이 운영하는 글로벌 안전성 연구 프로그램 EXTRA의 연구지원 대상으로 선정됐다고 밝혔다. 국내 연구기관 가운데 참여 기관은 KAIST가 유일하며, 전산학부 손수엘 교수 연구팀이 AI 시스템의 보안과 신뢰성을 검증하는 연구를 맡는다. EXTRA는 외부 레드팀 연합을 뜻하며, 기업 내부 평가만으로 놓치기 쉬운 위험을 대학과 연구기관의 독립적인 시각으로 점검하려는 프로그램이다.
마이크로소프트는 사이버보안과 다국어 환경, 지역·문화적 맥락, AI 정렬, 악용 가능성을 한 조직이 모두 평가하기 어렵다고 보고 올해 EXTRA를 출범시켰다. 이 프로그램에는 전 세계 6개 대륙의 10여 개가 넘는 대학이 참여한다. KAIST는 미화 2만5천 달러, 한화 약 3,700만 원의 연구지원금을 받으며 과제 기간을 별도로 정하지 않는 기프트 어워드 방식으로 연구를 수행한다.
| 항목 | 확인된 내용 |
|---|---|
| 운영 주체 | 마이크로소프트 AI 레드팀 |
| 참여 범위 | 6개 대륙, 10여 개가 넘는 대학 |
| KAIST 지원 규모 | 미화 2만5천 달러, 한화 약 3,700만 원 |
| 지원 방식 | 기간을 별도로 정하지 않은 기프트 어워드 |
| 연구 대상 | AI 안전성·보안·정렬, 실제 서비스 환경의 에이전트 방어 |
손 교수 연구팀은 대규모 언어 모델 기반 시스템에서 모델 탈취, 멤버십 추론, 개인정보 추출, 모델 전도, 탈학습, 프롬프트 주입 같은 적대적 공격을 분석해 왔다. 이번 지원금은 AI 안전성·보안·정렬과 책임 있는 AI 개발 연구에 쓰일 예정이다. 연구 범위는 모델 자체의 취약점 점검에 머물지 않고 웹 에이전트와 에이전틱 브라우저처럼 실제 서비스 환경에서 움직이는 AI 에이전트의 시스템 수준 방어 기술까지 포함한다.
이 협력의 실사용 가치는 서비스 출시 전후에 발생할 수 있는 보안 위협을 외부 연구진이 별도 관점에서 찾아내는 데 있다. 특정 언어와 문화권에서 나타나는 위험, 개인정보가 학습 데이터에 포함됐는지 추론하는 공격, 지시문을 오염시키는 프롬프트 주입 등은 현장 배포 과정에서 함께 살펴야 할 과제다. 다만 이번 발표는 연구지원 선정과 연구 방향을 확정한 단계이며, 구체적인 방어 제품이나 상용 서비스의 출시 일정은 제시되지 않았다. 손 교수는 실제 AI 서비스에서 발생할 수 있는 위협을 체계적으로 분석해 안심하고 활용할 수 있는 기술 개발에 기여하겠다고 밝혔다.
저작권자 © STORIUM 무단전재 및 재배포 금지
