엔비디아와 37개 창립 파트너가 AI 안전과 보안을 위한 개방형 도구를 공동 개발하는 ‘Open Secure AI Alliance’를 출범시켰다. 27일 공개된 공식 명단에는 마이크로소프트, IBM, 허깅페이스, 클라우드플레어, SAP와 함께 네이버, SK텔레콤, Nous Research 등이 포함됐다.
연합은 모델 가중치 공개 여부만으로 AI 보안을 판단하지 않고 에이전트 전체 실행 구조를 다룬다. 신원과 권한, 격리, 가드레일, 로그, 평가, 안전한 모델 형식과 다중 모델 스캐닝을 함께 점검할 수 있는 개방형 방어 스택을 만들겠다는 구상이다.
엔비디아는 오픈 모델과 가중치, 데이터, 에이전트 하네스 연구를 기여한다. 첫 공개 프로젝트 가운데 하나인 NVIDIA Labs Object-Oriented Agent(NOOA)는 객체지향 방식으로 에이전트의 계획과 도구 사용을 구성·추적하는 엔비디아 프로젝트다. 연합이 공동 개발한 완성 제품은 아니다.
37개 창립 파트너가 참여했다는 사실이 곧 공동 표준이나 보안 제품의 완성을 의미하지는 않는다. 공식 독립 사이트는 아직 준비 단계이며, 이사회·의결권·가입 기준·예산·공동 로드맵과 사고 공개 절차는 발표문에 제시되지 않았다.
엔비디아는 개방형 모델도 오용될 수 있다는 위험을 인정하면서, 폐쇄만으로 공격을 막을 수 없고 방어자가 검사·수정할 도구가 필요하다고 주장했다. 이는 출범 단계의 방향 선언이며 독립적으로 검증된 안전성 결론은 아니다. 창립 명단과 기여 계획은 NVIDIA 공식 발표에서 확인할 수 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
