마이크로소프트(Microsoft), 구글(Google), 일론 머스크의 xAI가 미국 국립표준기술원(NIST) 산하 인공지능 안전·보안 연구소(CAISI·Center for AI Safety and Security Innovation)와 AI 모델 출시 전 사전 검토 협약을 체결했다. 이 협약은 세 회사가 새 AI 모델을 공개 출시하기 전에 국가안보와 공공안전 관련 위험 평가를 CAISI와 함께 수행하도록 의무화하는 내용이다.
CAISI는 협약 체결 시점까지 이미 40건 이상의 사전 평가를 완료했다고 밝혔다. 이번 협약 체결의 배경 중 하나로는 앤트로픽(Anthropic)의 추론 모델 ‘미토스(Mythos)’가 사이버 공격에 악용될 수 있다는 우려가 거론됐다. 앤트로픽은 사전 보안 평가 결과를 바탕으로 미토스의 공개 방식을 조정한 것으로 알려졌다.
백악관도 AI 모델의 정식 사전 심사 제도 도입을 검토 중인 것으로 보도됐다. 현재의 자발적 협약 방식을 넘어, 특정 역량 이상의 AI 모델은 출시 전에 정부 기관의 안전성 심사를 의무적으로 통과하도록 하는 법적 구속력 있는 체계를 마련하려는 논의가 진행 중이다.
이번 협약은 AI 기업들이 자발적으로 정부 검토 체계에 참여함으로써 과도한 규제를 선제적으로 차단하려는 측면도 있다. 동시에 국가안보와 직결된 AI 역량에 대한 민관 공동 거버넌스가 구체화되는 첫 사례라는 점에서 의미가 있다. 오픈AI와 앤트로픽은 이번 협약에 포함되지 않았으나, CAISI와 별도로 협력 관계를 유지하고 있다.
한국에서도 AI 모델의 국가안보 영향 평가 필요성이 점점 논의되고 있다. 국가정보원과 과학기술정보통신부는 AI 시스템이 핵심 인프라와 국방에 통합되는 상황에서 사전 안전성 검토 기준 마련을 준비 중이다. 미국의 CAISI 모델이 국내 제도 설계의 참고 사례가 될 가능성이 있으며, 국내 AI 기업들도 유사한 자발적 협력 구조를 논의할 시점이 됐다.
