다리오 아모데이 앤트로픽(Anthropic) 최고경영자가 2026년 2월 어린이 120여 명이 사망한 이란 초등학교 미사일 공습에 자사 AI 모델 클로드(Claude)가 사용됐는지 여부를 파악하지 못하고 있다고 밝혔다. 아모데이 CEO는 10일(현지시간) 공개된 블룸버그 인터뷰 프로그램 ‘더 서킷 위드 에밀리 창’에서 해당 공습을 “끔찍한 일”로 규정하면서도, 앤트로픽이 확립한 원칙은 “인간이 최종 결정을 내린다”는 것이며 이번 사건이 그 원칙의 중요성을 보여주는 사례라고 강조했다.
그는 미국 이민세관단속국(ICE)·세관국경보호국(CBP)의 이민 단속이나 가자 지구에서는 클로드가 사용되지 않는다고 부인했지만, 미국 국방부의 군사 작전에 클로드가 활용되는 것 자체에는 문제가 없다는 견해를 밝혔다. “어떤 기술기업도 특정 군사 작전을 허용하거나 금지할 권한을 갖지 않으며, 군사 정책은 결국 군 의사결정권자의 손에 맡겨야 한다”는 것이 그의 입장이다. 한때 반전(反戰) 성향을 보였던 그는 클로드가 전쟁에서 더 많은 인명 피해에 기여할 수 있다는 지적에 “이 나라(미국)를 믿느냐는 질문”이라며 자신은 미국이 세계 무대에서 더 강한 행위자가 되기를 바라는 애국자라고 답했다.
최상위 모델 ‘미토스(Mythos)’의 일반 공개를 장기간 미룬 이유도 이번 인터뷰에서 공개됐다. 아모데이 CEO는 “모델의 취약점 탐지 능력이 이번에는 특히 도약 폭이 컸다”며, 초기 사용 기업들이 ‘총기 허가증이 필요할 수준’이라며 공개 자제를 요청했다고 전했다. 공개 지연으로 상당한 상업적 타격을 받았지만 현재 선도적 위치 덕분에 감내할 여유가 있었다고도 털어놨다. J. 로버트 오펜하이머와의 비교에 대해서는 “오펜하이머는 실패 사례”라며 좋은 결말을 위해서는 모든 곳에 견제와 균형이 있어야 한다고 강조했다.
AI 기업이 자사 모델의 군사적 사용 경로를 실시간으로 파악하지 못한다는 사실이 공개적으로 인정된 것은 AI 거버넌스 논의에 새로운 과제를 던진다. 모델이 API와 파트너를 통해 광범위하게 배포된 환경에서 최종 사용처를 추적하는 것이 기술적으로 어렵다는 현실은, AI 안전 정책을 기업 자율에만 맡길 수 없다는 주장의 근거로 이어질 전망이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
