앤트로픽(Anthropic)은 지난 5년간 AI가 대규모 재앙을 초래할 수 있다고 경고해왔다. 그러나 동시에 클로드(Claude) 등 최첨단 AI 모델을 개발하며 최전선에서 경쟁한다. 이 외관상 모순은 앤트로픽의 두 가지 핵심 믿음에서 비롯된다. 첫째, AI는 인류 역사상 가장 변혁적인 기술이고 그 도래는 불가피하다. 둘째, 앤트로픽이 AI 경쟁의 선두에 있어야 세계가 더 나아진다는 것이다. 내부 직원들에 따르면 임직원들은 스스로를 “선한 편”(good guys)이라 부르며 AI의 책임감 있는 청지기(steward)를 자임한다.
조지타운대 안보·신흥기술센터 전무이사 헬렌 토너는 이 전략을 숲 비유로 설명했다. “앤트로픽의 특징은 ‘어차피 다들 숲으로 들어갈 거니 우리가 먼저 가야 한다’는 논리”라며 “그들은 첨단 AI를 구축해 테이블에서 발언권을 갖고 합리적 안전장치를 요구하는 것이 명시적 전략”이라고 밝혔다. 다리오 아모데이 최고경영자(CEO)도 자사 경력 페이지에서 “실제로 경쟁하고, 안전하게 해야 한다. 그게 가능하면 우리의 중력 인력은 막대하다”고 말했다. 앤트로픽은 2021년 OpenAI의 샘 알트먼 리더십에 실망한 전 직원들이 설립했으며, 현재 기업가치는 약 1조달러에 달한다.
그러나 비판도 만만치 않다. UCLA 포스트닥토럴 연구자 샤제다 아메드는 앤트로픽이 AI 안전 운동의 동질적 사고 집단에 속해 자체 맹점을 검토하지 않는다고 지적했다. 앤트로픽은 2024년 팔란티어(Palantir)와 제휴해 미국 군·정보기관에 AI를 공급하기로 했을 때 내부 논쟁을 촉발했으며, 최근에는 미 국방부가 클로드를 이스라엘-이란 전쟁의 타격 목표 식별에 사용했다는 보도가 나왔다. 아모데이는 인간이 최종 결정을 내렸다면 승인된 사용이라고 밝혔다. 한편 앤트로픽은 클로드 Fable 5에 연구자의 모델 개발 시도를 암묵적으로 방해하는 안전장치를 넣었다가 비판을 받고 며칠 만에 철회했다. 아모데이는 AI 회사들이 너무 많은 권력을 집중시키는 것의 위험을 인정하면서도 해법으로 제안한 것은 자발적 공약 수준에 그쳤다.
앤트로픽의 전략은 AI 시대의 역설을 압축한다. 위험을 가장 솔직하게 경고해온 기업이, 그 위험한 기술을 가장 빠르게 고도화하는 주체이기도 하다. 전 직원들은 회사가 사명을 진지하게 믿는다고 말하지만, 그 사명을 달성하기 위한 수단으로 상업적 성공과 군사 계약을 동시에 추구하는 구조가 과연 올바른 방향인지에 대한 외부의 질문은 점차 커지고 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
