앤트로픽(Anthropic) 최고경영자(CEO) 다리오 아모데이(Dario Amodei)가 ‘AI 지수에 관한 정책(Policy on the AI Exponential)’이라는 제목의 에세이와 함께 프론티어 AI 규제 프레임워크, 고용 충격 대응 프레임워크 두 편의 정책 문서를 공개했다. 에세이는 AI 능력이 지수 함수적으로 성장하는 속도에 비해 규제 기관과 정치 시스템이 지나치게 느리게 대응하고 있다는 진단에서 출발하며, 앤트로픽은 이 대책을 뒷받침하기 위해 상당한 재원을 투입할 의향이 있다고 밝혔다.
규제 프레임워크의 핵심은 특정 규모 이상의 프론티어 AI 개발사에 대한 의무적 제3자 감사 도입이다. 구체적으로는 10^25 FLOP(플롭, 부동소수점 연산 횟수) 이상의 모델을 학습하거나 AI 매출이 5억 달러를 초과하거나 AI 연구에 연간 10억 달러 이상을 지출하는 개발사를 대상으로 한다. 이 기준을 충족하는 기업은 안전 프레임워크·시스템 카드 공개, 6개월마다 위험 보고서 제출, 중대 보안 사고 발생 시 15일 이내 기관 보고, 재정적 이해관계가 없는 독립 평가자 1명 이상 고용 의무를 지게 된다. 아모데이는 미국 연방항공청(FAA)이 항공기를 기술 검사하는 것처럼 정부 기관이 위험한 AI 모델의 출시를 차단할 수 있는 권한을 가져야 한다고 주장했다. 또한 평가자 쇼핑을 막기 위한 평가자 등급제·배정 시스템도 제안했다.
고용 대책 프레임워크는 실업률을 기준으로 단계적 대응 수위를 규정한다. 약 5%에 해당하는 1단계에서는 보편적 자본 계좌 신설, 임금 보험, 직업 면허 개혁, 재훈련 지원을 제안하고, 약 10%의 2단계에서는 실업급여와 기초 생계 지원을 확대한다. 역사적 최고치를 초과하는 3단계에서는 보편 기본 소득, AI 국부 펀드, 자본이득세 인상 등 재분배 수단을 동원하는 방안을 담았다. 앤트로픽은 AI 기업들이 막대한 수익을 거둘 경우 ‘공정한 몫’을 부담하겠다고 밝혔다.
아모데이는 에세이에서 AI를 핵무기에 비견되는 지정학적 변수로 규정했다. 민주주의 동맹국들이 공급망을 공유하면서 권위주의 국가에 대한 첨단 칩 수출을 제한하는 방향을 지지했으며, 자율 무기의 책임 기준 마련과 국내 사용 금지, 대규모 감시를 가능하게 하는 데이터 브로커 규제도 촉구했다. 앤트로픽은 이번 에세이 발표 직전 SEC에 IPO 예비 서류를 제출한 상태이며, 클로드 페이블 5(Claude Fable 5)를 최신 모델로 공개했다.
