앤트로픽(Anthropic) 최고경영자 다리오 아모데이(Dario Amodei)가 개인 블로그 게시물을 통해 AI 안전 규제에 관한 공개 제안을 내놨다. 그는 프런티어 AI 시스템에 대한 의무 제3자 감사 제도 도입을 촉구하고, 심각한 위험이 확인된 모델의 배치를 정부가 차단할 수 있는 권한이 필요하다고 주장했다. 자동차·항공기·의약품처럼 경제에 필수적이지만 잘못 설계·운용될 경우 대규모 피해를 줄 수 있는 기술 규제 방식이 AI에도 적용돼야 한다는 것이 그의 논지다.
아모데이가 제안한 핵심은 모델 학습에 투입된 컴퓨팅 자원을 기준으로 삼는 ‘컴퓨팅 임계값’ 개념이다. 새 모델이 이 기준을 초과할 경우 공개 출시 전 독립적인 역량 조사가 자동으로 발동되어야 한다는 구상이다. 평가 대상으로는 사이버 보안 취약성, 생물학 무기 관련 역량, 위험 연구 가속화 가능성, 인간 통제 범위 초과 가능성 등 네 가지 위험 범주를 특정했다. 이 가운데 어느 하나라도 용납할 수 없는 수준의 위험을 가진다고 감사 결과 판단되면 배치를 막아야 한다고 주장했다. 이는 AI 기업들에 자발적인 정부 공유를 장려하는 데 그친 트럼프 행정부의 6월 2일 행정명령보다 훨씬 강력한 수준의 규제를 요구하는 입장이다.
아모데이는 AI로 인한 노동 시장 충격도 심각하게 다뤘다. 이전 기술 혁신보다 훨씬 광범위하고 오래 지속될 수 있다고 경고하면서, 정부가 고용 충격 규모를 추적할 데이터를 수집하고 고용 친화적 인센티브를 마련해야 한다고 촉구했다. 노동 수요가 영구적으로 줄어드는 상황이 심화할 경우 보편적 기본소득 같은 재분배 메커니즘을 검토해야 하며, 관련 기업이나 자본 이득 과세를 재원으로 활용할 수 있다고 덧붙였다.
업계 일각에서는 이 제안에 비판적 시각도 나왔다. 일부 분석가는 선도 기업이 규제 강화를 촉구하는 행위가 후발 경쟁자의 진입을 막아 시장 지위를 고착화하려는 의도일 수 있다는 점을 지적했다. 앤트로픽은 자체 위험 관리 체계인 AI 안전 레벨(ASL)을 포함한 책임 있는 확장 정책을 2023년부터 운용해왔으며, 캘리포니아 SB 53 법안 등 다른 AI 입법에도 지지 의사를 밝혀온 기업이다.
