최근 베이징의 첨단기술 단지 중관춘에서 열린 대규모 인공지능(AI) 컨퍼런스를 취재한 와이어드 기자는 미국과 중국의 AI 경쟁이 격화되는 와중에도 양국 전문가들이 공통된 불안을 느끼고 있다는 점을 핵심 인상으로 꼽았다. 베이징 인공지능 연구원(BAAI)이 주최한 이 행사에는 공개키 암호 공동 개발자 휘트필드 디피, 강화학습 연구로 리치 서튼과 함께 튜링상을 받은 앤드루 바토 등 컴퓨팅 분야의 거물들이 참석했다. 재귀적 자기 개선부터 휴머노이드 로봇까지 다양한 주제가 다뤄졌지만, 기자가 얻은 가장 큰 결론은 미국과 중국이 치열한 AI 경쟁을 잠시 접어둬야 한다는 것이었다.
이런 공감대의 배경에는 더 강력해지고 자율적으로 행동하는 에이전트형 모델이 통제 불능 상태로 혼란을 일으킬 수 있다는 우려가 있다. 화상으로 발표에 참여한 MIT 컴퓨터과학자 스티븐 캐스퍼는 “AI는 전 세계적 편익과 위해를 동시에 지닌 기술이며, 새로운 역량은 결국 확산되는 경향이 있다”고 지적했다. 그는 AI 위험에 대한 국제 협력의 이점이 협력에서 비롯되는 안보 위험보다 크다는 연구를 인용하며, 핵 위협을 두고 서로 군비 경쟁을 벌이면서도 협력할 수밖에 없었던 미국과 소련에 현 상황을 비유했다. 캐스퍼는 “지금 AI 분야에서 거의 모두가 동의하는 한 가지는 AI에 체르노빌 같은 사고가 필요하지 않다는 것”이라고 말했다.
지금까지 미국은 중국의 AI 발전을 경제·안보 위협으로 간주해 칩과 칩 제조 장비에 강도 높은 규제를 가해 왔다. 최근에는 미 정부가 앤트로픽에 최상위 모델인 Mythos와 Fable 5에 대한 외국 국적자 접근을 차단하라고 명령했고, 앤트로픽은 이에 모든 사용자의 접근을 철회했다. 와이어드는 특별히 우려 대상이 된 곳으로 중국과의 연계 의혹이 제기된 한 한국 통신 대기업을 지목한 바 있다. 한편 상하이교통대 린윈 교수는 단기적으로는 해커가 우위를 점하겠지만 AI를 활용한 새로운 방어 기법이 시간이 지나면 균형을 되돌릴 것이라고 전망했다. 그는 “여러 나라가 위험을 비슷하게 이해하면 공동의 안전 원칙과 기술 표준을 만들기 쉬워진다”며 경쟁이 협력을 복잡하게 만들더라도 협력을 우선순위로 둬야 한다고 강조했다.
가장 첨예한 쟁점은 개방성과 위험 사이의 균형이다. 오픈웨이트(공개 가중치) 모델은 연구와 혁신에 핵심이 됐고, 문샷의 키미(Kimi), 알리바바의 큐원(Qwen), Z.ai의 GLM 등 중국산 모델이 미국에서도 인기를 끌고 있다. 미국도 엔비디아의 네모트론(Nemotron) 같은 모델로 오픈웨이트 경쟁에 다시 뛰어들었다. 그러나 가드레일이 제거될 경우 비교적 성능이 낮은 공개 모델조차 위험해질 수 있는 변곡점이 다가오고 있다. 전문가 분석에 따르면 Z.ai의 GLM 5.2는 프런티어급 에이전트·코딩 역량을 갖췄고, 중국의 보안 기업 360 시큐리티 테크놀로지스는 Mythos에 필적하는 해킹 역량의 AI 모델을 개발했다고 밝혔다. 보안 우려 탓에 일부 첨단 모델을 더 이상 오픈소스로 공개하지 않는 움직임도 나타나고 있다.
