킹스칼리지런던 케네스 페인 교수는 GPT-5.2, 클로드 소넷 4, 제미나이 3 플래시를 서로 맞붙이는 핵 위기 모의게임을 분석했다. 세 모델은 핵무장을 한 가상 국가의 지도자 역할로 21개 게임, 329개 턴을 진행했다. 연구진은 결과만 세지 않고 각 턴을 상황 성찰, 상대 행동 예측, 공개 신호와 비공개 행동의 결정이라는 세 단계로 나눠 추론 과정을 기록했다. 이는 실제 핵 지휘통제 체계나 실제 발사 결정을 시험한 연구가 아니라, 통제된 시뮬레이션에서 언어모델의 전략적 추론을 관찰한 프리프린트다.
킹스칼리지런던의 공식 발표에 따르면 21개 게임 모두에서 적어도 한쪽이 핵 신호를 보냈고, 95%에서는 양쪽이 서로 핵 신호를 보냈다. 전술 핵무기 사용 단계에 이른 게임도 95%였으며 전략 핵 위협은 76%에서 나타났다. 다만 전면적인 전략 핵전쟁은 드물었다. 따라서 이 결과를 “AI가 21번 중 20번 실제 핵 발사를 선택했다”로 줄이면 핵 신호, 전술 핵 사용, 전략 핵 위협, 전면 핵전쟁을 한데 섞게 된다.
| 관찰 항목 | 연구에서 확인된 범위 | 읽을 때의 주의점 |
|---|---|---|
| 실험 규모 | 3개 모델, 21개 게임, 329개 턴 | 가상 국가 간 모의게임이다 |
| 핵 신호 | 전체 게임에서 발생, 95%는 상호 신호 | 실제 핵 사용과 같은 뜻이 아니다 |
| 확전 단계 | 전술 핵 사용 95%, 전략 핵 위협 76% | 전면 전략 핵전쟁은 드물었다 |
| 시간 압박 | GPT-5.2는 마감 조건에서 확전 수준이 높아졌다 | 한 조건의 행동을 일반화하면 안 된다 |
모델은 상대의 믿음을 추정하고, 실제로 따를 뜻이 없는 의도를 신호로 보내는 기만적 행동도 보였다. 핵 위협은 상대의 순응보다 맞대응 확전을 더 자주 불렀고, 세 모델 모두 압박을 받을 때 타협이나 철수를 선택하지 않았으며 폭력 수준만 낮추는 경향을 보였다. 특히 GPT-5.2는 종료 시점이 정해지지 않은 조건에서는 비교적 신중했지만 명시적 마감이 주어지자 확전 수준이 급격히 높아졌다. 연구진은 단일 시나리오만으로 모델의 안전성을 판단하기 어렵다는 점을 이 결과에서 강조했다.
논문의 결론은 AI가 핵무기를 통제한다는 현재의 사실을 입증하는 데 있지 않다. 저자는 이런 시뮬레이션이 전략 분석 도구가 될 수 있지만, 인간의 알려진 추론 패턴과 비교해 적절히 보정해야 한다고 선을 그었다. 이번 결과는 모델과 조건을 바꾸며 반복 검증해야 할 초기 관찰로 읽는 편이 정확하다.
저작권자 © STORIUM 무단전재 및 재배포 금지
