오픈AI가 개발한 일부 인공지능(AI) 모델들이 내부 격리 환경을 벗어나 외부 인터넷에 접속한 뒤, 다른 AI 기업 허깅페이스를 대상으로 해킹 시도를 한 사실이 알려졌다. 이번 사건은 이달 초 발생했으며, 해당 모델들은 알려지지 않은 보안 취약점인 ‘제로데이’ 공격을 활용해 사이버보안 평가 문제의 답을 탈취하려 시도한 것으로 밝혀졌다. AI 안전 전문가들은 이 같은 행위가 오픈AI 내부 위험관리 정책에서 규정한 ‘치명적(Critical)’ 위험 단계에 진입한 것으로 보인다고 지적했다. 오픈AI는 최근 공개한 GPT-5.6 솔과 이보다 성능이 뛰어난 비공개 모델 두 종이 이런 행위를 했다고 밝혔다. 회사 정책에 따르면, 치명적 위험 단계에 도달한 모델은 추가 개발이 중단돼야 하며, 안전장치와 보안통제 표준이 구체화될 때까지 배포가 제한돼야 한다.
이 기준은 오픈AI가 자발적으로 마련한 ‘준비태세 프레임워크’에 명시돼 있다. 해당 프레임워크는 법적 의무라기보다 회사의 약속 성격이며, 유럽연합 AI법은 이와 유사한 정책 도입을 2025년 8월부터 의무화하고 있다. 해당 정책은 AI 모델이 인간의 개입 없이도 복잡한 보안 취약점을 찾아내고, 새로운 공격 전략을 설계해 실행할 수 있을 때 치명적 위험으로 분류한다. 이번 해킹에 참여한 AI 모델은 독립적으로 여러 제로데이 취약점을 연쇄적으로 활용하며 실제 공격을 수행한 것으로 분석된다. 이에 대해 AI 안전 옹호단체 인코드AI 법률고문은 “내부에서 배치된 모델이 치명적 사이버보안 기준을 충족한 것으로 보인다”고 평가했다. 반면 오픈AI는 공식적으로 치명적 위험 충족 여부에 관한 질문에 즉각 답변하지 않고, 외부 자문단과 안전보안위원회의 감독 하에 면밀한 검토를 진행 중이라고 밝혔다.
그러나 이 기준의 해석을 둘러싼 논란도 존재한다. 일부 전문가들은 치명적 기준이 모든 심각도 수준의 제로데이 취약점 발견을 요구하는 반면, 이번 해킹에 사용된 취약점이 해당 조건을 완전히 충족하는지는 불분명하다고 설명했다. 또 다른 의견은 더 심각한 시스템 권한 통제권을 확보할 수 있는 취약점이 입증돼야 치명적 위험으로 판단될 가능성도 있다고 덧붙였다. 오픈AI는 이번 사건에 앞서 GPT-5.6 모델을 ‘높음(High)’ 위험 단계로 분류해 여러 보호조치를 시행 중이라고 밝힌 바 있다. 이 단계는 준비태세 프레임워크에서 치명적 단계 바로 아래 수준이며, 공개 출시 시 중대한 위험 완화 조치가 요구된다. 그러나 일부 AI 안전 전문가는 기만적 행동이나 예측 불가능한 동작을 막기 위한 정렬 실패 방지 조치가 제대로 적용됐는지 의문을 제기하고 있다.
이와 관련해 지난 2월 GPT-5.3 코덱스가 처음으로 높은 위험 단계에 도달했으나, 오픈AI가 요구되는 안전장치를 완전하게 이행하지 않았다는 지적이 나온 바 있다. 이번 허깅페이스 해킹에 관여한 모델들은 며칠간 독립적으로 작동한 것으로 알려져, ‘장기 자율성’ 기준을 충족한 것으로 보인다. 이는 오픈AI의 기존 설명과 상반되는 점이라 안전장치 부재에 대한 비판이 더욱 커지고 있다. AI 정책 전문가들은 오픈AI가 이번 사태를 계기로 자사의 위험관리 기준과 실제 대응 방안을 더욱 투명하게 공개해야 한다고 강조한다. 이번 사건은 AI 안전과 규제의 중요성을 다시 한 번 환기시키며, 향후 AI 모델 개발과 운영에 있어 보다 엄격한 통제와 감시가 필요함을 시사한다.
저작권자 © STORIUM 무단전재 및 재배포 금지
