오픈AI(OpenAI)가 이달 프랑스 에비앙(Évian)에서 열리는 G7 정상회의를 앞두고 청소년 AI 안전을 위한 국제기구 설립을 공식 제안했다. 오픈AI는 이번 G7이 청소년 AI 안전 문제를 위한 국제 공조를 끌어낼 드문 기회라고 평가하면서도, 단일 정상회의를 넘어 지속적인 연구 공유와 기준 수립이 가능한 전담 기구가 필요하다고 밝혔다. 신설 국제기구 방식이나 기존 국가 AI 기관에 글로벌 위임 방식 모두 가능하며, 형태보다 기능이 핵심이라는 입장이다.
오픈AI는 청소년 AI 안전 프레임워크의 토대가 될 원칙들을 제시했다. 첫째, 서비스 제공자는 사용자가 미성년자임을 파악하고 연령에 맞는 보호를 기본 적용해야 하며, 이를 위해 개인정보를 보호하는 방식의 연령 추정 기술을 활용해야 한다. 둘째, 기업은 피해 발생 이전에 청소년 대상 위험과 혜택을 정기적으로 평가하고 적절한 안전장치를 마련해야 한다. 셋째, 부모와 보호자가 기억·데이터 사용·이용 시간 등의 주요 설정을 손쉽게 조정할 수 있는 도구를 제공해야 한다. 넷째, 안전 정책 및 청소년 보호 조치에 관한 투명한 정보를 공개해야 한다. 다섯째, 자해·그루밍·성적 착취 등 고위험 상황에 대한 명확한 대응 프로토콜을 마련해야 한다. 여섯째, AI 시스템이 실제 인간관계나 전문가 지원을 대체하지 않고 학습과 성장을 보조하는 도구로 설계돼야 한다.
오픈AI는 제안의 근거로 에스토니아의 국가 단위 ChatGPT 학교 도입 사례를 들었다. 에스토니아에서는 오픈AI가 스탠퍼드대 및 에스토니아 연구진과 협력해 교육 환경에서의 영향을 연구하고 있다. 또 커먼 센스 미디어(Common Sense Media)의 청소년 AI 안전 기구와 미국교원연맹(AFT)과의 협력도 제안을 뒷받침하는 실례로 언급했다. 오픈AI는 이번 제안이 청소년을 위험으로부터 보호하는 동시에 학습, 창의성, 직업 준비 역량을 높이는 기회를 제공하는 양방향 접근이라고 강조했다. AI 기술 접근성이 20세기 중반 문해 교육의 확산과 유사한 교육 기회 확대 효과를 낼 수 있다는 점도 제기했다.
