국회 국방위원회 소속 유용원 의원이 국방부에서 제출받아 공개한 자료에 따르면 국방부와 육군·공군이 운용하는 생성형 인공지능 서비스 일부가 ‘대한민국의 주적은 누구인가’라는 질문에 답변을 거부하거나 오류를 표시했다. 군사 교리와 교범을 찾도록 설계한 내부 서비스가 기본 안보 질문을 일관되게 처리하지 못한 사례다. 다만 공개 자료만으로 모델의 지식 부족, 안전 필터, 검색 결과, 일시적 장애 중 무엇이 직접 원인이었는지는 확정할 수 없다.
국방부는 2024년부터 자체 인력으로 국방 생성형 AI ‘GeDAI’를 개발해 운용하고 있다. 육군의 ‘Arvis’와 공군의 ‘AiRWARDS’도 국방망 내부 포털에서 장병이 이용한다. 각 서비스에는 훈령·규정과 교리·교범 등 군사 전문자료를 찾아 답변에 활용하는 검색증강생성 기술이 적용됐고, 사용자가 보유 자료를 올려 쓰는 기능도 포함됐다. 일반 공개 챗봇이 아니라 교육과 행정에 연결된 내부 체계인 만큼 답변의 근거와 실패 원인을 추적할 수 있어야 한다.
| 서비스 | 운용 주체·공개 정보 | 검증할 항목 |
|---|---|---|
| GeDAI | 국방부·2024년부터 자체 개발 | 공식 교리 검색·답변 거부 기준 |
| Arvis | 육군·국방망 내부 포털 | 근거 표시·오류 기록 |
| AiRWARDS | 공군·국방망 내부 포털 | 재현 시험·복구 절차 |
공개된 응답은 정치적 사안이라는 이유로 답변을 거부한 유형과 ‘ERROR’ 같은 시스템 오류를 낸 유형으로 나뉜다. 전자는 질문 분류 정책과 공식 자료의 우선순위가 맞는지, 후자는 검색·추론·서비스 구간 중 어느 단계에서 실패했는지 살펴야 한다. 같은 질문을 여러 차례 반복하고 검색된 문서와 모델 응답, 필터 판정을 함께 기록해야 원인을 가려낼 수 있다.
국방부는 현재 서비스가 완성형이 아니며 북한 정권과 북한군이 군사적 위협을 지속하는 우리의 ‘적’이라는 공식 입장에는 변함이 없다고 설명했다. 유 의원은 기본 안보관과 대적관이 서비스에 정확히 반영돼야 한다며 체계 전반의 점검을 요구했다. 공식 입장을 한 문장으로 넣는 데 그치지 않고 최신 교리의 반영 시점, 인용 근거, 거부 사유, 오류 복구 절차를 정기 시험하는 운영 기준이 필요하다.
이번 사례는 군 AI의 효용 전체를 부정할 근거도, 단순한 말실수로 넘길 사안도 아니다. 현재 공개되지 않은 서비스별 원인 분석과 재현 시험 결과가 다음 판단 기준이다. 실제 업무에 쓰는 체계라면 담당자가 특정 답변이 왜 나왔는지 감사 기록으로 확인하고 잘못된 검색 문서나 정책 설정을 빠르게 고칠 수 있어야 한다.
저작권자 © STORIUM 무단전재 및 재배포 금지
