차세대 네트워크 운영에 AI·ML 모델이 폭넓게 적용되면서, 모델 결정 과정의 불투명성이 현장 운영자의 신뢰를 가로막는 장벽으로 떠오르고 있다. 연구팀은 이 문제를 해결하기 위해 LLM(대규모 언어 모델)과 설명가능 AI(XAI) 기술을 결합한 생성형 설명 프레임워크를 제안하고, 광학 전송 품질(QoT) 추정 사례에서 유용성 12.2%, 범위 6.2% 향상, 정확도 97.5%를 달성했다고 발표했다.
기존 XAI 기법은 SHAP(샤플리 가법 설명) 값과 같은 기술적 출력을 제공하지만, 비전문가가 이를 실행 가능한 통찰로 전환하기가 어렵다는 한계가 있었다. 연구팀의 프레임워크는 중간 규모 LLM을 활용하고, 단순 SHAP 영향력 값에 그치지 않고 상호 특징 상호작용 데이터까지 포함한 구조화된 프롬프트를 통해 인간이 이해할 수 있는 자연어 설명을 생성한다. SHAP 값만을 프롬프트에 단순 사용하는 기존 최신 기준선과 비교해 설명의 유용성과 범위가 각각 12.2%, 6.2% 개선됐다.
검증은 광학 QoT 추정 사례에서 전문가 평가자들을 통한 인간 평가로 진행됐으며, 평가자 간 높은 일치도가 관찰됐다. 이 결과는 LLM이 단순 텍스트 생성 도구를 넘어 복잡한 AI 모델의 의사결정 과정을 전문가와 비전문가 모두에게 효과적으로 전달하는 매개체로 기능할 수 있음을 보여준다. 특히 상호 특징 상호작용 정보를 프롬프트에 포함하는 것이 설명 품질 향상에 핵심 요소임이 확인됐다.
네트워크 인프라의 AI 의존도가 높아지는 추세에서 운영자 신뢰 확보는 실용화의 핵심 과제다. 이번 연구는 생성형 AI와 전통적 XAI 기술을 결합해 전문 지식 없이도 AI 결정을 이해할 수 있는 경로를 제시했다는 점에서, 네트워크 운영 자동화 및 인간-AI 협업 분야 발전에 기여할 것으로 평가된다.
