AI 모델의 예측 결과를 설명할 때 샤플리(Shapley) 값 기반 특성 기여도 방법이 널리 쓰이지만, 복잡한 특성 상호작용과 인과 관계가 존재하는 상황에서는 인과 구조가 제공되더라도 한계가 드러난다. 기존 방법들은 대체로 노드 중심적 관점, 즉 개별 특성에만 중요도를 귀속하는 방식을 취해, 특성의 외부 효과(externality)와 외생적 영향(exogenous influence)을 동시에 포착하지 못한다.
이번 논문은 방향 비순환 그래프(DAG, Directed Acyclic Graph)에서 엣지 개입을 기반으로 하는 새로운 특성 기여도 방법 DAG-SHAP을 제안한다. DAG-SHAP은 개별 특성 노드가 아닌 각 특성 엣지를 귀속 단위로 삼아, 특성의 외부 효과와 외생적 기여 모두를 적절히 포착한다. 연구진은 DAG-SHAP을 효율적으로 계산하기 위한 근사 방법도 함께 제시했으며, 실제 및 합성 데이터셋에 대한 실험에서 이 방법의 유효성을 검증했다고 밝혔다. 코드는 공개됐다.
설명 가능한 AI(XAI)는 모델 신뢰성과 규제 준수 측면에서 기업과 연구자 모두의 관심 대상이다. 특히 의료 진단, 금융 위험 평가, 제조 공정 이상 탐지처럼 특성 간 인과 관계가 중요한 도메인에서는 단순한 상관관계 기반 기여도가 아닌 인과 구조를 반영한 설명이 필요하다. DAG-SHAP은 기존 샤플리 기반 도구가 처리하지 못했던 인과 구조 내 엣지 수준 기여도를 체계적으로 분리한다는 점에서 XAI 연구의 실용적 확장으로 평가된다.
국내에서도 금융·의료 AI 모델의 의사결정 근거 설명 요구가 규제와 실무 양면에서 강화되고 있다. 인과 그래프 구조를 활용한 설명 방법론의 발전은 AI 모델 감사 및 규제 대응 도구로 활용 가능성이 있어, 관련 연구자와 실무자들의 주목이 기대된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
