Rashomon Explanation은 단일한 정답 설명 대신 충실도가 충분하고, 입력에 포함했을 때 근사 최적 예측 모델을 이끄는 설명들의 집합을 찾는다. Pan Li가 arXiv:2607.09502에서 제안한 RashomonLLM은 Explanation–Prediction–Reflection 에이전트가 자연어 설명과 예측을 번갈아 수정하는 구현이다.
문제 설정은 설명을 예측 뒤에 붙이는 사후 절차가 정확도와 설명가능성의 상충을 만든다는 비판에서 출발한다. 정리 1은 작은 분포 이동이 설명 모델의 오류를 드러낼 수 있음을, 정리 2는 충실도가 높을수록 설명 유도 모델의 초과위험이 줄어듦을 다룬다. 정리 3의 비공집합 보장은 설명 유도 함수 클래스와 역방향 충실도 결합, 충분한 Rashomon ratio와 유효 반경 등 명시된 가정 아래 확률 1−2ε로 성립한다.
실험 범위는 고객 이탈 분류, 임상 생존 회귀, Kuaishou 라이브 스트리밍 로그의 클릭률 예측이다. 별도의 합성 신용점수 예시는 10,000개 표본으로 설명 불안정성을 살폈다.
GPT-4o 기반 합성 예측에서 설명이 없을 때 RMSE/MAE는 5.97/4.49였다. 설명 잡음이 10%면 3.36/1.78, 5%면 1.84/1.13, 1%면 0.98/0.71, 정답 설명이면 0.81/0.63으로 낮아졌다. 논문은 이를 설명 충실도와 예측 성능이 함께 개선된 사례로 해석한다.
| 설명 프롬프트 | RMSE | MAE |
|---|---|---|
| 설명 없음 | 5.97 | 4.49 |
| 설명 + 10% 노이즈 | 3.36 | 1.78 |
| 설명 + 5% 노이즈 | 1.84 | 1.13 |
| 설명 + 1% 노이즈 | 0.98 | 0.71 |
| 정답 설명 | 0.81 | 0.63 |
자료: STORIUM 정리
이 개선은 합성 예시와 선택된 표 데이터·로그 실험에서 얻었으며, 모든 XAI 문제의 상충을 해소했다는 증거는 아니다. 정의된 유용성은 집단 수준의 예측 성질로 인간이 실제로 이해하는지와 분리돼 있고, 그 검증은 후속 과제로 남았다. 이론 보장도 가정 의존적이며 원고는 동료심사 전 프리프린트다.
저작권자 © STORIUM 무단전재 및 재배포 금지
