AI가 내놓은 ‘병변’, ‘혈관’, ‘시신경유두’ 같은 개념 설명이 실제 입력 변화에 맞게 반응하는지 점검하는 감사 프레임워크 ‘ConceptSMILE’이 제안됐다. 사람이 이해할 수 있는 개념을 출력한다는 사실만으로 그 설명이 모델 판단을 충실하게 반영한다고 볼 수 없다는 문제를 다룬다. 특정 설명 모델을 대체하기보다, 기존 개념 설명 위에 독립적인 시험 계층을 둔다.
방법은 망막 영상의 일부 영역을 체계적으로 가린 뒤 개념 응답이 얼마나 변하는지 측정한다. 원본과 교란 표본의 거리에 따라 가까운 표본에 더 큰 가중치를 주고, XGBoost 대리모델로 해당 입력 주변의 개념 행동을 근사한다. 평가는 위치 귀속 정확도, 대리모델 충실도, 원 모델에 대한 충실성, 안정성, 일관성의 다섯 차원으로 구성됐다.
실험은 HRF, APTOS 2019, ODIR5K, IDRiD 네 데이터셋에서 각 10장씩 고른 망막 안저 이미지 40장으로 진행했다. 이미지당 SLIC 초화소 일곱 개를 만들고 고유한 이진 마스킹 50개를 적용해 총 2,000개 교란 표본을 생성했다. MedSAM에서 얻은 시각 개념과 비전언어모델의 의미 개념을 같은 절차로 비교했다. 진단 분류 성능을 측정하는 실험은 아니었다.
MedSAM 경로는 공간적 귀속에서 더 강했고 대리모델 충실도도 가장 높았다. 보고된 결정계수는 R² 0.8503, 가중 R² 0.8465였다. 비전언어모델 경로는 혈관 개념의 충실성과 일부 촬영 인공물 조건에서 안정성이 더 높았다. 즉 어느 한 설명 방식이 모든 개념과 지표에서 일관되게 우월한 것이 아니라, 개념과 추출 경로에 따라 신뢰도 양상이 달랐다.
| 평가 항목 | 설정 또는 결과 | 범위 |
|---|---|---|
| 원본 이미지 | 40장 | 4개 데이터셋×각 10장 |
| 교란 표본 | 2,000개 | 이미지당 고유 마스크 50개 |
| 초화소 | 7개 | SLIC 고정 설정 |
| MedSAM 대리모델 | R² 0.8503 / 가중 R² 0.8465 | 연구진 보고 최고 충실도 |
표본 40장은 네 공개 데이터셋을 포괄하지만 임상적 일반화를 주장하기에는 작다. 초화소 수를 일곱 개로 고정하고 검은색 마스크를 씌운 교란은 실제 촬영 변화와 다를 수 있다. XGBoost 대리모델이 높은 R²를 보인 것도 원래 의료 AI의 진단이 옳다는 뜻은 아니다. 선택한 세 개 망막 개념과 특정 MedSAM·비전언어모델 조합 밖에서 같은 감사 결과가 나오는지도 확인되지 않았다.
이 연구는 2026년 7월 공개된 arXiv 프리프린트다. 설명의 가독성과 신뢰성을 분리해 수치로 점검했다는 데 의미가 있지만, 독립 임상 검증이나 환자 결과 평가는 없다. 의료 현장에 적용하려면 더 큰 표본, 다양한 촬영기기와 질환, 실제 인공물, 여러 설명 모델에서 감사 지표가 재현되는지 시험해야 한다.
저작권자 © STORIUM 무단전재 및 재배포 금지
