의료 벤치마크에서 높은 점수를 받는 대규모 언어모델이 실제로는 비슷하지만 다른 임상 상황을 구별하지 못할 수 있다는 문제를 다룬 논문이 나왔다. 이 arXiv 프리프린트는 모성·소아 진단을 대상으로 한 반사실 벤치마크 MamaBench와 검색 보강 방식 EA-RAG를 함께 제시하며, 동일한 질문에 대한 정답률만으로는 임상적 견고성을 읽기 어렵다고 본다.
MamaBench는 전문가가 작성한 임상 서술 434개를 217쌍으로 묶고, 371개 병리를 포괄하도록 설계됐다. 각 쌍은 기본 사례와 반사실 사례로 이뤄지며, 평가는 Bias Trap Rate(BTR)로 이뤄진다. 이는 모델이 기본 사례를 맞힌 뒤 반사실 사례에서 실패할 조건부 확률이다. 논문은 이 지표가 진단 고착, 즉 비슷한 입력에서 구분에 필요한 임상 변수만 달라졌을 때도 같은 판단을 반복하는 현상을 드러낸다고 설명한다.
검증 결과는 일관됐다. 네 개의 선도적 LLM을 8개 구성으로 평가했을 때, 모든 모델에서 기본 정확도는 견고한 정확도보다 16~28%포인트 높게 나타났다. 단일 질문 기준의 성능이 실제 반사실 구분 능력을 과대평가했다는 뜻이다. 예를 들어 GPT-4o는 기본 정확도 77.4%였지만 견고한 정확도는 46.5%, BTR은 39.9%였다. 가장 좋은 단독 모델인 Claude Sonnet 4.6도 기본 정확도 82.0%, 견고한 정확도 60.8%, BTR 25.8%로, 기본 사례를 맞힌 뒤에도 4분의 1 넘는 반사실 쌍에서 흔들렸다.
연구진이 제안한 EA-RAG는 임상 서술에서 인구통계, 증상, 중증도, 위험인자, 금기사항 같은 파라미터를 추출한 뒤, 커버리지 감사를 거쳐 빈칸을 메우는 대조적 하위 질의를 추가하는 3단계 검색 방식이다. GPT-4o를 쓴 비교 실험에서 기본 k5 설정의 BTR은 39.4%, 견고한 정확도는 43.3%였고, 여기에 커버리지·스캐폴드까지 포함한 완전한 EA-RAG는 BTR 35.9%, 견고한 정확도 49.3%로 개선됐다. Claude Sonnet 4.6에서는 EA-RAG 적용 시 BTR이 25.8%에서 20.3%로 5.5%포인트 낮아졌고, 기본 정확도는 82.0%에서 81.6%로 거의 유지됐다.
| 구성 | 수치 | 근거 범위 |
|---|---|---|
| MamaBench 데이터셋 | 434개 임상 서술, 217쌍, 371개 병리 | p.1 abstract / p.2 source_excerpt / p.3 source_excerpt |
| GPT-4o EA-RAG | Accbase 77.0%, BTR 35.9%, Accrob 49.3% | Table 1, p.5 |
| Claude Sonnet 4.6 EA-RAG | Accbase 81.6%, BTR 20.3%, Accrob 65.0% | Table 1, p.5 |
| GPT-4o ablation k5_scaffold → ea_rag_full | Accbase 75.1%→77.0%, BTR 38.0%→35.9%, Accrob 46.5%→49.3% | Table 2, p.7 |
자료: STORIUM 정리
이 결과는 성능 평가가 단순 정답률에 머무르면 임상적으로 중요한 취약성을 놓칠 수 있음을 보여준다. 표본은 모두 217쌍이며, 각 구성은 그 전부에 대해 평가됐다. 논문은 본질적으로 검색 강화만으로는 반사실적 견고성을 완전히 해결하지 못하며, 최선의 설정에서도 여전히 약 20%의 BTR이 남는다고 정리한다. 모성·소아 건강처럼 오진의 비용이 큰 영역에서, 질문 하나의 정답보다 “비슷한데 다른” 사례를 가르는 능력이 더 중요하다는 점을 수치로 확인한 셈이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
