검색 증강 생성(RAG)이나 외부 컨텍스트를 활용하는 LLM(대규모 언어 모델)은 외부 정보와 모델 내 사전 지식이 충돌할 때 신뢰성이 떨어지는 문제를 안고 있다. 기존 대조적 디코딩(contrastive decoding) 방식은 컨텍스트를 일방적으로 우선시하는 ‘컨텍스트 인식’ 패러다임에 머물러 있어, 컨텍스트에 오류가 있을 경우 올바른 사전 지식마저 덮어쓰는 부작용이 있었다. 연구팀은 2026년 6월 9일 이 문제를 해소하는 새로운 프레임워크를 arXiv에 공개했다.
연구진은 이를 ‘충돌 인식(conflict-aware)’ 패러다임으로 확장해, 충돌 신호에 따라 사전 지식과 컨텍스트 중 어느 쪽에 권한을 줄지 동적으로 결정하는 방법론을 제시했다. 이들은 사전 지식 로짓과 컨텍스트 로짓의 아핀 결합이 고유한 체제 비대칭성을 갖는 ‘파워 패밀리’를 형성한다는 점을 이론적으로 밝혔다. 외삽(extrapolation)은 사전 지식이 옳을 때 오류를 무한히 증폭시키고, 내삽(interpolation)은 컨텍스트가 옳을 때 교정이 부족해지며, 단일 정적 체제로는 두 상황을 모두 커버할 수 없다는 것이다.
이 비대칭성을 해소하기 위해 연구진은 각 디코딩 단계마다 체제를 동적으로 선택하는 적응형 체제 라우팅(Adaptive Regime Routing, ARR)을 제안했다. 또한 모델별 사전 지식을 보정해 교정·저항·일치 세 가지 충돌 상태를 측정하는 평가 프로토콜 TriState-Bench를 함께 공개했다. ARR은 교정 및 일치 성능을 희생하지 않으면서 저항 상태의 정답 매칭(EM) 점수를 6 미만에서 16~33 범위로 끌어올렸다고 연구진은 보고했다. 코드도 공개됐으며, RAG 기반 시스템의 신뢰성 향상에 실질적으로 기여할 수 있는 연구로 평가된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
