언어모델에 새로운 사실을 미세조정하면 직접 질문에는 빠르게 답하면서도 그 사실이 필요한 후속 추론에서는 실패할 수 있다. 연구진은 기억과 활용 사이의 정확도 차이와 시간 지연을 ‘앎-사용 간극’으로 정의했다. 단순히 학습이 덜 됐다고 보기보다 새 지식의 표현이 모델 내부 어디에 형성되고 계산 과정에서 어떻게 이동하는지 추적했다. 보지 못한 지식을 주입해 학습하는 동안 암기와 일반화가 서로 다른 시점에 나타나는 현상을 관찰했다.
분석 도구로는 ‘자기 패칭’을 제안했다. 실패한 추론 사례에서 내부 활성 표현을 다른 위치로 옮겼을 때 답이 개선되는 지점을 찾아 지식의 공간적 침투 과정을 진단한다. 결과는 지식이 내부에 존재하더라도 실제 계산에 효과적인 계층으로 라우팅되지 않을 수 있다는 지식 회로 불일치 가설과 맞아떨어졌다. 즉 모델이 사실을 저장하지 못한 것이 아니라 필요한 추론 회로가 그 표현을 제때 읽지 못하는 문제일 수 있다.
연구진은 이 진단을 바탕으로 단순한 휴리스틱 전략을 설계해 일반화 실패에서 개선 가능한 여지의 상당 부분을 회복했고, 여러 영역에서 경향의 견고성을 확인했다. 이는 지식 주입 평가가 암기형 질의응답만으로 끝나서는 안 된다는 뜻이다. 새 사실을 비교, 계획, 원인 판단 같은 downstream 과제에서 사용할 수 있는지도 별도로 측정해야 한다. 자기 패칭은 모델 내부 개입이 가능한 환경을 요구해 폐쇄형 API에는 바로 적용하기 어렵지만, 미세조정 과정에서 저장과 활용을 구분하는 진단 도구로 가치가 있다.
원문: arXiv 2607.08393
저작권자 © STORIUM 무단전재 및 재배포 금지
