LLM(대규모 언어 모델)의 구조적 추론을 위한 그래프 활용 방식을 새롭게 정립한 논문이 arXiv에 공개됐다(arXiv:2606.02673). 기존 연구들이 그래프를 주로 테스트 단계에서 외부 지식으로 모델에 제공하는 방식을 채택한 것과 달리, 이 논문은 그래프의 진정한 가치가 정보 공급뿐 아니라 추론 과정 자체를 조직화하는 데 있다는 관점을 제시한다. 연구진은 사람이 마인드맵처럼 분기·수렴하는 생각을 그래프로 정리하는 방식에서 착안해, 그래프를 모델의 내부 추론 보조 도구로 사용하면 어떤 효과가 나타나는지 체계적으로 분석했다.
연구팀은 멀티홉 질의응답(multi-hop question answering) 과제에서 교사 모델이 제공한 추론 흔적(reasoning traces)을 그래프 마인드맵 형태로 재작성한 뒤 학생 모델을 학습시키는 방식으로 실험을 진행했다. 핵심 발견은 ‘양상 격차(modality gap)’였다. 그래프 구조를 평문 텍스트로 변환해서 지도할 경우, 직접적인 답 단서가 제거되면 추론 효율과 답변 품질 모두 크게 하락했다. 반면 시각 그래프 형태의 지도는 직접적인 답 단서 없이도 효과가 지속됐으며, 지도 학습(supervised fine-tuning) 및 KL 발산 기반 증류 과정에서도 이러한 우위가 유지됐다.
연구 결과는 그래프가 LLM에 대해 단순히 외부 지식 구조로만 연구될 것이 아니라, 추론을 조직화하는 시각적 스캐폴드(scaffold·발판)로서도 탐구될 가치가 있다는 주장을 뒷받침한다. 연구진은 이 관점이 기존 멀티홉 추론 연구와 차별화되는 독립적인 연구 방향이 될 수 있다고 봤다.
이 연구는 AI 에이전트와 LLM의 복잡한 추론 능력 향상이 주요 과제로 부각된 시점에 나와 주목받는다. 텍스트 기반 연쇄 사고(Chain-of-Thought)와 달리 시각 구조를 활용하는 접근법이 실용적인 추론 보조 도구로 발전할 가능성에 관심이 모인다.
저작권자 © STORIUM 무단전재 및 재배포 금지
