데이터 스타트업 리레이셔널AI(RelationalAI)의 캐시 슘 필드 엔지니어링 리드가 최근 기술 컨퍼런스 InfoQ 발표에서 지식그래프를 활용한 ‘그래프RAG(GraphRAG)’가 전통적인 검색증강생성(RAG) 방식의 한계를 어떻게 보완하는지 소개했다. 발표에 따르면 전통적인 RAG는 자연어 질의를 벡터로 변환해 유사한 텍스트 조각을 찾아낸 뒤 이를 대규모 언어모델에 입력해 답을 생성하는 방식으로 작동한다. 초기에는 이 방식이 인상적인 결과를 냈지만, 질의가 복잡해지고 데이터 규모가 커지면서 한계가 뚜렷하게 드러났다는 것이 발표자의 설명이다.
슘 리드는 전통적 RAG가 특히 취약한 지점으로 네 가지를 꼽았다. 서로 다른 정보 조각 사이의 관계를 추적해 통합적인 통찰을 끌어내는 능력, 개별 질문을 넘어 전체 맥락에서 주제를 파악하는 능력, 여러 단계를 거쳐야 답이 나오는 다중 홉 추론, 그리고 어떤 근거로 특정 결론에 도달했는지 보여주는 출처 추적(프로버넌스)과 설명 가능성이다. 특히 금융이나 의료처럼 답변의 근거를 명확히 제시해야 하는 산업에서는 이 출처 추적 능력의 부재가 실질적인 걸림돌이 돼왔다고 지적했다. 다만 최근 대규모 언어모델의 문맥 창(컨텍스트 윈도) 크기가 커지면서 여러 문서를 동시에 참조하는 능력이 개선돼, 다중 홉 추론이나 전반적 맥락 파악 능력도 예전보다는 나아졌다고 덧붙였다.
그래프RAG의 핵심은 단순한 노드-엣지 그래프 구조에 ‘온톨로지’라 불리는 의미 체계를 더하는 데 있다. 리레이셔널AI가 채택한 접근법은 두 개체와 그 사이의 관계를 하나의 단위로 표현하는 ‘그래프 정규형’ 구조를 사용한다. 이를 통해 두 개체가 어떤 업무 규칙과 논리로 연결되는지를 관계 자체에 담아낼 수 있다는 설명이다. 발표에서는 이 개념을 설명하기 위해 가상의 샌드위치 매장 ‘재플숍’ 예제를 활용했다. 매장·고객·상품 같은 정형 데이터로 지식그래프를 먼저 구축한 뒤, 여기에 비정형 데이터인 고객 피드백 문서를 결합해 그래프를 확장하는 파이프라인을 시연했다.
그래프RAG 파이프라인은 문서에서 개체와 관계, 개념을 추출해 기존 지식그래프에 반복적으로 통합하는 순환 구조로 작동한다. 새 문서가 들어올 때마다 기존 개체와의 관계를 다시 검토하고 조정하며 그래프를 점진적으로 확장해나가는 방식이다. 이렇게 확장된 지식그래프 위에서는 “어떤 매장이 문제가 있고 그 이유는 무엇인가” 같은, 정형 데이터만으로는 답하기 어려운 복합 질문에도 응답할 수 있다는 것이 발표의 요지다. 발표자는 다중 홉 관계를 추적하는 실제 사례로, 소개(레퍼럴) 체인을 10단계까지 거슬러 올라가 그 경로 안에서 부정적 피드백을 남긴 인물을 찾아내는 질의응답 시연도 선보였다.
발표는 지식그래프와 그래프RAG가 에이전트형 AI 워크플로와 결합할 때 특히 힘을 발휘한다고 강조했다. 슘 리드는 AI 에이전트가 기억, 도구 호출, 다단계 계획, 반성(리플렉션) 같은 능력을 갖췄다고 해서 저절로 옳은 답을 내놓는 것은 아니라고 짚었다. 기억은 정확성을 보장하지 않고 그저 주어진 상태를 보존할 뿐이며, 반성 능력도 근거가 되는 ‘그라운드 트루스’가 확실할 때만 의미가 있다는 것이다. 결국 견고하고 신뢰할 수 있는 데이터 구조와 파이프라인이 뒷받침돼야 그 위에서 작동하는 에이전트도 제 역할을 할 수 있다는 점이 발표의 핵심 메시지로 제시됐다.
