연구진이 LLM(대규모 언어 모델) 에이전트에서 실시간 검색 기능을 추론 모델과 분리하는 아키텍처 DSG(Decoupled Search Grounding)를 제안했다. 현재 프로덕션 LLM 에이전트는 실시간 검색을 위해 모델 제공업체에 종속된 네이티브 검색 그라운딩(native search grounding)에 의존하는데, 이 방식은 검색 정책·공급자 선택·비용·지연 시간이 모두 모델 제공업체 경계 안에 묶여 있어 조정이나 재사용이 어렵다는 문제가 있다. 또한 검색 결과가 맥락에 과도하게 삽입돼 출력 길이를 불필요하게 늘리는 현상도 지적됐다.
DSG는 MCP(Model Context Protocol) 호환 게이트웨이를 통해 그라운딩을 추론 모델 외부로 이동시킨다. 이를 통해 공급자 라우팅, 소스 인식 컨텍스트 렌더링, 폴백(fallback) 설정, 검색 깊이 제어, 정확 매칭 및 시맨틱 캐싱 등을 독립적으로 관리할 수 있다. 5개 프런티어 모델에 SimpleQA·FreshQA·HotpotQA 세 가지 벤치마크로 평가한 결과, 최신성이 중요한 FreshQA에서는 네이티브 검색이 우위였으나, 제어 능력이 중요한 시나리오에서는 DSG가 더 강한 성능을 보였다. SimpleQA에서는 정확도 86.1%로 네이티브 검색의 87.7%와 거의 동등한 수준을 유지하면서 검색 비용을 91% 낮췄다. 따뜻한 캐시 적중률(warm-cache hit rate) 99.4%와 지연 시간 68% 감소도 확인됐다.
대규모 에이전트 워크로드에 공유 프로덕션 그라운딩 레이어로 배포한 이커머스 쿼리 이해 작업에서는 네이티브 검색 대비 정확도를 유지하거나 소폭 상회하면서 검색 비용을 98% 이상 절감하는 결과를 얻었다. 연구진은 실시간 그라운딩을 고정된 모델 기능이 아니라 최적화 가능한 인터페이스 경계로 다뤄야 한다는 설계 원칙을 제안했다.
이 연구는 LLM 에이전트의 운영 비용 절감과 이식성 확보 문제를 동시에 다룬다는 점에서 주목된다. 특히 다양한 모델 제공업체를 교체하거나 병행 사용하는 대규모 에이전트 시스템에서 검색 레이어를 공유 인프라로 분리할 경우, 비용 효율성과 운영 유연성 모두를 확보할 수 있다는 실증적 근거를 제시했다.
저작권자 © STORIUM 무단전재 및 재배포 금지
