연구팀이 대규모 언어 모델(LLM) 기반 멀티에이전트 시스템의 통신 비용 문제를 해결하기 위해 동적 신뢰 인식 희소 합의 메커니즘 DySCo(Dynamic Sparse Consensus)를 제안했다. LLM 기반 멀티에이전트 시스템은 다중 라운드 토론, 역할 분담, 교차 검증을 통해 복잡한 추론 과제의 신뢰성을 높인다는 장점이 있다. 그러나 기존 협업 프레임워크들이 에이전트 간 완전 연결 통신을 채택하면서 메시지 수, 토큰 비용, 처리 지연이 에이전트 수의 제곱에 비례해 증가하는 확장성 문제를 안고 있었다.
DySCo는 매 추론 라운드마다 에이전트의 신뢰도, 답변 다양성, 과제 연관성을 기준으로 통신 엣지의 가치를 추정하고, 예산 제약 아래에서 고가치 엣지만을 선택해 메시지 교환을 수행한다. 이어서 동적 신뢰 가중치를 통해 서로 다른 에이전트의 답변을 집계하고, 합의가 안정화되면 토론을 조기 종료한다. 고정된 희소 토폴로지가 과제 인스턴스나 중간 추론 상태에 적응하지 못해 저가치 상호작용을 유지하거나 핵심 오류 수정 정보를 잃는 문제를 해결하기 위해, DySCo는 불필요한 전체 브로드캐스팅 대신 필요에 따른 온디맨드 통신으로 대체한다.
연구팀은 DySCo의 통신 복잡도와 합의 안정성에 대한 이론적 분석을 제시하고, 수학적 추론, 논리적 추론, 사실 질의응답 과제에서 성능을 검증했다. 이 연구는 LLM 멀티에이전트 시스템의 실용적 배포를 가로막는 통신 비용 장벽을 낮추면서도 교차 검증을 통한 품질 향상 효과는 유지하는 방향을 제시한다는 점에서 의미가 있다. 여러 LLM 에이전트가 서로 토론하고 검증하는 방식은 단일 모델보다 답변의 신뢰성을 높이지만, 모든 에이전트가 서로 메시지를 주고받는 완전 연결 구조에서는 에이전트가 늘어날수록 토큰 비용과 지연이 제곱에 가깝게 불어난다. 고정된 희소 구조로 이를 줄이려는 시도도 있었으나, 과제마다 달라지는 상황에 적응하지 못한다는 한계가 있었다. DySCo는 매 라운드 통신의 가치를 실시간으로 평가해 꼭 필요한 연결만 남기는 방식으로, 비용 효율과 추론 품질 사이의 균형을 다시 설계했다는 평가다.
저작권자 © STORIUM 무단전재 및 재배포 금지
