두 개의 인공지능이 사전 약속 없이 상호작용만으로 공통의 소통 체계를 만들어낼 수 있을까. 야샤르 탈레비라드, 에덴 레드먼, 알리 파르사이, 오스마르 자이안 등 연구진은 ‘루이스 신호 게임(Lewis signaling game)’이라는 고전적 틀을 활용해, 발신자와 수신자 역할을 맡은 두 대규모 언어모델(LLM) 에이전트가 오직 상호작용 기록만으로 코드를 만들어가는 과정을 실험으로 분석했다.
연구진은 다섯 가지 서로 다른 메모리 구조를 다양한 통신 채널 용량 조건에서 비교했다. 그 결과 통신 채널의 용량 크기보다 에이전트가 어떤 메모리 구조를 갖췄는지가 더 결정적인 변수로 나타났다. 지속적인 개인 노트를 유지할 수 있는 에이전트는 채널 용량이 늘어나도 그 여유를 활용할 수 있었던 반면, 상태를 기억하지 않는(stateless) 에이전트는 용량이 커질수록 오히려 조율 성능이 무너지는 ‘고용량 붕괴’ 현상을 겪었다. 노트를 가진 에이전트는 용량 25 조건에서 0.867±0.023이라는 가장 안정적인 조율 성능을 기록했다.
상태를 기억하지 못하는 에이전트는 중간 수준의 용량에서 성능이 정점을 찍은 뒤, 어휘가 늘어나 롤링 컨텍스트 윈도(이전 대화의 일부만 담아두는 방식)가 추적할 수 있는 범위를 넘어서면 성능이 점차 떨어졌다. 반면 개인 노트를 가진 에이전트는 이미 학습한 규칙을 노트에 외재화함으로써 매 라운드마다 코드를 처음부터 다시 유추해야 하는 부담에서 벗어날 수 있었다.
흥미로운 지점은 정보병목(information bottleneck) 이론에 기반한 예측과 실제 결과가 엇갈렸다는 점이다. 이론상으로는 통신 용량이 조율해야 할 대상(오브젝트)의 수와 같을 때 최적의 성능이 나와야 하지만, 실험에서는 오히려 그 지점(용량 8)이 가장 취약한 지점으로 드러났고, 그보다 넉넉한 여유 용량을 가진 조건이 대체로 더 나은 성능을 보였다. 연구진은 통신 용량 하나만으로는 에이전트 간 조율 성패를 예측할 수 없으며, 상호작용 기록을 안정적인 규약으로 전환할 수 있는지는 메모리 구조에 달려 있다고 결론지었다.
이 연구는 여러 AI 에이전트가 협업하는 멀티에이전트 시스템을 설계할 때, 단순히 통신 대역폭을 늘리는 것보다 에이전트가 과거 상호작용을 어떻게 저장하고 재활용하는지가 더 중요할 수 있음을 시사한다. 에이전트 간 자생적 소통 규약이 형성되는 메커니즘을 이해하는 일은, 향후 다수의 AI 에이전트가 인간 개입 없이 협력해야 하는 실제 응용 환경을 설계하는 데 기초 자료로 활용될 수 있을 전망이다.
