자기 이익만 추구하는 에이전트는 반복되는 사회적 딜레마에서 협력보다 배신을 택해 거래의 공동 이익을 무너뜨릴 수 있다. Eugene Ng Yi Sheng과 Bingquan Shen은 자유로운 의사소통 위에 어떤 공식 메커니즘을 더해야 에이전트 시장이 안정되는지 실험했다. 2026년 7월 9일 arXiv에 제출된 이 프리프린트는 정상 조건뿐 아니라 공격자가 개입한 상황의 회복력까지 다룬다.
연구진은 서로 보완적인 생산 전문성을 지닌 DeepSeek-V3 기반 LLM 에이전트 18개를 제한된 사회 연결망에 배치했다. 에이전트들은 효용을 얻기 위해 서로 거래해야 한다. 첫 단계에서는 200라운드에 걸쳐 트롤을 점진적으로 투입하며 여덟 조건의 메커니즘을 비교했고, 그중 중재가 가장 높은 성과를 냈다고 보고했다.
두 번째 단계에서는 프롬프트를 반복 최적화한 LLM 트롤로 중재를 공격했다. 가장 강한 v6 공격은 정직한 에이전트의 효용을 13.3% 낮췄지만 시장을 붕괴시키지는 못했다. 중재 아래에서는 지속적인 공격 중에도 회복이 나타났다. 연구진은 최적화된 공격에서 정직한 참여자의 효용을 양수로 유지하는 능력을 적대적 강건성으로 정의한다.
결과는 에이전트 사회에 대화 능력만 주는 것보다 분쟁을 다루는 제도적 장치가 중요하다는 점을 보여준다. 다만 하나의 모델과 18개 에이전트로 구성한 모의시장 결과를 실제 경제나 다른 에이전트 구조에 바로 일반화할 수는 없다. 효용 함수와 연결망, 트롤 설계가 결론에 영향을 줄 수 있으며 중재 자체의 편향이나 권력 집중도 살펴야 한다. 시장을 지켰다는 평가는 이 실험 조건 안의 결과다.
원문: arXiv 2607.08652
저작권자 © STORIUM 무단전재 및 재배포 금지
