AI 에이전트와 인간이 공유 작업공간에서 함께 일하는 팀을 연구한 논문이 arXiv에 공개됐다. 연구진은 협력 체계를 갖추지 않은 상태에서 관련 역할의 인간 협력자를 팀에 추가하면 오히려 성능이 낮아질 수 있다고 밝혔다. 참여자 수가 늘어나도 역할을 조율하는 구조가 없으면 협조 비용만 커지는 이른바 ‘프로세스 손실(process loss)’ 현상이 나타난다는 설명이다.
연구팀은 Collaborative Gym 환경과 DiscoveryBench 과제를 사용해 총 1482개 세션을 분석했다. 이 과정에서 공유 그룹 메모리와 시뮬레이션된 인간 참여 게이트(HITL gate)를 결합한 ‘스캐폴딩(scaffolding)’ 구조를 평가했다. HITL 게이트는 특정 행동에 대해 지정된 참여자의 승인을 받도록 하는 방식이다. 실험 결과 이 스캐폴딩을 적용한 팀은 적용하지 않은 팀보다 평균 성능이 높았으며, 특히 3인 팀에서 개선 효과가 뚜렷했다. 책임 신호가 명확해지고 팀의 행동이 전문성에 맞게 배분되는 경향이 강화된 것으로 분석됐다.
연구진은 인간-AI 팀에서 단순히 활용 가능한 역량의 크기보다 팀이 어떻게 조율하고 전문성을 통합하느냐가 성과에 더 큰 영향을 미친다고 결론 내렸다. 이 연구는 AI 에이전트가 다양한 과학적·전문적 업무에서 인간 판단과 맥락 전문성을 필요로 한다는 전제 아래, 효과적인 협업 팀을 설계하는 방법에 대한 실증적 근거를 제시한다. AI 에이전트 단독으로 처리하기 어려운 복잡한 과제를 인간과 함께 수행할 때 어떤 구조가 유효한지를 살펴봤다는 점에서 의의가 있다.
협업 AI 시스템의 설계 방향에도 시사점을 준다. 인간-AI 팀이 효과를 내려면 단순히 참여자를 늘리는 것이 아니라, 역할 분담을 명확히 하고 의사결정 권한을 구조화하는 방식이 필요하다는 것이다. 연구는 AI 에이전트가 점점 더 많은 업무 환경에 투입되는 흐름 속에서, 인간의 개입 지점과 승인 체계를 어떻게 설계할지를 고민하는 실무자와 연구자 모두에게 참고할 만한 데이터를 제공한다.
저작권자 © STORIUM 무단전재 및 재배포 금지
