여러 단계를 거쳐 과제를 수행하는 대규모 언어모델(LLM) 에이전트가 결국 실패로 끝날 경로를 붙들고도 상당한 추론 연산을 계속 소모하는 문제를, 초기에 실패를 감지해 중단시키는 방식으로 완화한 연구가 공개됐다. 연구진은 arXiv에 게재한 논문에서 모델 내부 상태를 활용하면 실패를 일찍 예측할 수 있음을 보이며, 이를 실용적 시스템으로 구현한 ‘프로브 캐스케이드(probe cascade)’를 제안했다.
연구진은 은닉 활성값(hidden activations)에 대한 가벼운 라운드별 프로브가 첫 상호작용 라운드부터 에피소드의 최종 실패를 예측할 수 있다고 밝혔다. 반면 겉으로 드러난 행동만 보고 판단하는 방식은 그 시점에서 무작위 추측에 가까운 수준에 머물렀다. 즉 모델이 겉으로 어떤 행동을 하기 전에, 내부 상태만 살펴도 그 시도가 실패로 향하고 있는지를 상당히 이른 단계에 가려낼 수 있다는 것이다.
연구진은 이를 실제 배포 환경에 맞게 다듬어, 라운드마다 분포에 구애받지 않는 보정된 게이트를 두었다. 성공하는 에피소드가 게이트를 통과하는 비율을 목표치로 맞추도록 재현율(recall) 예산을 조정하는 방식이다. 연구진은 중단 위험이 여러 라운드에 걸쳐 누적되기 때문에, 개별 라운드가 아니라 에피소드 전체 수준의 보장이 실제 운영에서 가장 중요하다고 설명했다.
텍스트크래프트(TextCraft) 환경에서 두 종류의 에이전트 모델을 대상으로 시험한 결과, 캐스케이드는 90~97% 사이의 재현율 목표를 충족했다. 90% 수준에서는 큐원-2.5-7B가 47.1%, 라마-3.2-3B가 37.2%의 연산 비용을 절감했으며, 이는 최선의 단일 게이트 방식보다 1.6~1.7배 큰 절감 효과다. 관찰 가능한 행동만 활용한 캐스케이드는 이 절반 정도에 그쳤고, 행동 특징을 프로브에 더해도 추가 이득은 없었다. 은닉 상태가 이미 행동이 드러내는 정보를 포착하고 있기 때문이라는 설명이다. 연구진은 코드를 곧 공개할 예정이라고 밝혔다.
저작권자 © STORIUM 무단전재 및 재배포 금지
