대규모 언어모델(LLM)이 여러 차례 이어지는 대화 속에서 새로운 정보를 접할 때마다 자신의 판단을 얼마나 합리적으로 업데이트하는지를 평가하는 새로운 벤치마크 ‘베이즈벤치(BayesBench)’가 공개됐다. 연구진은 LLM이 실제 서비스에서는 대부분 다중 턴 대화 형태로 사용되며, 매 턴마다 제공되는 새 정보가 모델이 처한 환경에 대한 불확실성을 줄여줘야 한다는 점에 주목했다. 합리적으로 행동하려면 겉으로 드러나지 않는 요인들을 추론하고, 증거가 쌓일 때마다 그에 대한 판단을 갱신해야 하지만, 기존 평가 방식 대부분은 단일 턴 형식으로 모델의 마지막 답변만 채점해왔다는 것이 연구진의 문제의식이다.
연구진은 이런 공백을 메우기 위해 LLM의 신념 업데이트가 이상적인 베이즈 추론자의 그것과 얼마나 가까운지를 다중 턴 환경에서 측정하는 시뮬레이션 환경 모음을 설계했다. 베이즈벤치는 난이도가 점차 높아지는 세 가지 과제로 구성된다. 첫 번째는 순차적으로 제공되는 증거로부터 알려지지 않은 파라미터를 추정하는 ‘베이즈 추정’ 과제다. 두 번째는 추정된 신념을 실제 결과에 대한 예측으로 전환하는 ‘베이즈 예측’ 과제다. 세 번째는 관찰되는 정보가 특정 사용자 페르소나의 관점을 거쳐 필터링되는 상황을 다루는 ‘잠재 프레이밍 베이즈 예측’ 과제로, 이 경우 모델은 숨겨진 상태와 페르소나에 대한 추론을 동시에 수행해야 한다.
연구진은 30억에서 700억 개 매개변수 규모에 걸친 7개의 LLM을 대상으로 이 세 과제를 평가했다. 그 결과 모델 규모가 커질수록 겉으로 드러나지 않는 요인을 추론하고 증거를 누적해 판단을 갱신하는 능력이 향상되는 경향이 확인됐으며, 일부 경우에는 모델의 신념 업데이트가 이상적인 베이즈 사후 확률과 상당히 근접하게 일치하기도 했다. 그러나 이런 향상이 실제 하류 과제인 결과 예측 성능으로는 안정적으로 이어지지 않았다는 점도 함께 드러났다. 연구진은 이를 두고 잠재적인 구조를 추론해내는 능력과, 그렇게 얻은 정보를 활용해 목표 결과에 대한 신념을 합리적으로 갱신하는 능력 사이에 간극이 존재한다고 결론지었다.
이번 연구는 LLM 기반 대화형 에이전트가 실제 서비스에서 점점 더 길고 복잡한 다중 턴 상호작용을 처리하게 되는 흐름과 맞닿아 있다. 챗봇이나 상담 에이전트가 사용자와 여러 차례 대화를 주고받으며 상황 판단을 갱신해야 하는 경우가 늘어나는 만큼, 모델이 새로운 정보를 얼마나 합리적으로 반영하는지를 정량적으로 측정할 수 있는 도구의 필요성도 커지고 있다. 베이즈벤치는 이런 신념 갱신 능력을 단일 턴 정답률이 아닌 통계적 추론의 정합성이라는 잣대로 들여다본다는 점에서, 모델 평가의 새로운 축을 제시한 연구로 평가된다.
