추론 능력을 갖춘 대규모 언어모델(LLM)이 문제를 풀 때 연산을 얼마나 오래 지속할지 스스로 학습하는 방식이, 문제 유형에 따라 효과가 크게 갈린다는 연구 결과가 나왔다. 연구진은 이 방식을 ‘러닝스탑(LearnStop)’이라 명명하고, 별도의 은닉 상태 정보 없이도 추론 도중 정해진 연산 예산 지점마다 현재까지의 추론 과정에서 짧은 답을 추출해 정답 여부를 예측하는 방식으로 설계했다고 밝혔다. 답변 신뢰도, 엔트로피, 중간 답변의 득표율, 답변 안정성, 되돌아가기(backtracking) 표지의 빈도 같은 온라인 특징들을 종합해 지금 멈출지 계속할지를 판단하는 구조다.
연구진은 GSM8K, MATH-500, MMLU-프로(MMLU-Pro), AIME-90, GPQA 등 다섯 개 벤치마크와 큐원3(Qwen3), 딥시크-R1(DeepSeek-R1) 증류 모델을 조합한 18개 과제-모델 조합에서 이 방식을 시험했다. 그 결과 자유서술형 수학 문제에서는 학습된 다중 특징 기반 정지 규칙이 고정 예산 대비 성능 곡선을 개선하고 단일 지표 기반 정지 규칙을 능가하는 경우가 많았다. 큐원3-32B 모델로 GSM8K를 풀 때는 사후 분석 기준 최대 성능 향상폭이 0.157에 달했고, 검증 데이터로 선정한 실제 운용 지점에서도 양의 성능 향상이 유지됐으며 가장 강력한 단일 지표 기반 방식 대비 대응비교 성능 향상은 0.028로 나타났다.
반면 객관식 문제나 난도가 매우 높은 문제에서는 신뢰도·엔트로피·안정성 같은 단순 단일 지표 기반 정지 규칙이 오히려 경쟁력 있거나 더 우수한 성능을 보였다. 이에 연구진은 학습된 정지 규칙을 기존의 단일 지표 방식을 대체하는 보편적 해법이 아니라, 추론 궤적의 구조에 따라 가치가 달라지는 도구로 규정해야 한다고 결론지었다. 연구는 검증 데이터 기반 운용 지점 선정, 짝지은 부트스트랩 검정, 유한 격자 기반 손실 정답 위험 보정, KV-포크·프리픽스 캐시·블랙박스 방식에 따른 비용 계산, H100 서빙 성능 프로파일, 체크포인트 일정 조정 실험, 전이 분석, 강건성 검증 등 다양한 부가 분석도 함께 제시했다.
연구진은 실질적인 핵심 결론으로, 학습된 정지 방식은 최종 연산 예산에 도달하기 전에 이미 정답에 도달하는 질문이 많으면서도 신뢰할 만한 단일 정지 신호가 뚜렷하지 않은 상황에서 유용하다고 설명했다. 반대로 신뢰도나 답변 수렴만으로 이미 정지 시점 판단이 충분히 잘 작동하는 상황에서는 학습된 방식의 이점이 대부분 사라진다는 점도 함께 밝혔다. 이번 연구는 추론 모델의 연산 비용을 줄이면서도 정확도를 유지하려는 최근 업계의 효율화 흐름과 맞닿아 있어, 실제 서빙 환경에서 정지 규칙 설계 방향을 정교화하는 데 참고자료가 될 것으로 보인다.
저작권자 © STORIUM 무단전재 및 재배포 금지
