대형 추론모델은 정답을 찾는 동안 반복 검산과 우회를 길게 이어가기도 한다. 2026년 7월 17일 arXiv에 공개된 프리프린트는 정확도를 유지하면서 추론 길이를 줄이기 위한 자기증류 방법 BIRD를 제안했다. 제품 출시가 아니라 Qwen3 계열과 DeepSeek-R1-Distill-Llama-8B를 수학 벤치마크에서 평가한 연구 결과다.
BIRD는 두 단계로 학습한다. 먼저 기본 모델에 간결한 풀이를 요구해 여러 응답을 만들고, 정답인 짧은 궤적만 골라 지도 미세조정을 한다. 이어 더 정돈된 접두 문맥에서 간결한 자기교사를 따르는 역방향 KL 온정책 증류를 적용한다. 연구진은 긴 기본 모델의 불안정한 초반 궤적에서 곧바로 증류하는 문제를 이 초기화로 줄이려 했다.
Qwen3-8B에서 MATH-500 정확도는 86.2%에서 92.0%로 오르고 평균 응답 길이는 3,099토큰에서 1,115토큰으로 줄었다. AIME 2024는 38.33%에서 58.33%, AIME 2025는 26.25%에서 42.08%로 높아졌고 평균 길이도 각각 6,230에서 4,067토큰, 5,595에서 3,991토큰으로 감소했다.
DeepSeek-R1-Distill-Llama-8B에서도 MATH-500은 73.40%에서 81.40%, AIME 2024는 31.25%에서 41.25%, AIME 2025는 22.92%에서 27.92%로 개선됐다. 세 과제의 평균 응답 길이는 모두 줄었다. 소거 실험에서 BIRD는 지도 미세조정만 한 경우와 CRISP보다 높은 정확도와 더 짧은 길이를 함께 보고해 두 단계 구성의 필요성을 뒷받침했다.
다만 결과는 세 수학 벤치마크와 특정 8B 모델군에 한정되며, 긴 추론이 필요한 다른 영역이나 안전성이 중요한 업무까지 효율이 유지된다는 뜻은 아니다. 정답 필터에 의존하는 첫 단계의 비용과 데이터 오염 가능성도 별도 검토가 필요하다. 현재 근거는 동료검토 전 프리프린트이므로 공개 코드와 독립 재현이 후속 판단 기준이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
