강화학습 훈련 속도 1.8배 향상, MTP 수용률 95% 달성 기법 제안
연구팀이 강화학습 기반 LLM 훈련에서 다중 토큰 예측(MTP)의 수용률 저하 문제를 해결하는 Bebop 기법을 제안해 최대 1.8배 종단간 가속을 달성했다.
[태그:] 사후훈련
해석가능성으로 사후 훈련 신호 설계, LLM 과잉 스타일화 억제
연구팀이 해석가능성 기법을 활용해 언어 모델 사후 훈련 데이터를 감사하고 학습 신호를 직접 설계하는 파이프라인을 제안했다. 과잉 스타일화와 아첨 현상 ...
