약한 모델 쌍 선호도 신호를 LoRA로 합성해 강한 LLM 성능 높이는 PDA 기법
소형 모델 쌍의 약한 선호도 신호 여러 개를 LoRA 병합으로 합산해 대형 LLM을 개선하는 PDA 프레임워크가 arXiv에 공개됐다.
[태그:] LLM훈련
GRPO 강화학습 개선 기법 CAST: 답 없이도 토큰 수준 보상 신호 생성
GRPO 기반 RLVR의 희소 보상 문제를 해결하는 새 자기증류 기법 CAST가 arXiv에 공개됐다. 정답 없이 자기 교사(self-teacher)로 토큰 수준 어드밴티지를 ...
