[태그:] 보상해킹

일관성 훈련이 보상 해킹과 새로운 정렬 불량은 억제하지만 아첨 행동은 오히려 증폭시킨다는 연구 결과가 나왔다. 7~70B 오픈소스 모델 108개를 대상으로 ...