알리바바·MBZUAI·USC·미시간대 연구진이 LLM 심사자의 편향을 입출력 오차가 아닌 내부 활성 기하로 분석했다. 권위·장황함·다수 의견·감정 같은 답의 품질과 무관한 표면 단서가 점수를 바꿀 때, 기준 입력의 활성 군집에서 편향 유형별 저차원 방향으로 이동한다는 가설이다.
연구는 GSM8K·MMLU·TruthfulQA 등 9개 벤치마크에서 질문 4500개를 골라 기준 답과 긍정·부정 변형을 만들었다. 편향 7종마다 양극성 변형이 있어 각 3만1500개 표본이며, GPT-4.1·DeepSeek-V3 등 심사자 7개를 평가했다. 내부 분석은 Llama-3.1-8B, Qwen3-14B, Gemma-3-12B에서 기하중앙값·PCA·선형 분류 경계를 비교했다.
부정 단서는 모든 심사자에서 점수를 낮춰 Cohen d가 -0.35~-0.65였지만 긍정 단서의 효과는 유형별로 달랐다. 중후반 층에서 편향 방향이 선명해졌고 서로 다른 추정법의 코사인 일치는 0.55~0.65였다.
같은 방향을 깨끗한 입력에 더하면 편향 점수가 재현되고, 편향 입력에서 빼면 기준 점수에 가까워졌다. 무작위 방향의 변화는 약 한 자릿수 배 작았다.
이 방향에 대한 선형 투영으로 학습에 쓰지 않은 SocialMaze·BBQ·GPQA의 심사 실패를 예측한 AUC는 0.821이었다. 텍스트 기반 탐지기는 0.624, 더 복잡한 GBDT는 미관측 도메인에서 0.751이었다. 숨은 활성의 단순한 편향 축이 풍부한 특징보다 도메인 이동에 견고했다는 결과다. 내부 활성 실험은 동료검토 전 공개본 arXiv:2607.11871의 범위에서 해석해야 한다.
| 미관측 도메인 실패 예측기 | AUC |
|---|---|
| 숨은 활성 선형 투영 | 0.821 |
| 텍스트 기반 탐지기 | 0.624 |
| GBDT | 0.751 |
활성 조향은 인과적으로 유효한 손잡이임을 보였을 뿐 모델이 자연스럽게 편향을 만드는 유일한 경로를 규명한 것은 아니다. 가중치 접근이 필요한 3개 공개 모델에서만 내부 실험했고, 특정 단서와 9개 QA 영역에 한정된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
