언어모델은 전 세계에서 사용되지만 학습과 평가에 반영된 가치가 서구권에 치우쳤다는 비판을 받아왔다. 하나의 보편적 선호 기준만 적용하면 국가 사이 차이뿐 아니라 같은 국가 안의 다양한 관점도 지워질 수 있다. PLURAL은 가치에 초점을 맞춘 대규모 선호 데이터셋으로, 92개국을 포괄하는 국가 대표 통합가치조사를 기반으로 한다. 설문 응답을 그대로 문답 자료로 복제하지 않고 현실적인 상황에서 선택을 비교하는 합성 선호 삼중항으로 변환했다.
두 단계 생성 파이프라인은 원조사의 규범적 가치 신호를 보존하면서 모델 학습에 사용할 수 있는 시나리오를 만든다. 공개된 초기 버전은 다양한 20개국 사람을 나타내는 약 50만 개 선호 삼중항으로 구성된다. 연구진은 데이터 수준에서 국가 간 가치 차이와 국가 내부 다양성이 원조사와 같이 유지되는지 확인했다. 다원적 정렬이 국가별 단일 고정 성격을 만드는 작업이 아니라 분포를 표현하는 문제임을 반영한 검증이다.
자동 평가에서는 PLURAL로 학습한 모델이 목표 국가의 문화적 프로필과 더 잘 맞았고 강한 기준선보다 평균절대오차를 최대 27.7% 줄였다. 인도, 브라질, 일본의 평가자 176명이 참여한 맹검 평가에서도 PLURAL 정렬 응답이 자국 가치를 더 잘 대표한다고 판단했다. 이 결과는 설문 기반 자료에 모델이 학습할 수 있는 가치 조절 신호가 있음을 보여준다. 다만 20개국 초기판이 92개국 전체나 각 사회의 모든 집단을 대표하는 것은 아니다.
가치 정렬을 국가 단위로만 적용하면 내부 소수자의 관점을 평균에 묻거나 고정관념을 강화할 위험이 있다. 설문 시점과 문항 설계, 합성 시나리오 생성 과정의 편향도 지속적으로 점검해야 한다. 서비스에서는 사용자의 위치를 추정해 가치 프로필을 강제로 지정하기보다 선택권과 설명 가능성을 제공하는 편이 안전하다. PLURAL은 단일한 정답 가치에서 벗어나 복수의 선호 분포를 평가하고 조절할 수 있는 공개 자원을 제공한다. 후속 버전에서는 국가별 평균뿐 아니라 연령과 지역 등 내부 차이가 모델 응답에서 어떻게 보존되는지도 투명하게 보고할 필요가 있다.
원문: arXiv 2607.08034
저작권자 © STORIUM 무단전재 및 재배포 금지
