인간의 선호를 고정된 목표로 보고 이를 정확히 추론해 최적화하는 기존 AI 정렬(alignment) 접근법에 근본적인 의문을 제기하는 연구가 나왔다. 맥스 칸왈(Max Kanwal), 캐린 트랜(Caryn Tran) 연구진은 최근 arXiv에 공개한 논문 ‘구성적 정렬: 인간-AI 상호작용에서 선호 역학 거버넌스(Constructive Alignment: Governing Preference Dynamics in Human-AI Interaction)’에서 인간의 선호가 고정된 값이 아니라 여러 층으로 이뤄져 있으며, 특히 적응형 기술과의 상호작용을 통해 지속적으로 구성되고 변화한다는 점을 지적했다.
연구진은 AI 시스템이 점점 더 지속적이고 개인화되며 사회적으로 깊이 결합돼 가면서, 사람들이 무엇에 주목하고 무엇을 가치 있게 여기며 무엇을 지지할지를 형성하는 과정에 AI가 이미 적극적으로 관여하고 있다고 설명했다. 이런 현실에도 불구하고 기존 정렬 연구는 인간의 선호를 정적인 목표로 간주해 그것을 알아내고 만족시키는 데에만 집중해 왔다는 것이 논문의 문제의식이다.
이에 연구진은 ‘구성적 정렬(Constructive Alignment)’이라는 새로운 패러다임을 제안했다. 이는 정렬 문제를 정적인 선호 만족이 아니라, 시간에 따라 진화하는 인간 선호의 궤적을 다루는 일종의 제어 문제로 재정의하는 접근이다. 논문은 행동경제학과 심리학, 구성주의 사회이론을 접목해 인간의 선호를 상호작용에 따라 변화하는 층위별 상태 변수로 모델링하고, 시스템의 행동과 인터랙션 디자인이 세계 상태와 인간의 평가적 상태 모두에 함께 영향을 미치는 구조를 제어 이론적 틀로 정식화했다.
연구진은 AI 정렬의 핵심이 AI의 행동 자체를 통제하는 데 있는 것이 아니라, AI가 인간의 선호 형성 과정에 미치는 영향을 규율하는 데 있다고 주장했다. 즉 가치 판단의 궤적이 일관성을 유지하고, 성찰적으로 지지될 수 있으며, 인식론적으로 근거를 갖추고, 조작으로부터 보호되며, 불확실성 속에서도 인간에게 힘을 실어주는 방향으로 유지되도록 관리하는 것이 정렬의 본질이라는 설명이다. 이 관점에 따르면 정렬은 정적인 선호를 단순히 충족시키는 문제가 아니라, 장기적인 가치 형성 과정 자체를 통치하는 문제로 재구성된다. 이 연구는 AI 에이전트가 일상적 의사결정에 깊숙이 개입하는 시대에, 기술 설계가 인간의 가치관 형성에 미치는 영향을 어떻게 다뤄야 할지에 대한 이론적 토대를 제공한다는 점에서 주목된다.
