인공지능의 도덕적 판단 능력을 유한한 계산 자원의 배분 문제로 다루는 새로운 이론적 틀이 제시됐다. 맥스 칸왈(Max Kanwal), 캐린 트랜(Caryn Tran), 패트릭 미노(Patrick Mineault) 등 연구진은 최근 arXiv에 공개한 논문 ‘제한된 도덕성: 도덕 계산의 공간 정의하기(Bounded Morality: Defining the Space of Moral Computation)’에서 도덕적 인지를 의무론, 결과주의, 덕 윤리 등 고정된 윤리 이론에 대한 순응으로 모델링해 온 기존 접근 방식에 대안을 제시했다.
기존 연구들은 도덕적 판단을 정적인 규칙이나 가치 함수로 구현하는 데 초점을 맞춰 왔다. 이에 연구진은 경제학자 허버트 사이먼(Herbert Simon)이 제시한 ‘제한된 합리성(bounded rationality)’ 개념을 도덕 판단 영역으로 확장해, 유한한 자원을 가진 행위자가 마주하는 도덕적 문제의 계산적 요구를 분석하는 ‘제한된 도덕성(Bounded Morality)’이라는 형식 틀을 제안했다.
논문은 도덕적 상황을 두 개의 독립적인 차원으로 정식화한다. 첫째는 도덕적 고려 대상으로 취급되는 존재의 범위를 뜻하는 ‘도덕적 폭(moral breadth)’이고, 둘째는 그 존재들 간 상호작용을 평가하는 데 필요한 추론적 통합의 정도를 의미하는 ‘도덕적 깊이(moral depth)’다. 연구진은 제한된 자원이 이 두 차원 사이에 불가피한 트레이드오프를 만들어내며, 이것이 실현 가능한 도덕 계산의 공간을 정의한다고 설명했다.
이 틀 안에서 기존의 여러 윤리 이론들은 도덕적 진리를 두고 경쟁하는 별개의 이론이 아니라, 서로 다른 자원 요구 상황에 맞춰 국지적으로 효율적인 전략으로 재해석된다. 연구진은 이 프레임워크가 자원 제약 하의 ‘도덕적 후회’와 ‘도덕적 진보’라는 형식적 개념을 도출한다고 밝혔으며, 인공지능 시스템의 도덕적 정렬이 인간 판단을 그대로 모방하는 데 달려 있는 것이 아니라 도덕 추론 역량을 어떻게 배분하고 확장하느냐에 달려 있음을 시사한다고 결론지었다. 이는 AI가 갈수록 복잡한 사회적 의사결정에 관여하는 상황에서, 제한된 계산 자원을 가진 시스템이 어떤 방식으로 윤리적 판단을 내려야 하는지에 대한 이론적 논의를 심화하는 연구로 평가된다.
