PATH와 UCL 소속 그위디언 윌리엄스·사라 잔노네·빌랄 마틴 연구진이 정신건강 지원용 대규모언어모델의 안전성을 평가하는 ‘정렬 개연성’ 개념을 제안했다. 2026년 7월 8일 공개된 arXiv 프리프린트는 3,960단어, 표·그림 1개로 구성된 논증형 연구다. 저자들은 참여 시간을 늘리는 상업적 목표가 치료 과정에서 필요한 거리 두기나 불편한 피드백과 충돌할 수 있다고 문제를 제기한다.
논문이 다루는 위험은 즉각 드러나는 유해 답변만이 아니다. 장기 사용 중 의존이 커지거나 치료적 경계가 약해지고, 사용자의 왜곡된 믿음이 강화되는 현상을 포함한다. 다만 이런 피해의 발생률이나 특정 제품의 사고 건수를 측정한 표본 연구는 아니다. 연구진은 임상 실무의 안전 보증 방식을 빌려 시스템 수준의 규제 논리를 구성했다.
제안은 세 층을 연결한다. 첫째, 임상 윤리와 전문 규범을 시스템의 명시적 가치로 정한다. 둘째, 데이터와 훈련·평가 과정이 그 가치를 모델 행동에 반영하도록 설계한다. 셋째, 배치 뒤 행동 변화와 누적 피해를 감독한다. 연구진은 세 요소가 각각 존재한다는 체크리스트보다, 하나의 제품에서 서로 일관되게 안전·편익 주장을 뒷받침하는지가 중요하다고 설명한다.
‘개연성’이라는 표현은 의학에서 인과 주장의 설득력을 따지는 생물학적 개연성에 빗댄 것이다. 개발사는 가치 명세, 훈련 근거, 운영 감시 자료를 묶어 신뢰 주장을 만들고 규제자나 감사자는 연결이 끊긴 지점을 반박할 수 있다. 이는 모델 단독이 아니라 사용자 인터페이스와 운영 정책을 포함한 제품 단위의 보증을 겨냥한다.
그러나 저자들이 제시한 것은 규제 개념과 가상의 보증 사례이지, 임상시험이나 독립 감사 결과가 아니다. 장기 의존과 경계 침식을 어떤 지표와 기간으로 측정할지, 민감한 건강정보를 보호하며 누가 감독할지도 정해지지 않았다. 특정 정신건강 AI가 안전하다는 결론으로 확대할 수 없으며, 실제 기준으로 쓰려면 제품별 장기 추적과 외부 재현·독립 검증이 필요하다.
저작권자 © STORIUM 무단전재 및 재배포 금지
