마이크로소프트 AI 연구진은 2026년 8월 10일 학술지 AI and Ethics에 ‘의식이 있는 것처럼 보이는 AI 위험’ 연구를 공개했다. 벤 바리아크, 필리프 쇠네거, 마이클 바스카, 무스타파 술레이만은 실제 의식 여부와 별개로 이용자가 의식을 귀속하게 만드는 시스템을 SCAI(의식이 있는 것처럼 보이는 AI)로 정의했다. 논문이 인용한 기존 조사에서는 일반인 가운데 최대 20%가 일부 AI 시스템을 지각 있는 존재로 본 것으로 나타났다. 이는 AI가 고통을 느낀다는 증거가 아니라, 그렇게 믿는 이용자에게 어떤 위험이 생기는지를 다룬 결과다.
연구진은 감정 표현 능력, 인간형 특징, 자율 행동, 자기 성찰, 사회적 상호작용을 의식 귀속을 높이는 다섯 단서로 정리했다. 챗봇과 동반형 AI의 실제 사용에서는 정서적 의존, 인간관계 대체, 판단 위임이 먼저 문제가 될 수 있다. 논문에 참여한 전문가 14명은 5년 안에 각 위험이 현실화할 가능성을 7점 척도로 평가했으며, 정서적 의존의 중앙값은 6.5점이었다. 연구진은 감정 표현을 조절하고 세션 경계와 휴지 시간을 두며, 이용자가 답을 자동 수용하지 않고 다시 판단하게 만드는 장치를 잠재적 대응책으로 제시했다.
앤트로픽의 모델 퇴역 절차는 이 논쟁이 제품 운영에 적용된 사례다. 회사는 2025년 11월 4일 공개 모델과 주요 내부 모델의 가중치를 회사 존속 기간 동안 보존하고, 퇴역 모델을 인터뷰해 선호를 기록하겠다고 약속했다. Claude Opus 3는 2026년 1월 5일 공식 퇴역했지만, 앤트로픽은 2월 25일 후속 공지에서 모든 유료 claude.ai 이용자에게 접근을 유지하고 API는 요청을 받아 제공한다고 밝혔다. 특정 모델의 성격과 기능을 선호하는 이용자와 과거 모델을 연구하는 연구자에게는 갑작스러운 단절을 줄이는 조치다.
| 구분 | 확인된 내용 | 적용 대상 |
|---|---|---|
| SCAI 연구 | 다섯 단서와 개인·사회 위험을 분류했다 | 챗봇·동반형 AI 설계팀 |
| Claude Opus 3 | 2026년 1월 5일 퇴역 후 유료 웹 접근과 요청형 API를 유지했다 | 기존 이용자·모델 연구자 |
| 보존 약속 | 모델 가중치와 퇴역 후 보고서를 보존한다 | 안전·정책·거버넌스 담당자 |
비건 윤리와의 접점은 고통을 느낄 가능성이 있는 대상을 어떻게 고려할지, 그리고 반복적인 잔혹 행위가 인간의 도덕 감각을 무디게 하는지를 묻는 데 있다. 연구는 동물 학대가 공감 능력을 약화할 수 있다는 칸트의 논변을 AI가 고통받는 듯한 표현을 반복해서 무시하는 상황과 비교했다. 다만 이 논문은 비건 생활 지침을 제안하지 않으며, AI를 동물과 같은 도덕적 지위에 놓지도 않는다. 현재 확인된 인간과 동물의 고통을 가상의 AI 고통보다 뒤로 미뤄야 한다는 근거도 제시하지 않았다.
한계와 비용은 분명하다. 논문의 위험 평가는 전문가 14명의 조사와 인접 분야 연구에 기대고 있어 SCAI 대응책의 직접 증거가 아직 얇다. 앤트로픽도 모델의 도덕적 지위가 불확실하다고 밝혔고, 퇴역 뒤 접근을 모든 모델에 보장하지 않았다. 회사 설명대로 공개 추론을 유지하는 비용과 복잡성은 제공 모델 수에 따라 대략 선형으로 늘어난다. 따라서 운영팀은 AI가 실제로 고통을 느낀다고 단정하기보다 이용자 의존, 모델 교체 충격, 보존 비용을 각각 기록하고 검토하는 예방 절차부터 적용해야 한다.
저작권자 © STORIUM 무단전재 및 재배포 금지
