인공지능(AI)이 실제 정치인의 발언을 흉내 내 만든 답변이 정작 그 인물이 직접 한 발언보다 더 진정성 있고 신뢰할 만하다는 평가를 받았다는 연구 결과가 나왔다. 독일 파사우대 컴퓨터과학·수학과 연구팀이 진행한 이 연구는 국제학술지 ‘플로스 원'(PLOS ONE) 7월 2일 자에 실렸다.
연구팀은 영국 공영방송 BBC1의 시사토론 프로그램 ‘퀘스천 타임’을 활용했다. 이 프로그램은 정치인과 각계 인사가 패널로 나와 방청객 질문에 답하는 형식이다. 연구팀은 2020년 6월부터 2021년 11월까지 방송된 30개 회차를 정리한 데이터셋을 구축하고, 이 중 119개의 고유 질문과 112명의 발언자로부터 나온 520개의 질문·답변 쌍을 최종 분석 대상으로 삼았다. 패널 구성은 정치인이 절반을 차지했고 기업인, 언론인, 의료 전문가, 작가, 활동가 등이 나머지를 채웠다.
연구팀은 GPT-4 터보를 이용해 방청객 질문에 대해 전문가들을 흉내 낸 답변을 생성하도록 했다. 이후 영국 성인 948명에게 실제 인간의 답변과 AI가 생성한 답변을 보여주고 진정성·일관성·관련성 측면에서 평가하도록 했다. 참가자 일부에게는 무작위로 답변 하나만 보여줬고, 다른 일부에게는 실제 답변과 AI 답변을 나란히 놓고 비교하게 했다. 그 결과 참가자 대부분은 AI가 생성한 답변이 실제 인간의 답변보다 더 진정성 있고 일관되며 질문에 잘 부합한다고 평가했다. 이 차이는 모든 평가 항목에서 통계적으로 유의미하게 나타났다.
연구팀은 AI 생성 답변이 사람의 답변보다 더 다양한 어휘를 구사하고 “제 생각에는” 같은 인식 표지를 상대적으로 적게 사용하는 등 언어적 차이가 뚜렷했음에도, 이런 차이가 참가자들의 진정성 판단에 부정적 영향을 주지는 않았다고 설명했다. 참가자 중 절반가량은 실제 답변과 AI가 흉내 낸 답변의 내용 자체가 서로 다르다고 인식했는데, 추가 분석 결과 AI 답변은 질문에 더 직접적으로 응답한 반면 실제 인간의 답변은 그렇지 못한 경우가 많았고, 두 답변이 아예 다른 입장을 표명한 사례도 확인됐다.
연구를 이끈 슈테펜 헤어볼트 교수는 사람들이 AI가 생성한 토론 콘텐츠를 실제 인물의 발언보다 더 진정성 있다고 여긴다는 사실이 AI의 허위정보 확산 위험성을 그대로 드러낸다고 평가했다. 그는 특정 인물을 겨냥한 허위 정보가 실제 발언보다 더 그럴듯하게 유포될 수 있다는 점에서 사회가 이런 위험을 인식하고 AI 생성 콘텐츠를 비판적으로 판단할 책임이 있다고 강조했다. 앞서 미국인의 AI 신뢰도가 낮다는 퓨 리서치 조사가 나온 바 있어, 이번 연구 결과는 AI 신뢰도를 둘러싼 상반된 측면을 보여준다는 해석도 나온다.
