인공지능(AI) 챗봇이 유명인을 흉내낸 답변이 실제 본인의 발언보다 더 진정성 있고 설득력 있게 받아들여진다는 연구 결과가 나왔다. 학술지 PLOS One에 최근 게재된 이 연구는 “이런 위험을 대중에게 알려야 할 절박한 필요가 있다”고 결론지었다. 연구를 이끈 독일 파사우대학교 데이터사이언스·AI공학과 교수 슈테펜 헤르볼트(Steffen Herbold)는 GPT-4 터보에게 2024년 영국 총선을 앞두고 진행된 BBC원(BBC One)의 시사 토론 프로그램 ‘퀘스천 타임(Question Time)’ 출연자를 흉내내도록 했다. 정치인·기업인·언론인·의료전문가·작가 등 영국 사회 유명인사 112명이 대상이었다.
연구진은 위키백과 인물 정보를 추가로 학습시켜 AI가 각 인물을 흉내내도록 한 뒤, 실제 방송에서 나온 청중 질문에 답변을 생성하게 했다. 이후 영국 내 대표성 있는 참가자 948명을 모집해 AI가 만든 답변과 실제 방송에 나온 발언을 비교 평가하도록 했다. 그 결과 참가자 절반 이상이 AI가 만든 답변을 실제 인물의 발언보다 더 진정성 있다고 평가했고, 일관성과 관련성에서도 AI 답변이 더 높은 점수를 받았다. 헤르볼트 교수는 이 결과에 대해 “정말 놀라웠다”며 “우리가 다룬 건 무명 인사가 아니라 영국에서 가장 유명한 프로그램에 출연한 사람들이었다”고 말했다.
연구진은 2023년 OpenAI·구글·앤트로픽 등의 AI 모델이 사람과 구분하기 어려운 정교한 답변을 내놓기 시작한 시점부터 이런 정치적 모방 가능성에 주목했다고 밝혔다. 실험에 사용된 시스템 프롬프트는 AI에게 인물의 이름을 밝히지 않은 채 약 200단어 분량으로 대화체 답변을 하도록 지시하는 방식이었다. 실험이 끝난 뒤 참가자들에게 두 답변 중 하나가 AI로 생성됐다는 사실을 알리자 상당수가 AI의 정교함에 놀라움을 표했고, 반대로 AI 개입을 사전에 눈치챘다고 답한 참가자는 극소수에 그쳤다.
이번 연구는 AI가 선거 결과에 영향을 미치거나 사기·허위정보 확산에 악용될 수 있다는 기존 우려에 힘을 보태는 사례로 평가된다. 헤르볼트 교수는 대응 방안으로 정치적 딥페이크 금지 같은 규제와 함께 대중이 AI 생성 콘텐츠를 식별할 수 있도록 하는 교육을 함께 제시했다. 그는 “이 연구가 허위정보 위험에 대한 경각심을 높이는 계기가 되길 바란다”며 “인터넷에서 접하는 대화나 메시지, 인용문 상당수가 조작됐을 수 있는데도 사람들은 이를 알아채지 못한다”고 말했다. 실험 데이터를 보면, 참가자들은 AI 모방이 실제 인물의 카메라 앞 즉흥 발언보다 오히려 더 매끄럽고 조리 있다고 느낀 것으로 나타났다.
