AI의 기업 도입 혜택을 설파하는 보고서 자체가 AI 환각으로 가득 차 있었다는 사실이 밝혀졌다. 글로벌 ‘빅4’ 회계·컨설팅 법인 중 하나인 KPMG가 지난해 10월 발표한 보고서 “Total Experience: Redefining Excellence in the Age of Agentic AI”에 가짜 사례와 존재하지 않는 AI 기능 묘사가 다수 포함됐음을 AI 콘텐츠 탐지 도구 개발사 GPTZero의 조사팀이 확인했으며, 이는 파이낸셜타임스를 통해서도 검증됐다.
GPTZero 조사에 따르면 보고서 내 45건의 인용 가운데 실제 출처를 정확히 가리킨 것은 5건에 그쳤다. 나머지 28건은 실제 출처의 제목을 왜곡하거나 가짜 요소를 추가한 것이었고, 12건은 존재 여부를 확인하기 어려울 정도로 모호하게 기술됐다. GPTZero는 AI가 만들어내는 이러한 허위 참고문헌을 ‘바이브 인용(vibe citing)’이라고 명명했다. 인용 문제뿐 아니라 보고서에 담긴 주장의 절반가량도 허위이거나 잘못 귀속된 것으로 나타났다. 에미레이트항공이 예약 변경이 가능한 모바일 챗봇 Sara를 출시했다는 주장, UBS가 에이전틱 AI를 투자 자문·리스크 관리 전반에 통합했다는 내용, 스위스 연방철도(SBB)가 AI 에이전트로 승객 여행 계획을 최적화한다는 설명 등이 모두 해당 기관으로부터 사실과 다르다는 확인을 받았다.
이 사건의 파장이 더 큰 이유는 KPMG 같은 빅4 법인의 보고서가 학술 논문이나 후속 기사에서 높은 신뢰도로 인용되기 때문이다. GPTZero 최고경영자 에드워드 티안은 이처럼 오류가 가득한 보고서가 “정보의 우물을 오염시킬 수 있다”고 경고했다. AI가 생성한 허위 정보가 신뢰받는 2차 출처를 통해 재확산되는 ‘2차 AI 환각’ 위험을 제기한 것이다. KPMG는 성명에서 게재 콘텐츠의 정확성과 무결성을 중시한다는 입장을 밝혔고, 보고서를 이미 내린 상태로 발행 경위를 검토 중이라고 전했다.
