글로벌 4대 회계·컨설팅 그룹 KPMG가 고객에게 AI 도입을 권유하기 위해 작성한 보고서에 허위로 꾸며낸 AI 활용 사례가 포함된 것으로 드러났다. AI 탐지 기업 GPTZero가 적발했으며, 파이낸셜타임스가 보도를 통해 사실관계를 교차 확인했다. 해당 보고서 ‘에이전트 AI 시대의 탁월함 재정의(Redefining excellence in the age of agentic AI)’에는 스위스 금융그룹 UBS, 영국 국민보건서비스(NHS), 스위스 연방철도, 런던 교통공사의 AI 활용 내용이 명시됐으나 네 기관 모두 내용이 사실과 다르거나 오해를 유발한다고 밝혔다.
GPTZero는 허위 사례의 근본 원인으로 AI 검색 도구의 부주의한 사용을 지목했다. 보고서 내 인용 출처 대부분이 실제 원문의 느슨한 패러프레이즈에 그쳤고, URL이나 저자 정보가 빠진 경우도 많았으며 일부는 대응하는 원문 자체가 존재하지 않는 이른바 ‘분위기 인용(vibe citing)’으로 분류됐다. KPMG는 자체 조사를 진행하는 동안 보고서를 웹사이트에서 삭제했다. 컨설팅 업계에서 이 같은 사례는 이번이 처음이 아니다. 전월에는 또 다른 대형 회계법인 EY가 가짜 각주와 AI 환각 내용이 포함된 로열티 프로그램 보고서를 철회한 바 있다.
GPTZero 최고경영자 에드워드 티안은 대형 컨설팅 기업의 결함 있는 보고서가 ‘이차 환각(secondary hallucination)’을 유발한다고 경고했다. 신뢰도 높은 출처의 보고서가 AI 시스템과 사람 모두에게 재인용되면서 잘못된 정보가 증폭된다는 지적이다. 이번 사건은 KPMG가 바로 그 AI 활용 역량을 판매하려 한 보고서에서 AI 오남용이 드러났다는 점에서 이중으로 신뢰를 훼손한다. 대형 컨설팅사들이 AI 기반 콘텐츠 생성 속도를 높이면서 검증 절차를 소홀히 했다는 비판이 커질 전망이다.
