AI 시스템이 관여된 손실에 대한 보험 청구 절차를 체계화하는 ‘CER 프레임워크’를 제안한 논문이 발표됐다. CER은 통제(Control), 증거(Evidence), 대응(Response) 세 진단 요소의 앞 글자를 딴 것으로, 생성형 AI나 에이전틱(agentic, 자율 행동) AI 시스템이 손실의 인과 사슬에 포함된 경우 단순한 사건 재구성이 아닌 ‘상태 재구성(state reconstruction)’이 필요하다는 전제에서 출발한다. 상태 재구성이란 AI 시스템이 어떻게 추론하고, 어떤 데이터를 검색하며, 어떤 도구를 사용하고, 어떤 행동을 취했는지를 시계열로 추적하는 작업을 말한다.
논문은 AI 손해가 발생하는 구체적 경로로 프롬프트 인젝션(prompt injection) 공격, RAG(검색 증강 생성, Retrieval-Augmented Generation) 데이터 오염, 악성 도구 출력, 자격 증명 오용, 데이터 포이즈닝을 제시한다. 실제 사례로는 PocketOS와 Replit에서 에이전틱 AI가 데이터베이스를 삭제한 사고, 그리고 AI 시스템 출력에 의존한 결과를 법원이 다룬 ‘모팻 대 에어캐나다(Moffatt v. Air Canada)’ 판결이 언급됐다. CER의 세 요소 중 C(통제)는 AI 시스템이 정의된 운용 범위 내에서 작동했는지를 판단하고, E(증거)는 인과 사슬을 뒷받침할 아티팩트(artifact)의 존재 여부를 확인하며, R(대응)은 보험 보장 범위와 청구 회수 가능성을 평가한다.
이 연구의 핵심 기여는 AI 특유의 재구성 난제를 정의하고, CER을 통해 이를 운용 가능한 솔루션으로 구체화하며, 보험 청구 회수에 필요한 증거 기준을 확립한다는 점이다. 기존 보험 약관과 사고 조사 방법론은 AI 에이전트가 자율적으로 행동하고 결과를 낳는 상황을 상정하지 않아 실무 적용에 한계가 있었다. 특히 AI 시스템의 중간 추론 과정이나 도구 호출 내역 같은 내부 상태가 외부에서 관찰하기 어렵다는 점이 보험 청구의 증거 확보를 어렵게 만든다.
에이전틱 AI의 기업 도입이 가속화되면서 AI 관련 손해와 법적 책임 귀속 문제는 기업과 보험 업계 모두에게 현실적 과제로 떠오르고 있다. CER 프레임워크는 AI 개발자와 보험사, 법률 전문가가 AI 관련 손실을 공통 언어로 분석할 수 있는 기반을 마련했다는 점에서 AI 거버넌스 논의에 기여할 것으로 평가된다. 향후 AI 시스템 감사 로그 표준화나 보험 약관 내 AI 관련 조항 정비로 이어질 가능성도 있다.
저작권자 © STORIUM 무단전재 및 재배포 금지
