설명가능 AI를 실제로 검증하려면 “설명할 수 있어야 한다”는 선언을 시험 가능한 요구사항으로 바꿔야 한다. 다임러 트럭 실무자 8명을 조사한 초기 연구는 기존 요구공학 기법이 이 변환을 생애주기 전체에서 충분히 지원하지 못한다고 진단했다.
참여자는 AI·머신러닝 프로젝트 경험이 최소 2년인 실무자였다. 실제 산업 시나리오에 기존 기법을 적용하면서 생각을 말로 표현하는 사고구술을 수행했고, 이후 조정된 집단 토론에 참여했다. 분석은 요구 도출, 명세, 검증의 세 단계와 단계 사이를 가로지르는 문제를 질적으로 코딩했다.
도출 단계에서는 설명과 해석의 개념 경계, 이해관계자별 설명 수준이 흔들렸다. 명세 단계에서는 자연어 요구를 테스트 가능한 기준으로 바꾸기 어려웠고 기존 표기법의 표현력도 부족했다. 검증에서는 모호한 성공 기준과 계속 변하는 규제 해석이 활동을 분절시켰다.
이 관찰을 토대로 연구진은 설명 대상, 사용자, 목적, 품질 기준을 생애주기 전체에서 연결하는 프레임워크의 방향을 제안했다. 완성된 표준이나 효과가 입증된 도구를 내놓은 것은 아니다.
표본은 한 회사의 8명이며 보고된 결과도 진행 중인 연구의 예비 분석이다. 실제 프로젝트에 프레임워크를 적용해 결함 감소, 추적성 개선, 규제 대응 시간 같은 결과를 측정하지 않았다. 자동차·상용차 조직에서 얻은 문제 목록을 범산업 효능으로 일반화할 수 없는 이유다.
arXiv:2607.11771 공개 원고에서 확인되는 핵심 가치는 설명가능성의 모호성을 단계별 운영 문제로 나눴다는 데 있다. 후속 연구에는 더 다양한 역할과 조직, 승인 주체, 테스트 지표가 필요하며 현재 공개본만으로 동료검토 완료 여부를 단정할 수 없다.
저작권자 © STORIUM 무단전재 및 재배포 금지
