자율주행차의 눈 역할을 하는 라이다(LiDAR) 기반 3D 객체탐지 인공지능 모델들이 적대적 공격에 얼마나 취약한지를 종합적으로 분석한 연구 결과가 아카이브(arXiv)에 공개됐다. 연구진은 최근 라이다 전용 3D 객체탐지 모델들이 벤치마크 데이터셋에서 탐지 정확도를 크게 끌어올렸지만, 정작 적대적 강건성에 대한 검증은 충분히 이뤄지지 않았다는 문제의식에서 이번 연구를 시작했다고 밝혔다.
논문에 따르면 라이다 전용 3D 객체탐지 분야의 적대적 강건성 연구 자체가 매우 드물고, 그나마 존재하는 소수의 연구도 이미 구식이 된 초기 모델들에만 국한돼 있었다. 자율주행차가 실제 도로에서 마주칠 수 있는 악의적 조작이나 예기치 못한 입력에 최신 모델이 어떻게 반응하는지에 대한 검증 공백이 크다는 지적이다.
연구진은 또 하나의 구조적 문제로 기존 평가 체계가 평균정밀도(mAP)라는 단일 지표에만 의존해왔다는 점을 짚었다. mAP는 탐지 정확도를 종합적으로 보여주는 지표이지만, 모델이 공격에 노출됐을 때 예측 결과가 구조적으로 어떻게 무너지는지, 혹은 어떤 예측 편향이 발생하는지 같은 세부 요인은 포착하지 못한다는 것이다. 이런 평가 방식의 사각지대를 메우기 위해 연구진은 보다 다각적인 분석 프레임워크를 제안했다고 설명했다.
자율주행 인식 시스템의 안전성 검증은 상용화를 앞둔 완성차·모빌리티 업계에서 핵심 과제로 다뤄지고 있다. 라이다는 카메라 기반 인식 대비 조도 변화에 강하다는 장점 때문에 다수의 자율주행 스택에서 핵심 센서로 채택돼 왔으나, 정작 그 인식 모델이 적대적 환경에서 얼마나 안정적으로 동작하는지는 상대적으로 덜 조명돼 온 영역이다. 국내에서도 자율주행 신뢰성 평가 체계를 구축하려는 완성차사와 연구기관들이 이 같은 국제 학계의 평가 프레임워크 논의를 주시할 것으로 보인다.
연구진이 구체적으로 어떤 모델들을 대상으로 어떤 공격 시나리오를 적용했는지, 그 결과 어떤 정량적 취약점이 드러났는지에 대한 세부 내용은 초록만으로는 확인되지 않는다. 다만 이번 연구가 mAP 중심의 단선적 평가에서 벗어나 구조적·예측적 요인을 함께 고려하는 다차원 평가 체계로의 전환을 제안했다는 점에서, 향후 자율주행 인식 모델의 안전성 검증 방법론 논의에 참고점이 될 것으로 전망된다.
저작권자 © STORIUM 무단전재 및 재배포 금지
