골격(skeleton) 데이터 기반 인간 행동인식(S-HAR) 시스템에 동작 품질을 유지하면서 공격 성공률을 높이는 새로운 적대적 공격(adversarial attack) 방법이 arXiv:2606.13022 논문을 통해 공개됐다. 기존 S-HAR 공격 연구들은 노이즈 형태의 교란(perturbation)을 동작 데이터에 주입하는 방식을 사용했는데, 이로 인해 공격 후 동작의 자연스러움이 저하돼 최신 S-HAR 시스템이 이를 감지할 수 있는 취약점이 있었다. 연구팀은 이 문제의 근본 원인이 기존 적대적 공격의 최적화 과정에서 경험적 위험과 실제 위험 사이의 차이에 있다고 분석했다.
이를 해결하기 위해 연구팀은 노이즈 교란 없이 적대적 동작을 생성하는 분포 기반 공격 방법을 제안했다. 이 기법은 위험 차이(risk gap)를 최소화하면서 동작 품질을 보존한다. 또한 동작 품질을 기계적으로 평가하기 위해 실세계 자연스러움에 대한 인간 인식과 일치하는 새로운 평가 지표도 함께 제안했다. 두 개의 데이터셋에서 최신 S-HAR 방법론을 대상으로 실험을 수행한 결과, 공격 성공률과 공격 후 동작 품질 양면에서 기존 방법보다 뛰어난 성능을 보였다고 저자들은 밝혔다.
이 연구의 의의는 행동인식 AI의 보안 취약성을 실증한 데 있다. 기존 연구들이 인식할 수 있는 노이즈를 만드는 방식에 그쳤다면, 이 논문은 사람 눈에도 시스템 탐지에도 걸리지 않는 수준의 공격이 실현 가능함을 보였다. 이는 보안 카메라, 스마트 헬스케어, 자율주행 환경에서 활용되는 행동인식 시스템의 강건성 기준을 재검토해야 한다는 신호로 해석된다.
연구팀은 자신들이 제안한 품질 보존 공격이 행동인식 시스템의 강건성에 심각한 의문을 제기한다고 결론지으며, 해당 도메인에서 추가적인 방어 기법 연구의 필요성을 강조했다. 적대적 공격 연구가 방어 기술 발전의 출발점이 된다는 점에서, 이 논문은 S-HAR 분야의 안전성 향상을 위한 기초 자료로 활용될 전망이다.
저작권자 © STORIUM 무단전재 및 재배포 금지
