자율주행차 환경에서 자연 요소를 포함한 물리적 적대적 공격을 통한 취약점 분석

조규찬, 임우상, 정수영, 김현길, 서창호

http://doi.org/10.5626/JOK.2024.51.10.935

인공지능 기술의 발전은 컴퓨터 비전 분야에 많은 영향을 줌과 동시에 강제로 모델의 오분류를 일으켜 공격하는 적대적 공격에 대한 많은 취약점이 발견되었다. 특히, 물리적 환경에서의 적대적 공격은 자율주행차 시스템에서 심각한 위협이 될 수 있음이 발견되었다. 이 중, 적대적 패치처럼 인위적으로 생성하여 부착하는 공격 외에도 자연 요소를 활용하여 오분류를 일으키는 공격들이 존재한다. 특히, 낙엽과 같은 자연 요소에 의해 차량 표지판이 방해받는 상황은 자율주행 환경에서 자주 발생되는 요소 중 하나이다. 이는 수시로 움직이므로 찰나의 순간에도 오분류가 발생되는 취약점이 반드시 존재한다. 따라서 본 논문에서는 낙엽을 자연적 장애 요소로 제안하여 적대적 패치 공격에 대한 연구를 수행하였다. 구체적으로 기존 적대적 공격의 연구 동향을 살펴보고 자연 요소 기반의 실험 환경을 제시하며 실험 결과를 분석하여 물리적 환경에서의 낙엽을 활용한 적대적 공격이 자율주행차에 미치는 취약점을 분석한다.