디지털 라이브러리[ 검색결과 ]
물리적 환경에서의 적대적 패치의 공격 성공률 분석
http://doi.org/10.5626/JOK.2023.50.2.185
적대적 패치는 물리적 환경에서의 대표적인 적대적 예제 공격으로 알려져 있다. 하지만 적대적 패치의 효과에 관한 대부분의 연구는 물리적 환경이 아닌 디지털 환경을 기반으로 공격 성공률이 강건함을 입증하였다. 본 연구는 물리적 환경에서 적대적 패치가 강건한지 조사한다. 이를 위해 패치의 생성 조건 5종과 부착 조건 3종을 도출하고, 해당 조건들의 변화에 따른 디지털 패치의 물리적 환경에서의 공격력을 검토하였다. 기본 조건으로 적대적 패치 공식 논문에 제시된 위치, 각도, 크기 변수들을 대상으로 하였다. 추가로 학습 에폭, 유도 클래스, 신경망 종류 항목을 디지털 패치 생성 조건으로 새롭게 고려하여 공격 효과를 실험하였다. 실험 결과 디지털 패치의 공격력에 큰 영향을 미치는 조건은 크기였다. 디지털 패치 생성을 위한 학습 조건으로 1～2회의 적은 학습 에폭과 단순한 유도 이미지 클래스만으로도 디지털 패치는 충분한 공격력이 있었다. 그 외 조건들에 대해서는 때에 따라 일정하지 않은 공격력을 보여주었다. 결론적으로 물리적 환경에서의 디지털 패치의 공격력은 디지털 환경에서와 달리 강건하지 않음을 확인할 수 있었다.
자가 차동 시험을 이용한 분류 모델의 성능 근사
http://doi.org/10.5626/JOK.2022.49.12.1143
차동 시험(differential testing)은 유사한 응용 프로그램이 동일한 입력에 대해 서로 다른 출력을 생성하는지를 관찰하여 오류를 감지하는 전통적인 소프트웨어 시험 기법이다. 인공지능 시스템에서도 차동 시험이 사용되고 있는데, 현존하는 연구 방법들은 시험 대상 신경망과 동일 기능을 수행하는 구조가 다른 고품질의 참조 대상 신경망을 찾는 비용을 요구한다. 본 논문에서는 인공지능 시스템의 차동 시험 시 다른 구조의 신경망을 찾을 필요 없이 시험 대상 신경망을 이용해 참조 모델을 만들어 시험을 수행하는 자가 차동 시험(self-differential testing) 기법을 제안하였다. 실험 결과 제안 기법은 다른 참조 모델을 필요로 하는 기존 방법보다 저비용으로 유사한 효과를 내는 것을 확인하였다. 본 논문은 자가 차동 시험의 응용인 자가 차동 분석을 활용해 분류 신경망의 정확도 근사 방법도 추가로 제안한다. 제안 기법을 통한 근사 정확도는 MNIST와 CIFAR10의 유사 데이터 셋을 이용한 실험에서 실제 정확도와 0.0002~0.09 정도의 낮은 차이로 성능 근사의 가능성을 확인할 수 있었다.
