적대적 예시에 대한 향상된 견고성을 위한 심층신경망 뉴런 가지치기 


50권  7호, pp. 588-597, 7월  2023
10.5626/JOK.2023.50.7.588


PDF

  요약

심층신경망은 적대적 예시의 보안 취약점이 존재하며, 이는 심층신경망의 잘못된 분류 결과를 도출한다. 본 논문에서는 정상 데이터와 적대적 예시에서의 심층신경망 뉴런 활성화 패턴이 서로 다를 것이라는 가정을 세운다. 정상 데이터에서는 심층신경망 뉴런이 활성화되지 않고, 적대적 예시에서만 활성화되는 심층신경망 뉴런을 찾아 이를 가지치기하는 보정 기법을 제안한다. 다양한 적대적 예시 생성 기법을 통해 적대적 보정을 진행하였으며, MNIST와 CIFAR-10 데이터셋을 사용하였다. MNIST 데이터셋으로 가지치기 된 심층신경망은 정상 데이터의 분류 정확도를 99% 이상으로 유지하면서, 가지치기 방식(레이블별, 모든 레이블 가지치기)에 따라 최대 100%, 70.20% 증가한 적대적 보정 성능을 확인하였다. 반면 CIFAR-10 데이터셋은 정상 데이터셋에 대하여 분류 정확도 하락을 보이지만, 가지치기 방식에 따라 최대 99.37%, 47.61% 적대적 보정 성능이 향상되었다. 이외에도 적대적 학습 기법과의 비교 분석을 통해 제안한 가지치기 적대적 보정 성능의 효율성을 확인하였다.


  통계
2022년 11월부터 누적 집계
동일한 세션일 때 여러 번 접속해도 한 번만 카운트됩니다. 그래프 위에 마우스를 올리면 자세한 수치를 확인하실 수 있습니다.
  논문 참조

[IEEE Style]

G. Lim, G. Ko, S. Lee, S. Son, "Pruning Deep Neural Networks Neurons for Improved Robustness against Adversarial Examples," Journal of KIISE, JOK, vol. 50, no. 7, pp. 588-597, 2023. DOI: 10.5626/JOK.2023.50.7.588.


[ACM Style]

Gyumin Lim, Gihyuk Ko, Suyoung Lee, and Sooel Son. 2023. Pruning Deep Neural Networks Neurons for Improved Robustness against Adversarial Examples. Journal of KIISE, JOK, 50, 7, (2023), 588-597. DOI: 10.5626/JOK.2023.50.7.588.


[KCI Style]

임규민, 고기혁, 이수영, 손수엘, "적대적 예시에 대한 향상된 견고성을 위한 심층신경망 뉴런 가지치기," 한국정보과학회 논문지, 제50권, 제7호, 588~597쪽, 2023. DOI: 10.5626/JOK.2023.50.7.588.


[Endnote/Zotero/Mendeley (RIS)]  Download


[BibTeX]  Download



Search




Journal of KIISE

  • ISSN : 2383-630X(Print)
  • ISSN : 2383-6296(Electronic)
  • KCI Accredited Journal

사무국

  • Tel. +82-2-588-9240
  • Fax. +82-2-521-1352
  • E-mail. chwoo@kiise.or.kr