이미지 데이터에서 도장 기반의 Distance Method를 통한 LIME과 SHAP의 정량적 비교 


50권  10호, pp. 906-911, 10월  2023
10.5626/JOK.2023.50.10.906


PDF

  요약

XAI(eXplainable AI)는 인간이 이해하기 어려운 인공신경망을 해석 가능한 방식으로 설명하는 방법이다. 하지만, 이를 수치적으로 표현하는 것은 어렵기 때문에, 여러 XAI 알고리즘 중 어떤 것이 가장 효과적이면서도 정확한지 파악하는 것은 어려운 문제이다. 본 논문에서는 도장 기반의 distance method를 사용하여 이미지 데이터인 MNIST 데이터 셋에서 도장(stamp)의 존재 여부를 예측하는 딥러닝 모델에 XAI 알고리즘으로 적용하여 생성된 설명을 통계 적기법으로 평가한다. 특히, 이 논문에서는 LIME과 SHAP 알고리즘을 distance method로 평가하여, 각 알고리즘이 제공하는 설명의 성능을 비교했다. 결론적으로, Felzenszwalb 방법을 사용한 LIME 알고리즘이 다른 LIME과 SHAP 알고리즘보다 더 효과적인 설명을 제공하는 것으로 보인다.


  통계
2022년 11월부터 누적 집계
동일한 세션일 때 여러 번 접속해도 한 번만 카운트됩니다. 그래프 위에 마우스를 올리면 자세한 수치를 확인하실 수 있습니다.
  논문 참조

[IEEE Style]

D. Song and J. Jung, "A Quantitative Comparison of LIME and SHAP using Stamp-Based Distance Method on Image Data," Journal of KIISE, JOK, vol. 50, no. 10, pp. 906-911, 2023. DOI: 10.5626/JOK.2023.50.10.906.


[ACM Style]

Dong-Su Song and Jay-Hoon Jung. 2023. A Quantitative Comparison of LIME and SHAP using Stamp-Based Distance Method on Image Data. Journal of KIISE, JOK, 50, 10, (2023), 906-911. DOI: 10.5626/JOK.2023.50.10.906.


[KCI Style]

송동수, 정재훈, "이미지 데이터에서 도장 기반의 Distance Method를 통한 LIME과 SHAP의 정량적 비교," 한국정보과학회 논문지, 제50권, 제10호, 906~911쪽, 2023. DOI: 10.5626/JOK.2023.50.10.906.


[Endnote/Zotero/Mendeley (RIS)]  Download


[BibTeX]  Download



Search




Journal of KIISE

  • ISSN : 2383-630X(Print)
  • ISSN : 2383-6296(Electronic)
  • KCI Accredited Journal

사무국

  • Tel. +82-2-588-9240
  • Fax. +82-2-521-1352
  • E-mail. chwoo@kiise.or.kr