디지털 라이브러리[ 검색결과 ]
검색 : [ keyword: 도장 기반의 distance method ] (1)
이미지 데이터에서 도장 기반의 Distance Method를 통한 LIME과 SHAP의 정량적 비교
http://doi.org/10.5626/JOK.2023.50.10.906
XAI(eXplainable AI)는 인간이 이해하기 어려운 인공신경망을 해석 가능한 방식으로 설명하는 방법이다. 하지만, 이를 수치적으로 표현하는 것은 어렵기 때문에, 여러 XAI 알고리즘 중 어떤 것이 가장 효과적이면서도 정확한지 파악하는 것은 어려운 문제이다. 본 논문에서는 도장 기반의 distance method를 사용하여 이미지 데이터인 MNIST 데이터 셋에서 도장(stamp)의 존재 여부를 예측하는 딥러닝 모델에 XAI 알고리즘으로 적용하여 생성된 설명을 통계 적기법으로 평가한다. 특히, 이 논문에서는 LIME과 SHAP 알고리즘을 distance method로 평가하여, 각 알고리즘이 제공하는 설명의 성능을 비교했다. 결론적으로, Felzenszwalb 방법을 사용한 LIME 알고리즘이 다른 LIME과 SHAP 알고리즘보다 더 효과적인 설명을 제공하는 것으로 보인다.
