디지털 라이브러리[ 검색결과 ]
Fair Feature Distillation Using Teacher Models of Larger Architecture
http://doi.org/10.5626/JOK.2021.48.11.1176
다양한 비전 어플리케이션에서 알고리즘의 공정성을 달성하는 것은 중요해지고 있다. MMD 기반 공정한 특징 증류(MFD)라는 최신 공정성 기법은 Maximum Mean Discrepancy (MMD) 를 사용한 특징 증류 방법을 통해 기존 방법들과 비교했을 때 정확도와 공정성을 상당히 개선시켰지만, 그들은 교사 모델의 구조가 학생 모델과 같을 때만 적용될 수 있었다. 본 논문에서는, MFD를 기반으로, 더 큰 구조를 가진 교사 모델에서의 특징 증류를 통해 불공정한 편향성을 완화하는 체계적 접근법인 MFD-R을 제안한다. 광범위한 실험을 통해 우리는 MFD-R이 다른 기준 방법이나 MFD와 비교했을 때, 더 큰 교사 모델을 사용하는 이점이 있다는 것을 보인다.
성별의 알고리즘 편향성 감소를 위한 오토인코더 기반 딥러닝 모델
http://doi.org/10.5626/JOK.2019.46.8.721
알고리즘 편향성은 알고리즘 설계과정에서 트레이닝 데이터에서의 편견이나 모델과 데이터의 특성 사이의 조합에 의해 모델에 반영되는 편향을 의미한다. 최근에는 이러한 편향성이 딥러닝 모델에서 나타날 뿐만 아니라 증폭된다는 연구가 진행되면서 편향성 제거에 관한 문제가 제기되고 있다. 본 논문에서는 성별에 의한 알고리즘 편향성을 편향-분산 딜레마의 관점에서 분석하며 편향성의 원인을 규명하였고 이를 해결하기 위해 심층 오토인코더 기반 잠재공간 일치모델을 제안한다. 우리는 딥러닝에서의 알고리즘 편향성은 모델 내부의 특징 추출부분에서 보호특징별 잠재 공간이 다르다는 것을 실험으로 보여주었다. 본 논문에서 제안하는 모델은 성별특징이 다른 데이터를 동일한 잠재공간으로 전사시킴으로써 추출된 특징의 차이를 줄여 저편향성을 달성하였다. 우리는 정량적 평가지표로 Equality of Odds와 Equality of Opportunity를 사용하여 기존모델에 비해 편향성이 낮음을 입증하고 ROC 곡선으로 통해 성별사이의 예측결과의 편차가 줄어들었음을 확인하였다.
