디지털 라이브러리[ 검색결과 ]
4세대 CKKS 동형암호 틀을 지원하는 딥뉴럴넷 특화 동형암호 최적화 컴파일러 HedgeHog
이동권, 이계진, 김수찬, 송우성, 이도형, 김훈, 조승한, 박규연, 이광근
http://doi.org/10.5626/JOK.2022.49.9.743
우리는 기존보다 사용하기 쉬운 상위 입력언어를 사용하면서도 결과물 코드의 성능이 뛰어난 새로운 4세대 동형암호 최적화 컴파일러 HedgeHog를 개발하였다. 동형암호 기술은 그 유용성에도 불구하고 동형암호에 대한 전문지식이 없는 사용자의 입장에서는 직접 성능 좋은 동형암호 코드를 작성하는 것이 매우 어렵기 때문에, 상위 입력언어를 동형연산 코드로 자동변환해주는 동형 컴파일러 기술의 중요도는 매우 높다. 하지만 대부분의 기존 동형 컴파일러들은 4세대 이전의 동형암호 틀을 기반으로 하여 실수연산을 지원하지 못하기 때문에 뉴럴넷이나 통계분석 등의 분야에 쓰일 수는 없는 실정이다. 또한 4세대 동형암호 틀을 기반으로 하는 기존 동형 컴파일러들도 덧셈, 곱셈 등의 하위 연산자들을 기반으로 한 입력언어를 사용하고 있기에 뉴럴넷 모델 등의 상위 프로그램을 기술하기 어렵다는 단점이 있고, 이 과정에서 불필요한 연산자들이 사용되어 비효율적인 결과물 코드를 생성할 위험성이 높다. 우리는 이러한 문제를 해결하기 위해 뉴럴넷 핵심 상위 연산자를 포함하는 입력언어 코드를 동형연산 코드로 자동변환해주는 최적화 컴파일러 HedgeHog를 개발하였다. HedgeHog는 기존 최고수준 4세대 동형 컴파일러인 EVA에 비해 최대 22%의 성능향상을 보인다.
적대적 예제를 활용한 딥러닝에 대한 공격 기술 연구 동향
http://doi.org/10.5626/JOK.2022.49.5.339
최근 많은 분야에서 큰 성공을 거두고 있는 딥러닝 기술은 적대적 예제를 활용한 공격 등에 취약하다. 적대적 예제를 활용한 공격이란 정상적인 입력에 사람의 눈으로 식별되지 않을 만큼 작은 노이즈를 추가해서 딥러닝 모델을 속이는 공격이다. 이러한 공격은 치명적인 결과를 초래할 수 있는데, 예를 들어 교통 표지판에 작은 노이즈를 추가해 자율주행에서 사용되는 딥러닝 모델을 공격하면 교통사고를 유발할 수 있다. 이렇듯 잠재적 위험성이 높은 적대적 예제를 활용한 공격은 세계적으로 활발히 연구되고 있음에도 아직 국내에는 이에 관한 체계적인 정리가 부족하다. 따라서 본 논문에서는 딥러닝에 대한 적대적 예제를 활용한 공격의 최신 연구 동향을 조사 및 정리한 후 한계점 및 향후 연구를 제안하여 해당 연구의 발전을 도모하고자 한다.
구조적 성질을 활용한 심층신경망의 SMT 기반 정형검증 기법
http://doi.org/10.5626/JOK.2021.48.9.998
심층신경망(Deep neural network, DNN)은 음성 인식, 이미지 분류 등의 다양한 분야에서 소프트웨어를 위하여 널리 활용되고 있다. 하지만 DNN에는 적대적 예제와 같은 예상치 못한 오류가 존재할 수 있으며, 이를 방지하기 위하여 DNN의 요구사항을 검증하기 위한 DNN 정형검증 기술이 활발하게 연구되고 있다. 본 논문에서는 DNN의 요구사항 검증의 성능을 향상하기 위하여 DNN의 구조적 성질을 활용하는 방법론을 제안한다. 본 논문에서는 DNN의 구조적 성질을 수학적으로 정의하고, ReLU를 활성함수로 가지는 DNN의 두 가지 구조적 성질을 제안하였으며 이를 이용하여 SMT 기반 DNN 검증의 성능을 향상시킬 수 있음을 보였다.
역제곱 비균일 양자화 기법을 활용한 심층신경망의 에너지 효율성 개선
http://doi.org/10.5626/JOK.2020.47.1.27
심층신경망(DNN)의 연산 복잡성은 과도한 연산량과 에너지 소비를 초래하기 때문에 제한적인 자원을 가진 임베디드 디바이스로의 DNN 적용을 어렵게 만드는 주요한 요인이다. 이를 완화하기 위해 본 논문에서는 DNN의 가중치 정밀도를 감소시키면서 기존 양자화 기법에 비해 더 많은 희소성을 부여하여 연산량과 에너지 소비를 감소시킬 수 있는 역제곱 비균일 양자화 기법을 제안한다. 서로 다른 맵핑 정책을 가진 다양한 균일/비균일 양자화 기법을 AlexNet과 VGGNet 모델에서 구현하여 CIFAR-10과 ImageNet 데이터셋을 활용한 이미지 분류 작업을 통해 제안된 역제곱 양자화 기법의 정확도와 에너지 효율성을 입증하고, 이를 더욱 향상시킬 수 있는 추가적인 학습 기법도 제시한다. 실험 결과, 제안된 역제곱 비균일기법으로 양자화된 AlexNet과 VGGNet 모델의 비트폭이 2인 경우에 완전 정밀도 기법에 비해 정확도는 각각 2.2%와 2.5%의 손실이 있지만, 에너지 효율성 측면에서는 완전 정밀도 대비 각각 63.2%와 66.5% 정도로 에너지 소비를 감소시켰다.
간질 환자 분류를 위한 DNN 기반 간질 뇌파 검출 시스템
http://doi.org/10.5626/JOK.2019.46.12.1291
간질은 발작으로 온몸이 꼬이고 입에 거품을 물며 의식을 잃는 뇌 질환으로 전 세계적으로 4~5천만에 이르는 인구가 앓고 있는 흔한 질병이다. 간질은 예측이 불가능하기 때문에 간질 환자는 항상 신체 손상의 위험에 노출되어 있다. 따라서 간질 환자를 발작 전에 분류해내어 사고를 예방하는 것이 중요하다. 본 연구에서는 간질 환자를 진단하기 위한 DNN 기반 간질 뇌파 검출 시스템을 제안한다. 정상인과 간질 환자의 뇌파 데이터를 사용하여 연구를 진행하였다. 데이터의 불균형 문제를 해결하기 위해 ADASYN 기법을 사용하였고, IPCA 기법을 사용하여 간질 뇌파 검출 시에 필요한 중요한 특징들을 추출하였다. 추출된 특징들을 DNN기반의 4가지 최적화 알고리즘에 적용하여 모델을 구축하고 성능평가를 진행하였다. 실험 결과 Nadam 알고리즘을 사용한 최적화 모델이 97.6%의 정확도와 0.997의 AUC 값으로 가장 높은 성능을 나타냈다. 이 최적화 모델을 사용하여 의사는 뇌파검사 시에 높은 정확도로 간질 환자를 분류할 수 있을 것이다.
