훈련 및 검증 성능 개선을 위한 텐서플로우 병렬 처리 기법 


49권  6호, pp. 407-415, 6월  2022
10.5626/JOK.2022.49.6.407


PDF

  요약

대부분의 딥 러닝(Deep Learning) 시스템은 모델의 훈련 및 검증을 위해 많은 시간을 소모한다. 그러나, 단일 쓰레드(Single Thread) 기반의 데이터 전처리 및 배치 과정으로 인해 대기 시간(Wait Time)이 발생하고 그 결과GPU 및 CPU의 사용률을 낭비하는 경향이 있다. 본 논문에서는 멀티 쓰레드(Multi Thread) 기반으로 모델의 훈련 및 검증 과정을 효율적으로 수행하기 위한 새로운 기법을 제안한다. 제안 기법은 모델 복사 과정을 사용함으로써 훈련과 검증 과정을 최대한 중첩(Overlapping)시키며, 그 결과 전반적인 CPU와 GPU의 사용률을 향상시킨다. 제안 기법을 평가하기 위해 우리는 텐서플로우(TensorFlow)을 이용하여 합성곱 신경망(CNN)을 구현하였다. 실험 결과, 제안 기법이 기존 기법 대비 전체 훈련 및 검증 시간을 22.4% 단축시키는 것을 확인할 수 있었다.


  통계
2022년 11월부터 누적 집계
동일한 세션일 때 여러 번 접속해도 한 번만 카운트됩니다. 그래프 위에 마우스를 올리면 자세한 수치를 확인하실 수 있습니다.
  논문 참조

[IEEE Style]

J. Choi and D. Kang, "A Parallel Processing Scheme on TensorFlow for Improving Training and Validation Performance," Journal of KIISE, JOK, vol. 49, no. 6, pp. 407-415, 2022. DOI: 10.5626/JOK.2022.49.6.407.


[ACM Style]

Jinseo Choi and Donghyun Kang. 2022. A Parallel Processing Scheme on TensorFlow for Improving Training and Validation Performance. Journal of KIISE, JOK, 49, 6, (2022), 407-415. DOI: 10.5626/JOK.2022.49.6.407.


[KCI Style]

최진서, 강동현, "훈련 및 검증 성능 개선을 위한 텐서플로우 병렬 처리 기법," 한국정보과학회 논문지, 제49권, 제6호, 407~415쪽, 2022. DOI: 10.5626/JOK.2022.49.6.407.


[Endnote/Zotero/Mendeley (RIS)]  Download


[BibTeX]  Download



Search




Journal of KIISE

  • ISSN : 2383-630X(Print)
  • ISSN : 2383-6296(Electronic)
  • KCI Accredited Journal

사무국

  • Tel. +82-2-588-9240
  • Fax. +82-2-521-1352
  • E-mail. chwoo@kiise.or.kr