관계적 메모리 코어 구조를 적용한 변분적 순환신경망 


47권  2호, pp. 189-194, 2월  2020
10.5626/JOK.2020.47.2.189


PDF

  요약

순차적 데이터(sequential data)를 위한 생성모델(generative model) 학습을 위해서 순환신경망(RNN; recurrent neural network) 기반의 모델들이 제안되고 있는 가운데, 순환신경망에 변분오토인코더(VAE; variational autoencoder) 의 요소를 도입하여 복잡한 순차적 데이터 분포를 표현 가능하게 하는 변분적 순환신경망(VRNN; variational recurrent neural network)이 제시된 바 있다. 한편, 최근 셀프어텐션(self-attention) 기반의 메모리 구조를 RNN에 도입하여 입력 간의 관계를 고려할 수 있는 구조를 가진 관계적 메모리 코어(RMC; relational memory core)가 제안되어 순차적 데이터 처리에 있어서 성능을 높인 바 있다. 이 논문에서는 관계적 메모리 코어 구조를 VRNN에 도입해 순차적 입력데이터들 간에 한층 심화된 관계적 추론을 가능하게 하는 모델인 변분-관계적 메모리 코어(VRMC; varitional relational memory core)를 제안한다. 또한, 음악생성 데이터 기반의 실험을 통해 기존 VRNN보다 비해 성능이 나아짐을 보이고 이를 통해 본 연구에서 제시한 모델이 순차적 데이터를 모델링하는 데 있어서 더 효과적임을 보이려 한다.


  통계
2022년 11월부터 누적 집계
동일한 세션일 때 여러 번 접속해도 한 번만 카운트됩니다. 그래프 위에 마우스를 올리면 자세한 수치를 확인하실 수 있습니다.
  논문 참조

[IEEE Style]

G. Kim, S. Seo, S. Kim, K. Kim, "Variational Recurrent Neural Networks with Relational Memory Core Architectures," Journal of KIISE, JOK, vol. 47, no. 2, pp. 189-194, 2020. DOI: 10.5626/JOK.2020.47.2.189.


[ACM Style]

Geon-Hyeong Kim, Seokin Seo, Shinhyung Kim, and Kee-Eung Kim. 2020. Variational Recurrent Neural Networks with Relational Memory Core Architectures. Journal of KIISE, JOK, 47, 2, (2020), 189-194. DOI: 10.5626/JOK.2020.47.2.189.


[KCI Style]

김건형, 서석인, 김신형, 김기응, "관계적 메모리 코어 구조를 적용한 변분적 순환신경망," 한국정보과학회 논문지, 제47권, 제2호, 189~194쪽, 2020. DOI: 10.5626/JOK.2020.47.2.189.


[Endnote/Zotero/Mendeley (RIS)]  Download


[BibTeX]  Download



Search




Journal of KIISE

  • ISSN : 2383-630X(Print)
  • ISSN : 2383-6296(Electronic)
  • KCI Accredited Journal

사무국

  • Tel. +82-2-588-9240
  • Fax. +82-2-521-1352
  • E-mail. chwoo@kiise.or.kr