사전학습 언어모델 기반 트랜스포머를 활용한 의미유사도기반 자연어이해 의도파악 방법 


47권  8호, pp. 748-760, 8월  2020
10.5626/JOK.2020.47.8.748


PDF

  요약

자연어이해는 로봇, 메신저, 자연어 인터페이스 등에 활용되는 근간 기술 중 하나이다. 본 연구에서는 자연어이해 문제 중 문장의 의도를 파악하는 의도파악기술에 있어, 전통적인 분류기술을 활용하는 것이 아닌, 문장의 의미를 벡터 형태로 가공할 수 있는 문장 및 의미틀 읽기장치를 학습시키고, 훈련문장과 질의문장의 벡터 공간상의 의미거리를 측정하여, 가장 가까운 훈련문장의 의도를 질의문장의 의도로 부착하는 방법을 제안한다. 이를 위해, 사전학습 언어모델 기반 트랜스포머를 활용하여 기호 형태의 문장 및 의미틀을 벡터 형태로 변환하는 방법을 소개한다. 한국어 기반 날씨 및 내비게이션 영역의 말뭉치와 영어 기반 항공교통 예약 영역, 음성 언어 이해 시스템 영역의 자연어 말뭉치등을 활용한 다양한 실험을 통하여 제안한 방법이 성공적으로 의미벡터를 배움을 보이고, 기존 의도파악 기술 대비 높은 성능을 가짐을 보인다.


  통계
2022년 11월부터 누적 집계
동일한 세션일 때 여러 번 접속해도 한 번만 카운트됩니다. 그래프 위에 마우스를 올리면 자세한 수치를 확인하실 수 있습니다.
  논문 참조

[IEEE Style]

S. Jung, H. Seo, H. Kim, T. Hwang, "Semantic Similarity-based Intent Analysis using Pre-trained Transformer for Natural Language Understanding," Journal of KIISE, JOK, vol. 47, no. 8, pp. 748-760, 2020. DOI: 10.5626/JOK.2020.47.8.748.


[ACM Style]

Sangkeun Jung, Hyein Seo, Hyunji Kim, and Taewook Hwang. 2020. Semantic Similarity-based Intent Analysis using Pre-trained Transformer for Natural Language Understanding. Journal of KIISE, JOK, 47, 8, (2020), 748-760. DOI: 10.5626/JOK.2020.47.8.748.


[KCI Style]

정상근, 서혜인, 김현지, 황태욱, "사전학습 언어모델 기반 트랜스포머를 활용한 의미유사도기반 자연어이해 의도파악 방법," 한국정보과학회 논문지, 제47권, 제8호, 748~760쪽, 2020. DOI: 10.5626/JOK.2020.47.8.748.


[Endnote/Zotero/Mendeley (RIS)]  Download


[BibTeX]  Download



Search




Journal of KIISE

  • ISSN : 2383-630X(Print)
  • ISSN : 2383-6296(Electronic)
  • KCI Accredited Journal

사무국

  • Tel. +82-2-588-9240
  • Fax. +82-2-521-1352
  • E-mail. chwoo@kiise.or.kr