트랜스포머와 BERT로 구현한 한국어 형태소 분석기의 성능 분석 


47권  8호, pp. 730-741, 8월  2020
10.5626/JOK.2020.47.8.730


PDF

  요약

본 논문은 Transformer로 구현한 한국어 형태소 분석기를 다룬다. Transformer는 최근에 가장 널리 사용되는 sequence-to-sequence 모델 중 하나이다. Transformer는 인코더와 디코더로 구성되어 있는데 인코더는 원문을 고정된 크기의 벡터로 압축시키고 디코더는 이 벡터를 이용하여 형태소 분석 결과를 생성해 낸다. 본 논문에서는 또한 Transformer의 인코더를 BERT로 대체해 본다. BERT는 대용량의 학습데이터를 이용하여 미리 학습시켜 놓은 언어 표현 모델이다. 디코더에는 주의 메커니즘과 복사 메커니즘을 도입하였다. 인코더와 디코더에서의 처리 단위는 각각 어절 단위 WordPiece와 형태소 단위의 WordPiece를 사용하였다. 실험을 통해, BERT의 파라미터를 문제에 맞게 재조정했을 때의 성능이 Transformer를 임의의 값으로 초기화하여 사용했을 때에 비해 F1에서 2.9%의 성능 향상을 보임을 알 수 있었다. 또한 학습단계에서 충분히 학습되지 못한 WordPiece의 임베딩이 형태소 분석에 어떤 영향을 미치는지도 살펴보았다.


  통계
2022년 11월부터 누적 집계
동일한 세션일 때 여러 번 접속해도 한 번만 카운트됩니다. 그래프 위에 마우스를 올리면 자세한 수치를 확인하실 수 있습니다.
  논문 참조

[IEEE Style]

Y. Choi and K. J. Lee, "Performance Analysis of Korean Morphological Analyzer based on Transformer and BERT," Journal of KIISE, JOK, vol. 47, no. 8, pp. 730-741, 2020. DOI: 10.5626/JOK.2020.47.8.730.


[ACM Style]

Yongseok Choi and Kong Joo Lee. 2020. Performance Analysis of Korean Morphological Analyzer based on Transformer and BERT. Journal of KIISE, JOK, 47, 8, (2020), 730-741. DOI: 10.5626/JOK.2020.47.8.730.


[KCI Style]

최용석, 이공주, "트랜스포머와 BERT로 구현한 한국어 형태소 분석기의 성능 분석," 한국정보과학회 논문지, 제47권, 제8호, 730~741쪽, 2020. DOI: 10.5626/JOK.2020.47.8.730.


[Endnote/Zotero/Mendeley (RIS)]  Download


[BibTeX]  Download



Search




Journal of KIISE

  • ISSN : 2383-630X(Print)
  • ISSN : 2383-6296(Electronic)
  • KCI Accredited Journal

사무국

  • Tel. +82-2-588-9240
  • Fax. +82-2-521-1352
  • E-mail. chwoo@kiise.or.kr