질의와 관련있는 답변 생성을 위해 잠재 답변을 고려하여 질의를 인코딩하는 질의 토큰 중요도 계산기

김소언, 홍충선, 박성배

http://doi.org/10.5626/JOK.2022.49.8.601

대화 답변 생성 모델은 시퀀스-투-시퀀스 모델을 통해 큰 발전을 이루어왔음에도 불구하고 대화 답변 생성 모델은 일반적인 답변이나 주어진 질의와 관련 없는 답변을 하는 문제가 빈번하게 발생하고 있다. 이를 해결하기 위해 전통적인 로스 함수를 수정하려는 노력과 대화 생성 모델의 배경 지식 부족 문제를 해결하려는 노력이 있었지만, 이들은 일반적인 답변과 관련 없는 답변 생성을 모두 해결하지 못했다. 본 논문에서는 대화 답변 생성 모델이 질의와 상술한 문제의 원인으로 질의의 핵심을 파악하지 못하는데 들어 질의 토큰 중요도 계산기 사용을 제안한다. 또한 질의자는 청자의 특정한 답변을 유도하며 발화를 설계한다는 이론에 근거하여 질의의 내용 파악을 위해 정답 답변을 이용하는 것을 제안한다. 정성적 평가를 통해 제안하는 모델을 활용한 답변 생성기가 사용하지 않은 모델에 비해 질의와 연관된 답변을 생성할 수 있었음을 확인하였다.