디지털 라이브러리[ 검색결과 ]
장기 대화를 위한 다각적 주의집중 기반 생성 모델
http://doi.org/10.5626/JOK.2025.52.2.117
더욱 사람 같은 대화 모델을 실현하기 위해, 페르소나 메모리를 활용하여 응답을 생성하는 연구들이 활발히 진행되고 있다. 다수의 기존 연구들에서는 메모리로부터 관련된 페르소나를 찾기 위해 별도의 검색 모델을 이용한다. 그러나 이는 전체 시스템에 속도 저하를 일으키고 시스템을 무겁게 만드는 문제가 있다. 또한, 기존 연구들은 페르소나를 잘 반영해 응답하는 능력에만 중점을 두는데, 그 전에 페르소나 참조의 필요성 여부를 판별하는 능력이 선행되어야 한다. 따라서, 본 논문에서는 검색 모델을 활용하지 않고 생성 모델의 내부에서 다각적 주의집중 연산을 통해 메모리의 참조가 필요한지를 판별한다. 참조가 필요하다고 판단한 경우에는 관련된 페르소나를 반영하여 응답하며, 그렇지 않은 경우에는 대화 문맥에 집중하여 응답을 생성한다. 실험 결과를 통해 제안 모델이 장기적인 대화에서 효과적으로 동작함을 확인하였다.
가이드 응답의 노이즈 제거 학습을 통한 개선된 오픈 도메인 대화 생성 모델
http://doi.org/10.5626/JOK.2023.50.10.851
최근 오픈 도메인 대화 연구에서는, 검색 모델과 생성 모델의 각 장점은 융합하면서 단점은 극복시켜 결합하기 위한 연구가 활발히 진행되고 있다. 그러나 이 과정에서 생성 모델이 검색으로 가져온 응답을 전혀 반영하지 않고 응답을 생성하도록 학습되어 검색 모델을 간과하는 문제가 발생한다. 반면 이를 해결하기 위한 연구에서는 생성 모델이 검색된 응답을 그대로 복사하도록 학습되어 검색 모델에 과의존하는 문제가 발생한다. 본 논문에서는 앞서 언급한 문제를 완화하기 위한 방법을 제안한다. 전자의 문제를 완화하기 위해, 검색된 응답을 선별하고 학습 단계에서 골드 응답을 함께 사용한다. 후자의 문제를 해결하기 위해서는 골드 응답 및 검색된 응답에 노이징을 수행한다. 생성 모델은 추가된 노이즈를 제거하는 방식으로 학습하면서 응답 생성 능력을 향상시킨다. 정성 평가 및 정량 평가를 통해 제안 방법의 효과를 증명한다.
공유계층을 이용한 형태소 분석과 개체명 인식 통합 모델
http://doi.org/10.5626/JOK.2021.48.2.167
한국어 형태소 분석은 형태소 분석, 품사 태깅 과정으로 나뉜다. 형태소 분석 과정에서 형태소와 품사 후보 쌍을 추출하고, 품사 태깅 과정에서는 추출된 후보 중 문맥에 알맞은 형태소와 품사를 결정한다. 개체명 인식은 문장 내에서 인명, 지명, 기관명, 날짜, 시간 등과 같이 고유한 의미를 갖는 단어를 찾아 개체명을 부착하는 기술이다. 개체명 인식과 형태소 분석 연구는 주로 독립적으로 수행되며, 많은 개체명 인식 연구에서 품사 정보를 사용한다. 이 과정에서 형태소 분석의 오류가 개체명 인식에 치명적인 오류로 전파된다. 본 논문에서는 오류 전파를 최소화하기 위해 통합 모델을 제안한다. 형태소 분석기의 오류를 줄이기 위해 순차적 레이블 부착 문제에 효과적인 레이블 주의 집중 네트워크를 활용한다. 실험 결과, 개체명 인식과 형태소 분석의 단일 모델보다 통합 모델의 성능이 더 높음을 보였다. 또한 기존의 통합모델 보다 레이블 주의 집중 네트워크를 적용한 제안 모델이 더 높은 성능을 보였다.
