Acknowledgement
이 논문은 2020년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임 (No.2013-0-00109,WiseKB: 빅데이터 이해 기반 자가학습형 지식베이스 및 추론 기술 개발)
Annual Conference on Human and Language Technology (한국정보과학회 언어공학연구회:학술대회논문집(한글 및 한국어 정보처리))
- 2020.10a
- /
- Pages.274-279
- /
- 2020
- /
- 2005-3053(pISSN)
A Query-aware Dialog Model for Open-domain Dialog
입력 발화의 키워드를 반영하는 응답을 생성하는 대화 모델
- Lim, Yeon-Soo (Kyung Hee University, Department of Computer Engineering) ;
- Kim, So-Eon (Kyung Hee University, Department of Computer Engineering) ;
- Kim, Bong-Min (Kyung Hee University, Department of Computer Engineering) ;
- Jung, Heejae (Kyung Hee University, Department of Computer Engineering) ;
- Park, Seong-Bae (Kyung Hee University, Department of Computer Engineering)
- 임연수 (경희대학교 컴퓨터공학과) ;
- 김소언 (경희대학교 컴퓨터공학과) ;
- 김봉민 (경희대학교 컴퓨터공학과) ;
- 정희재 (경희대학교 컴퓨터공학과) ;
- 박성배 (경희대학교 컴퓨터공학과)
- Published : 2020.10.14
Abstract
대화 시스템은 사용자의 입력 발화에 대해 적절하고 의미 있는 응답을 생성하는 시스템으로 seq2seq 구조를 갖는 대화 모델이 주로 연구되고 있다. 그러나 seq2seq 기반 대화 모델은 입력 발화와 관련성이 떨어지는 응답을 생성하거나 모든 입력 발화와 어울리지만 무미건조한 응답을 생성하는 문제가 있다. 본 논문에서는 이를 해결하기 위해 입력 발화에서 고려해야 하는 키워드를 찾고 그 키워드를 반영하는 응답을 생성하는 모델을 제안한다. 제안 모델은 주어진 입력 발화에서 self-attention을 사용해 각 토큰에 대한 키워드 점수를 구한다. 키워드 점수가 가장 높은 토큰을 대화의 주제 또는 핵심 내용을 포함하는 키워드로 정의하고 응답 생성 과정에서 키워드와 관련된 응답을 생성하도록 한다. 본 논문에서 제안한 대화 모델의 실험 결과 문법과 입력 발화와 생성한 응답의 관련성 측면에서 성능이 향상되었음을 알 수 있었다. 특히 관련성 점수는 본 논문에서 제안한 모델이 비교 모델보다 약 0.25점 상승했다. 실험 결과를 통해 본 논문이 제안한 모델의 우수성을 확인하였다.