핑퐁팀 ML 세미나, 그 두 번째
핑퐁 ML 리서치 사이언티스트들의 시즌 2 (Question Answering) 세미나 자료
ML 리서치 사이언티스트들의 두 번째 세미나 발표자료 묶음을 갈무리하여 올립니다. 본 세미나는 2019년 6월 19일부터 2019년 8월 2일까지 진행되었습니다. 시즌 2의 주제는 Question Answering입니다. 기존의 핑퐁과 드리미 등 스캐터랩의 대화 엔진은 범용적인 응답 문장(리액션류의 문장)들을 적절하게 답하도록 설계되었습니다. 그러다보니, 말은 잘하지만 딱 맞는 말을 하기에는 부족한 부분이 있었습니다. 따라서 핑퐁팀의 이번 시즌 세미나는 응답에 더욱 풍부한 컨텐츠를 담기 위해 외부 컨텐츠를 활용하여 적절한 응답을 생성해내는 과제인 질의 응답 시스템 (Question Answering System)에 집중되었습니다.
세미나 자료들에서 드러난 Question Answering의 트렌드는 ‘어떻게 Attention 모델을 잘 설계해서 질의와 응답의 상관관계를 나타낼 수 있을까’ 였습니다. 아울러 이 과정에서 어떻게 외부 지식을 모델링해서 넣을 수 있을까도 중요한 문제로 대두되었다고 생각합니다.
A Survey on Open-domain Question Answering (정다운)
SDNet: Contextualized Attention-based Deep Network for Conversational Question Answering (이주홍)
- SDNet: Contextualized Attention-based Deep Network for Conversational Question Answering
- Written by Chenguang Zhu et al. @ Microsoft Speech and Dialogue Research Group
- Preprinted in arXiv 2018
The Natural Language Decathlon: Multitask Learning as Question Answering (백영민)
- The Natural Language Decathlon: Multitask Learning as Question Answering
- Written by Bryan McCann et al. @ Salesforce Research
- Preprinted in arXiv 2018
Real-Time Open-Domain Question Answering with Dense-Sparse Phrase Index (김준성)
- Real-Time Open-Domain Question Answering with Dense-Sparse Phrase Index
- Written by Minjoon Seo et al. @ University of Washington, Google Research & Korea University
- Published @ ACL 2019
An End-to-End Model for Question Answering over Knowledge Base with Cross-Attention Combining Global Knowledge (서수인)
- An End-to-End Model for Question Answering over Knowledge Base with Cross-Attention Combining Global Knowledge
- Yanchao Hao et al. @ Chinese Academy of Sciences & Baidu Inc.
- Published @ ACL 2017
Multi-step Retriever-Reader Interaction for Scalable Open-domain Question Answering (구상준)
- Multi-step Retriever-Reader Interaction for Scalable Open-domain Question Answering
- Rajarshi Das et al. @ Carnegie Mellon University
- Published @ ICLR 2019
마치며
핑퐁이 사용자의 상식을 물어보는 응답에 똑똑하게 답변한다면 그 얼마나 좋은 일일까요? 아이언맨의 자비스 같은 챗봇을 만들 수 있을 텐데요. 당장은 응답을 선택하는 것에 급급하지만 앞으로 꾸준히 발전시킨다면 그런 챗봇을 만들 수 있을 것이라 믿고 저희 핑퐁 사이언티스트들은 계속 노력하겠습니다. 감사합니다.