Multi-View Domain Adapted Sentence Embeddings for Low-Resource Unsupervised Duplicate Question Detec

Multi-View Domain Adapted Sentence Embeddings for Low-Resource Unsupervised Duplicate Question Detection

Abstract

• 在低资源情况下解决特定领域社区问答论坛中的 Duplicate Question Detection (DQD) 问题
• 提出 multi-view framework MV-DASE
  • 通过 Generalized Canonical Correlation Analysis 对 sentence encoders 进行集成
    • generic and domain-specific averaged word embeddings
    • domain-finetuned BERT
    • Universal Sentence Encoder
  • 仅使用无标注数据
• 评估数据集：
  • CQADupStack
  • low-resource Stack Exchange forums
• 通过结合不同 encoder 的优势，超过以下 baseline
  • BM25
  • single-view systems
  • recent supervised domain-adversarial DQD method

1 Introduction

特定领域中的 Community Question Answering (CQA) 中的一个主要挑战是语言的用法与通用领域略有不同。下面是通用领域上训练的 GloVe 和特定 CQA 论坛上训练的 FastText embeddings