BERT Sentence embedding基于bert的句子级别的向量表示

【搬运工】在某些情况下，比如我最近遇到的句子级别的序列标注任务，使用BERT得到句向量，是一个可以快速跑通baseline模型的选择，如何使用预训练bert表征句子向量，我自己常用的方法有以下三种

1. [CLS] token对应的encoding

最原始的方法，使用模型的[CLS] token对应的encoding，可以看huggingface的transformers首页的quick tour有简单的example，极易上手
https://github.com/huggingface/transformers

2. bert-as-service

速度超快!!
https://github.com/hanxiao/bert-as-service

3. sentence-bert(sentence-transformer)

2019年EMNLP的一篇文章，使用siamese network的框架来训练bert，其中尝试使用各种不同手段从隐层状态得到句向量，全局池化平均等
https://github.com/UKPLab/sentence-transformers