论文记录笔记NLP(六):Skip-Thought Vectors

这篇笔记主要是结合,各种学习资源,整理而成的查找笔记,整理的不好,还望指出错误,主要是用于查找与记录。

论文记录笔记NLP(六):Skip-Thought Vectors_第1张图片

NIPS 2015论文

论文记录笔记NLP(六):Skip-Thought Vectors_第2张图片

摘要:

我们描述了一种通用、分布式句子编码器的无监督学习方法。使用从书籍中提取的连续文本,我们训练了一个编码器-解码器模型,试图重建编码段落周围的句子。语义和语法属性一致的句子因此被映射到相似的向量表示。我们接着引入一个简单的词汇扩展方法来编码不再训练预料内的单词,令词汇量扩展到一百万词。在训练模型后,我们用线性模型在8个任务上提取和评估我们的向量,包括:语义相关性,释义检测,图像句子排序,问题类型归类,以及4个基准情绪和主观性数据集。最终的结果是一个非专门设计的编码器,能够生成高度通用性的句子表示,在实践中表现良好。

论文记录笔记NLP(六):Skip-Thought Vectors_第3张图片

1 介绍

 

 

-------------未完,待完善

你可能感兴趣的:(论文记录笔记NLP(六):Skip-Thought Vectors)