Seq2seq模型以及Beam Search

seq2seq模型及Beam search

Seq2seq模型以及Beam Search_第1张图片

 

Seq2Seq是一个Encoder-Deocder结构的模型,输入是一个序列,输出也是一个序列。

Encoder将一个可变长度的输入序列变为固定长度的向量,Decoder将这个固定长度的向量解码成可变长度的输出序列。

目标是最大化该目标函数:

 

seq2seq模型种类

  • one to one 结构,仅仅只是简单的给一个输入得到一个输出,此处并未体现序列的特征,例如图像分类场景。

  • one to many 结构,给一个输入得到一系列输出,这种结构可用于生产图片描述的场景。

  • many to one 结构,给一系列输入得到一个输出,这种结构可用于文本情感分析,对一些列的文本输入进行分类,看是消极还是积极情感。

  • many to many

你可能感兴趣的:(自然语言处理,seq2seq,bean,search,贪心算法)