torch.nn.LSTM()函数解析

参数列表:

• input_size 输入数据的特征维数，通常就是embedding_dim(词向量的维度)
• hidden_size　LSTM中隐层的维度
• num_layers　循环神经网络的层数
• bias　用不用偏置，default=True
• batch_first 这个要注意，通常我们输入的数据shape=(batch_size,seq_length,embedding_dim),而batch_first默认是False,所以我们的输入数据最好送进LSTM之前将batch_size与seq_length这两个维度调换
• dropout　默认是0，代表不用dropout
• bidirectional默认是false，代表不用双向LSTM

输入数据:

输入数据为input和h0和c0,这里的input为(seq_length,batch_size,input_size)形状的张量 h0与c0是shape为(num_layers*num_directions,batch,hidden_size)的张量，很多人不知道这两个张量的具体含义，那么需要去了解一下LSTM的具体构造原理和训练过程，其实h0包含了在当前这个batch_size中每个句子的初始隐藏状态，即初始时间产生的中间值与当前时刻的输入共同产生的状态，num_layers就是LSTM的层数，如果bidirectional=True,num_directions=2,否则就是１，表示只有一个方向， c0表示决定初始神经元的隐藏状态值是否会影响下一时刻神经元的处理，即开关作用。h0,c0如果不提供，那么默认是０。

输出数据:

输出数据为output, (hn, cn),output是形状为(seq_length,batch_size,num_directions*hidden_size)的张量, 它包含的LSTM的最后一层的输出特征(hn) hn.shape==(num_directions * num_layers,batch,hidden_size)

hn包含的是句子的最后一个单词的隐藏状态，cn包含的是句子的最后隐藏单元的的开关状态