【TensorFlow实战笔记】通俗详述RNN理论,LSTM理论,以及LSTM对于PTB数据集进行实战
一、RNN顾名思义,循环则神经元有前后的联系,而不光是像FCN(全连接)那样的只有输入和输出的同时间的输入输出,也可以说这种网络没有利用到时间的信息,更准确的说应该是一种序列信息,不管是位置序列、还是时间序列。1.结构从网络结构上,循环神经网络会记忆之前的信息,并利用之前的信息影响后面结点的输出。也就是说,循环神经网络的隐藏层之间的结点是有连接的,隐藏层的输入不仅包括输入层的输出,还包括上一时刻隐