TYD深度学习入门 第六章 递归神经网络

目录

  • 课时49 递归神经网络原理
  • 课时52 LSTM网络结构 (长短期记忆网络)

课时49 递归神经网络原理

传统的神经网络,第一次传入神经网络的数据,对第二次传入的数据是没有影响的,样本之间 相互独立
TYD深度学习入门 第六章 递归神经网络_第1张图片然而在实际生活中,数据很多都是有联系的,“我在中国我说汉语”。这句话中中国和汉语就是有上下文联系的

递归神经网络,会在中间的隐藏层进行循环,保留之前的参数信息,使得之后的输入能力用得上之前的信息。
TYD深度学习入门 第六章 递归神经网络_第2张图片
TYD深度学习入门 第六章 递归神经网络_第3张图片

课时52 LSTM网络结构 (长短期记忆网络)

Long Short-Term Memory
LSTM是RNN的改进版本,它会控制参数:决定什么样的信息会被保留,什么样的信息会被遗忘

你可能感兴趣的:(神经网络)