LSTM与GRU神经网络

1. LSTM

LSTM（Long Short Term Memory networks）神经网络: 在一定程度上解决rnn神经网络带来的长时依赖问题。

LSTM图示说明（详解）

2.GRU

GRU（Gated Recurrent Unit）,与LSTM不同之处在于GRU将遗忘门和输入门合成了一个更新门，同时网络不再额外给出记忆状态Ct，而是将输出结果作为记忆状态不断往后传，结构图如下：