NLP学习笔记-LSTM

记录下LSTM的公式,时常温习用。

LSTM

论文:S. Hochreiter and J. Schmidhuber. Long short-term memory. Neural Computation, 1997.
NLP学习笔记-LSTM_第1张图片
NLP学习笔记-LSTM_第2张图片

NLP学习笔记-LSTM_第3张图片

GRU(Gated Recurrent Unit )

论文出处:Learning phrase representations using RNN encoder-decoder for statistical machine translation.(EMNLP 2014).
NLP学习笔记-LSTM_第4张图片

你可能感兴趣的:(NLP,自然语言处理,pytorch,神经网络)