【nlp】2.4 GRU模型

GRU模型

  • 1 GRU介绍
  • 2 GRU的内部结构图
    • 2.1 GRU结构分析
    • 2.2 Bi-GRU介绍
    • 2.3 使用Pytorch构建GRU模型
    • 2.4 GRU优缺点¶
  • 3 RNN及其变体

1 GRU介绍

GRU(Gated Recurrent Unit)也称门控循环单元结构, 它也是传统RNN的变体, 同LSTM一样能够有效捕捉长序列之间的语义关联, 缓解梯度消失或爆炸现象. 同时它的结构和计算要比LSTM更简单, 它的核心结构可以分为两个部分去解析:

  • 更新门
  • 重置门

2 GRU的内部结构图

2.1 GRU结构分析

有了前面RNN和LSTM模型的理解,对于GRU的结构认知理解就简单多了。
【nlp】2.4 GRU模型_第1张图片当Zt=1,表示完全使用本次隐藏层信息
当Zt=0,表示完全使用上一个隐藏层信息

结构解释图:

你可能感兴趣的:(NLP自然语言处理,自然语言处理,gru,深度学习)