神经网络模型之GRU门控循环单元

GRU门控循环单元
原理：内部的Reset gate和Update gate是可训练的 并且他们可以影响隐藏状态和输入特征的大小，Rt和Zt的取值都是在0-1之间，这样功能就有点类似于dropout，不过其中的参数是可学习的。就像一个动态的dropout
性质：整个GRU是可学习的，当堆砌的神经网络进行层与层的跨越的时候就可以通过GRU整合上一层的特征和本层特征，传递至下一层。确保能够使新的特征向量包含真正需要的特征。