深度学习——Dropout层理论学习

这里写目录标题

  • 1. 什么是Dropout层
  • 2. 参考资料

1. 什么是Dropout层

Dropout可以作为训练深度神经网络的一种trick供选择。在每个训练批次中,通过忽略一半的特征检测器(让一半的隐层节点值为0),可以明显地减少过拟合现象。这种方式可以减少特征检测器(隐层节点)间的相互作用,检测器相互作用是指某些检测器依赖其他检测器才能发挥作用。
Dropout说的简单一点就是:我们在前向传播的时候,让某个神经元的激活值以一定的概率p停止工作,这样可以使模型泛化性更强,因为它不会太依赖某些局部的特征,如图1所示:
深度学习——Dropout层理论学习_第1张图片
懒~不想写了,有很好的例子的。

2. 参考资料

https://blog.csdn.net/program_developer/article/details/80737724
https://blog.csdn.net/qfikh/article/details/105491082

你可能感兴趣的:(深度学习,神经网络,深度学习)