学习笔记 - GreedyAI - DeepLearningCV - Lesson3 Deep-Neural-Network
第7章深度神经网络任务学习41:梯度消亡深度神经网络面临的挑战(1)梯度消亡(GradientVanishing):训练过程非常慢(2)过拟合(Overfitting):在训练数据集上表现好,在实际测试数据集上表现差梯度消亡(GradientVanishing)现象(1)神经网络中,靠近输入端网络各层的系数逐渐不再随着训练而变化,或者变化非常缓慢(2)网络层数越多,该现象越明显梯度消亡(Gradi