overfitting

overfitting


1、early termination

overfitting_第1张图片

2、Regularization


overfitting_第2张图片



overfitting_第3张图片


overfitting_第4张图片


Dropout(jeffery Hinton)


overfitting_第5张图片



overfitting_第6张图片



overfitting_第7张图片

robust

and avoid overfitting




overfitting_第8张图片


overfitting_第9张图片


实际和 测试准确率不一致  ,测试准确率一直比实际的差 

overfitting_第10张图片


overfitting_第11张图片


overfitting_第12张图片


机器学习过拟合 的实际问题就是机器学习过于 自负,,


overfitting_第13张图片
overfitting_第14张图片


怎样 解决overfitting问题:

1、增加数据量


overfitting_第15张图片
overfitting_第16张图片

2、L1,L2 regularization 正规化 

overfitting_第17张图片

2、Dropout

overfitting_第18张图片

随机dropout 不确定的神经元  ,,从根本上解决依赖部分W

overfitting_第19张图片



overfitting_第20张图片

你可能感兴趣的:(overfitting)