【8】深度学习正则化

1、为什么使用正则化

图一欠拟合，图二正拟合，图三过拟合

2、正则化的方法

正则化通过对算法的修改来减少泛化误差，常用的策略有参数范数惩罚、提前终止、DropOut等。

2.1、L1和L2正则化

代码如下：（可以在某一层的layer中指明正则化类型和超参数）

 2.2、DropOut正则化

随机删除某些节点 

代码如下：

2.3、提前停止

代码如下：