机器学习笔记(二)

过拟合

机器学习笔记(二)_第1张图片

如下图左边,模型出现了过拟合现象

为了解决过拟合现象, 其中一个做法是多收集数据,如右图

第二种做法是减少模型的特征数量,即x

第三种做法是正则化

机器学习笔记(二)_第2张图片
正则化就是减少x前面的参数 w的数值, 不用消除x
机器学习笔记(二)_第3张图片

正则化的梯度下降如下, 因为只是缩小了w的值,而 b的值保持不变
机器学习笔记(二)_第4张图片

正则化的工作原理就是缩小参数w的值

机器学习笔记(二)_第5张图片
假如 wj(1-0.0028) 那么wj就会一点点变小

你可能感兴趣的:(机器学习,笔记,人工智能)