吴恩达机器学习笔记【课时七】

课时7-1 过拟合问题

吴恩达机器学习笔记【课时七】_第1张图片
具有高方差,泛化能力不好。
过拟合的解决办法:
吴恩达机器学习笔记【课时七】_第2张图片

课时7-2 代价函数

如下图:为了避免过拟合,假如我们再代价函数后面加上两项,要想整体最小,则后两个参数值必须极小,这相当于抹去了这两个参数,假设仍是二次函数。
吴恩达机器学习笔记【课时七】_第3张图片
所以我们可以通过在代价函数后面增加正则项避免过拟合:
吴恩达机器学习笔记【课时七】_第4张图片
λ是惩罚项,是对不同特征的取舍
假如我们给的惩罚项太大了会出现什么问题?
会出现欠拟合:
吴恩达机器学习笔记【课时七】_第5张图片

课时7-3 线性回归的正则化

正则化在线性回归的推广:
吴恩达机器学习笔记【课时七】_第6张图片
正规方程的正则项:
吴恩达机器学习笔记【课时七】_第7张图片

课时7-4 Logistic回归的正则化

吴恩达机器学习笔记【课时七】_第8张图片

你可能感兴趣的:(课程笔记,机器学习)