机器学习——过拟合问题

07.过拟合问题

过拟合问题

龙格现象,预测出的函数值过于复杂,以此去匹配每一个函数值和函数对象,导致过拟合
没有达到很好的预测效果,无法泛化到新的样本中

回归方程中

在训练集中过拟合的话,在测试集中的准确率往往不会高,就是预测能力不强,有偏差

解决过拟合问题的方法

  1. 减少选取变量的选择,减少特征变量
  2. 正则化:保留特征变量,减少参数

正则化

通过添加平衡值让参数减小,降低输入值的影响,手动调节参数,预测到过拟合,减小模型的学习能力
如何选择正则化参数很重要,可以减小参数值的变化程度

线性回归的正则化

把多次项的数值减小甚至为0,因为过拟合的大多数都来自与多次数的项

你可能感兴趣的:(机器学习,人工智能,算法)