什么是模型的欠拟合、过拟合？

01

欠拟合

概念：模型在训练集、验证集和测试集上均表现不佳的情况，即我们的模型在效果上偏差较大。

产生的主要原因：

1、模型的复杂程度过低，无法很好的对数据进行拟合

2、用于训练的有效特征量过少，模型无法学到有效的模式

解决方法：

1、模型复杂化

对同一个算法复杂化，例如回归模型添加更多的高次项，增加决策树的深度，增加神经网络的隐藏层数和隐藏单元数等；弃用原来的算法，使用一个更加复杂的算法或模型。例如用神经网络来替代线性回归，用随机森林来代替决策树等。

2、增加更多的特征，使输入数据具有更强的表达能力

特征挖掘十分重要，尤其是具有强表达能力的特征，往往可以抵过大量的弱表达能力的特征。特征的数量往往并非重点，