评估回归模型的指标:MSE、RMSE、MAE、R2、偏差和方差

在回归任务(对连续值的预测)中,常见的评估指标(Metric)有:平均绝对误差(Mean Absolute Error,MAE)、均方误差(Mean Square Error,MSE)、均方根误差(Root Mean Square Error,RMSE)和平均绝对百分比误差(Mean Absolute Percentage Error,MAPE),其中用得最为广泛的就是MAE和MSE。下面依次来进行一个大致的介绍,同时对于下面所有的计算公式:

均表示样本数量、
均表示第
个样本的真实值、
均表示第
个样本的预测值。

一,评价回归模型的指标

1,均方误差

均方误差(MSE)的定义如下,

评估回归模型的指标:MSE、RMSE、MAE、R2、偏差和方差_第1张图片

2,均方根误差

均方根误差(RMSE)是回归模型的典型指标,用于指示模型在预测中会产生多大的误差,对于较大的误差,权重较高。

评估回归模型的指标:MSE、RMSE、MAE、R2、偏差和方差_第2张图片

y是实际值,而y~ 是预测值, RMSE越小越好。

3,平均绝对误差

平均绝对误差(MAE)用来衡量预测值与真实值之间的平均绝对误差,MAE越小表示模型越好,其定义如下:

评估回归模型的指标:MSE、RMSE、MAE、R2、偏差和方差_第3张图片

4,R2分数

sklearn在实现线性回归时默认采用了[公式]指标,[公式]越大表示模型越好,其定义如下:

评估回归模型的指标:MSE、RMSE、MAE、R2、偏差和方差_第4张图片

 其中

表示真实值的平均值。可能
的好处在于其结果进行了归一化,更容易看出模型间的差距。

评估回归模型的指标:MSE、RMSE、MAE、R2、偏差和方差_第5张图片

二,偏差和方差

偏差:描述的是预测值(估计值)的期望与真实值之间的差距。偏差越大,越偏离真实数据。

方差:描述的是预测值的变化范围,离散程度,也就是离其期望值的距离。方差越大,数据的分布越分散。

评估回归模型的指标:MSE、RMSE、MAE、R2、偏差和方差_第6张图片

参考文档:

线性回归(模型的评估)

偏差和方差有什么区别?

你可能感兴趣的:(机器学习,逻辑回归,深度学习,python,数据分析)