【机器学习】线性回归常用的几种衡量指标

一、MSE(Mean Squared Error)

名称:均方误差

公式:\frac{1}{m} \sum_{i=1}^{m}(y_{m}-\hat{y_{m}})^2

 

二、RMSE(Root Mean Squared Error)

名称:均方根误差

公式:\sqrt{MSE}=\sqrt{\frac{1}{m} \sum_{i=1}^{m}(y_{m}-\hat{y_{m}})^2}

三、MAE(Mean Absolute Error)

名称:平均绝对值误差

公式:\frac{1}{m} \sum_{i=1}^{m}\left | y_{m}-\hat{y_{m}} \right |

 

注:上述衡量指标的局限:同一个模型,解决不同问题,因为数量量级可能不同,所以最终的结果无法横向对比,如果将最终的结果映射到[0,1]区间内,这样就可以横向比较哪个模型能更好的解决此问题,R Squared即可满足此要求。

四、R Squared(最好的衡量)

名称:R Squared

公式:R^2 = 1 - \frac{SS_{residual}}{SS_{total}} = 1 - \frac{\sum (\hat{y}-y)^2)}{\sum (\bar{y}-y)^2)} = 1 - \frac{\frac{\sum_{i=1}^{m}(\hat{y}-y)^2)}{m}}{\frac{\sum_{i=1}^{m} (\bar{y}-y)^2)}{m}} = 1 - \frac{MSE}{Var}

相关说明:

1)R^2 <= 1

2)原则上,R^2越大越好,当模型与真实值一直时,R^2 = 1,当模型与瞎猜结果一致时,R^2 = 0

3)如果R^2 < 0,说明学习到的模型还不如瞎猜准,可能数据根本不存在任何线性关系

 

 

 

 

 

你可能感兴趣的:(机器学习)