岭回归(ridge回归)、lasso回归、ElasticNet回归

作者:离散梦

欢迎大家给出宝贵的建议!

 

 

 

岭回归(ridge回归)、lasso回归、ElasticNet回归

 

 

为了防止过拟合的现象出现,引入以上优化方法。(正则化)

 

岭回归就是引入L2正则化项

lasso回归就是引入L1正则化项

ElasticNet回归就是引入L1和L2正则化项(lasso和ridge回归组合)。

公式:

 

岭回归器就是用普通最小二乘法的线性回归器。

ridge_regressor=linear_model.Ridge( alpha=0.01,fit_intercept=True,max_iter=10000 )

alpha参数控制回归器的复杂程度。希望模型对异常值不那么敏感,就需要设置一个较大的alpha值。

你可能感兴趣的:(机器学习)