Ridge 回归和 Lasso 回归

关于特征选择,下列对 Ridge 回归和 Lasso 回归说法正确的是?

A. Ridge 回归适用于特征选择

B. Lasso 回归适用于特征选择

C. 两个都适用于特征选择

D. 以上说法都不对

答案:B

解析:Lasso 回归会让一部分回归系数刚好可以被约束为 0,起到特征选择的效果。

Ridge 回归又称岭回归,它是普通线性回归加上 L2 正则项,用来防止训练过程中出现的过拟合。L2 正则化效果类似上一题左图,限定区域是圆,这样,得到的回归系数为 0 的概率很小,很大概率是非零的。因此,比较来说,Lasso 回归更容易得到稀疏的回归系数,有利于舍弃冗余或无用特征,适用于特征选择。

你可能感兴趣的:(机器学习基础)