机器学习面试题汇总

1.LR正则化L1和L2的区别?
相同点:L1正则化和L2正则化都有助于降低过拟合风险,增加模型的泛化能力.
不同点:L1正则化比L2正则化更容易活得稀疏解,将不相关特征对应的权重设为0,去除不相关特征,进行特征选择.L2正则化进行特征权重衰减。L1正则是拉普拉斯先验,L2正则是高斯先验。
2.梯度下降法和牛顿法的区别?
梯度下降是用平面来逼近局部,牛顿法是用曲面逼近局部。牛顿法是二阶收敛,梯度下降是一阶收敛,所以牛顿法就更快。二阶其实相当于考虑了梯度的梯度,所以相对更快
3.待填

你可能感兴趣的:(面试题,机器学习)