机器学习面试题之线性回归

1.简单介绍一下线性回归

线性就是两个或者多个变量之间的关系符合一次函数关系，对应到图像上就是一条直线，这叫线性关系。那如果变量之间的关系不符合一次函数，图像就不是直线，也不满足线性关系。
而回归是指预测，希望通过计算回归到真实值。
线性回归是用于预测问题的有监督学习，通过学习x到y的一个映射关系，希望利用学习到的这个映射关系实现对未知的数据进行预测，另外线性回归还是一个连续值。

2.线性回归的假设函数是什么形式？

其中x0=1,θ ,θ和x都是列向量

3.线性回归的代价(损失)函数是什么形式？

预测值和真实值的差的平方和的均值

4.线性回归的求解方法

最小二乘法和梯度下降。
最小二乘法就是通过最小化误差的平方来求解模型的权重系数。

5.梯度下降

随机初始化参数，设置学习率和迭代次数，通过对损失函数求偏导更新参数，直至迭代完成或达到收敛条件

6.线性回归要求因变量符合正态分布？

是的，线性回归的假设前提符合线性关系，噪声符合正态分布，进行线性回归的前提是要符合正态分布否则回归效果不佳

7.线性回归优缺点

优点：实现简单，建模快，是许多非线性模型的基础
缺点：模型简单所以难以拟合复杂数据，对非线性的数据难以运用