机器学习-线性回归

1、线性回归解决的问题

线性回归是利用被称为线性回归方程的最小平方函数对一个或者多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或者多个被称为回归系数的模型参数的线性组合。

2、一元线性回归

一元线性回归分析：找到一条直线能够最大程度上拟合二维空间中出现的点。

3、多元线性回归

多元线性回归分析：如果自变量多于1个，那么就要求一个多元函数去拟合空间中的点。

要求使得所有点到这条线的误差最小。

误差推导

误差最小化

误差优化方法：
最小二乘法
梯度下降法

4、最小二乘法

5、梯度下降法

6、线性回归的应用

通过大量样本的试验学习到线性函数，然后根据新的样本外的特征数据，预测结果。