线性回归模型之最小二乘法(python实现)

最小二乘法(Ordinary Least Square, OLS)是用数学公式直接求解线性回归方程的参数的方法。以最简单的一元线性回归为例,公式6-4中显示一系列的X值可以求出一系列的预测值Y’,的目的是使得每一对预测的Y’和Y之间的误差(Y- Y’)最小化。由于误差有正误差有负误差,为了避免彼此抵消,需要使用误差的平方来衡量。虽然绝对值也可以避免误差抵消,但是绝对值的代数计算性不如平方好,不便于求微分。二乘表示平方,最小二乘法就表示求误差平方和最小的方法。

线性回归模型之最小二乘法(python实现)_第1张图片

参考代码如下:

线性回归模型之最小二乘法(python实现)_第2张图片

你可能感兴趣的:(机器学习,线性回归,最小二乘法,机器学习)