机器学习之多元线性回归

多元线性回归

多元线性回归:

多元线性在一元线性回归的基础上,增加了多个特征,目标函数与一元线性回归类似,但也有区别
机器学习之多元线性回归_第1张图片
这样一比,区别自然而然就出来了!

多元线性回归的目标函数以及解析解

补充:

机器学习之多元线性回归_第2张图片

多元线性回归的目标函数

机器学习之多元线性回归_第3张图片

目标函数的解析解

机器学习之多元线性回归_第4张图片
注意
机器学习之多元线性回归_第5张图片

代码实现

#从0实现多元回归
import numpy as np 
# 创建样本数据
X = np.array([[1, 2], [2, 3], [3, 4], [5, 6]]) 
y = np.dot(X, np.array([3, 3])) + 1
# 先使用sklearn自带的库来解决 
model = LinearRegression().fit(X, y) 

res = np.matmul(np.linalg.inv(np.matmul(X.T,X)),np.matmul(X.T,y))
print ("手写代码实现线性回归模型参数为 coef: ", res[1:], " intercept: %.5f"%res[0]) 

你可能感兴趣的:(机器学习基础知识,机器学习,线性回归,回归)