（2）理解预测模型---回归模型

机器学习算法系列（2）：线性回归 | Free Will (plushunter.github.io)

 

回归模型建模流程：

1. 初始分析：分析X、Y的分布【单变量：Y是否右偏、X和Y有无异常值】
2. 变量选择：观察X和Y之间的关系，保留显著的X并放入模型【检验X、Y是否显著】
3. 验证模型假设：X和Y的函数关系【看散点图】
4. 多重共线性和强影响点：检验共线性和影响点的问题

回归分析，用以解释因果关系，

自变量：independent variable用来解释因变量的变量

因变量：dependent variable我们希望去解释的变量

1预判：参数估计

(26条消息) 四、假设检验之参数估计（一）_日常敲代码的博客-CSDN博客

 【拓展】什么是参数估计？(26条消息) 什么是参数估计？_咕噜oo的博客-CSDN博客_参数估计

2建立：线性回归方程：

(26条消息) 四、回归分析之线性回归模型构建_日常敲代码的博客-CSDN博客_线性回归模型怎么建立

 

估计方程（是一条直线，不包含截距，使得实际值与预测值的误差平方最小的直线）：

线性回归求解 正规方程 (26条消息) 线性回归的基本概念以及正规方程_辰chen的博客-CSDN博客_线性回归正规方程

3修正： 最小二乘估计

最小二乘估计是一种基于误差平方和最小化的参数估计方法。对于线性模型，其最小估计量是一种具有最小方差的无偏估计量，由最小二乘法求得的参数估计值是最优估计量，此外，最小二乘法计算简单、易于理解且具有良好的实际意义。

3.1线性回归假设

（1）关系是线性的

（2）变量之间不能存在相关性

（3）误差均值为0

4检验：方差分析

(26条消息) 参数误差统计：SSE、SSR、SST、R_square、MSE、RMSE_taotianlucky的博客-CSDN博客_sse是什么误差

假设检验：(26条消息) 四、假设检验_日常敲代码的博客-CSDN博客

SSR越大越好，SSE越小越好

 

 方差分析表如何看

常用的假设检验方法(U检验、T检验、卡方检验、F检验) - Lxk- - 博客园 (cnblogs.com)

(26条消息) 用最小二乘法OLS做回归，并解读结果_Just Jump的博客-CSDN博客_最小二乘法回归结果分析