数学建模 --- 多元线性回归扰动项满足的条件

扰动项 $\mu$为无法观测且满足一定条件 — 球形扰动项

球形扰动项

• 同方差
  每一个扰动项方差相同
  ${\sigma }^2({\mu }_i)={\sigma }^2({\mu }_j)$
• 无自相关
  ${\mu }_i和{\mu }_j(i\ne j)相关系数或者协方差为0$

异方差

出现的问题

• 假设检验无法使用(构造的统计量失效)
  $\therefore$不能看出求得的回归系数是否是显著的
• OLS(普通最小二乘法)估计量不再是最优线性无偏估计量

解决

1. 法1. 使用OLS + 稳健的标准误
2. 法2. 使用广义最小二乘法GLS
   

异方差的 Stata画图 检验

在用Stata进行回归分析后

1. rvfplot
   画出残差与拟合值的散点图

• 横坐标拟合值
• 纵坐标残差 — 是拟合值与真实值的差距

图中:
当拟合值小的时候，残差变化不大
当拟合值变大的时候，残差变化很大 — 存在异方差问题

2. rvpplot x
   画残差与自变量$x$的散点图

• 横坐标$x$值

• 纵坐标残差 — 是拟合值与真实值的差距
  
  图中：
  当$x(团购价)$比较低时，残差变化很大
  当$x(团购价)$比较高时，残差变化不大 — 存在异方差问题

• 保存图片

//保存图片
graph export a.png ,replace

异方差的 假设 检验

BP检验

// 在Stata回归结束后
estat hettest ,rhs iid

• 原假设$H_0不存在异方差$
• 

怀特检验 — 推荐

// 在Stata回归结束后
estat imtest ,white

• 原假设$H_0不存在异方差$
• 
  

BP检验与怀特检验区别

怀特检验包括了平方项和交叉项
BP检验可以看成怀特检验的特例

1. BP的优点在于其建设性，即可以帮助确认异方差的具体形式
2. 怀特检验优点可以检验任何形式的异方差
   但缺点是不提供任何关于异方差的具体形式的信息

异方差问题的解决

OLS+稳健的标准误进行回归

regress y x1 x2 … xk,r

多重共线性

检测

\\使用回归代码后
estat vif

处理方法

• 第三点增加数据量有点难实现时，可以考虑剔除导致严重共线性的变量

逐步回归分析 — 筛选后的变量可以避免多重共线性

向前逐步回归

stepwise regress y x1 x2 … xk, pe(#1)

• $\#1$代表一个数字，当$p<\#1时$显著，将变量放入模型中

向后逐步回归

stepwise regress y x1 x2 … xk, pr(#2)

• $\#2$代表一个数字，当$p>\#2时$不显著，将变量剔除模型

注意

1. 

2. x1 x2 … xk之间不能有完全多重共线性
   和regress不同，regress可以自动去除产生多重共线性的变量
   
   $\therefore$可以现使用 regress命令 找到去除的变量，再手动去除那些变量后使用 stepwise regress命令

3. 可以在后面再加参数b和r，即标准化回归系数或稳健标准误

4. 在数学建模中，可以不用考虑第二点中的内生性问题

---

参考资料：数学建模清风视频