逐步回归的R语言实现

定义

类型

向前引入法
从一元回归开始，逐步增加变量，使指标值达到最优为止
相互删除法
从全变量回归方程开始，逐步删去某个变量，使指标值达到最优为止
逐步筛选法
综合上述方法

衡量标准

R2：越大越好
AIC：越小越好

step()

usage:

step(object, scope, scale = 0,
     direction = c("both", "backward", "forward"),
     trace = 1, keep = NULL, steps = 1000, k = 2, ...)

这个函数可以用来对已建立的lm or glm model进行逐步回归分析。
其中，direction分为”both”, “backward”, “forward”，分别表示逐步筛选、向后、向前三种方法。
注意，这个函数筛选的依据是AIC，而不是R2。
example:

最后

鉴于step()有时候会出现莫名其妙的错误，因此再介绍一个可以做逐步回归的手工方法。
add1()
drop1()

---

by Yuhua