R语言多元线性回归

1、根据业务经验挑选出可能对预测目标变量有影响的指标;

2、将这些指标对目标变量做相关性分析cor(),挑选出相关系数较大的指标进一步分析;

3、检验这些指标与目标变量是否线性关系,一般可以plot()检验,如果非线性,尝试做平方或开方等方法使之变成线性;

3、将相关系数较大的指标全部作为解释变量做多远线性回归lm(),得到拟合模型lm.fit;

4、对模型的做系数和方程的显著性检验summary(lm.fit)会直接列出显著性检验结果,如果无法通过显著性检验,则模型不能直接用于预测,需进一步处理;

5、可以考虑采用逐步回归法,用step(lm.fit),该函数是以aic值最小化为准则,会逐步剔除掉所有能使方程的aic值减小的解释变量,得到模型lm.fit2;

6、对lm.fit做显著性检验summar(lm.fit2),如果无法通过显著性检验,则再以残差最小为准则逐个剔除解释变量和做显著性检验。直到方程的系数和方程都通过显著性检验为止。至此,如果还无法得到最优方程,我就不知道怎么处理了。

 

按上述步骤得到最优方程之后,实际上可能会遇到另外一个问题:方程某个解释变量的系数符号与相关系数符号相反,这是矛盾的!为什么会这样,这就是多重共线性问题,如何处理?参加我另外一篇关于多重共线性的文章。

 

以上基本可以完成多远线性回归的建模了。

 

 

你可能感兴趣的:(数据挖掘)