R平方/相关性取决于预测变量的方差

原文链接：http://tecdat.cn/?p=6289

 在我今天参与的一个讨论中，提出了一个问题，即在具有单个连续预测器的线性回归模型中R平方如何/是否取决于预测变量的方差。这个问题的答案当然是肯定的。

 可视化 

============

我们还可以在R中轻松地可视化前面的概念。我们首先从具有非常大的样本大小的线性模型中模拟数据：

n < - 10000 x < - 100 * runif（n） y < - x + rnorm（n）

我们有：

Y对X，对X没有限制

 拟合相应的线性模型证实了这一点：

|t|) \n(Intercept) 0.0068489 0.0204500 0.335 0.738 \nx 0.9999752 0.0003534 2829.539 <2e-16 ***\n---\nSignif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1\n\nResidual standard error: 1.015 on 9998 degrees of freedom\nMultiple R-squared: 0.9988,\tAdjusted R-squared: 0.9988 \nF-statistic: 8.006e+06 on 1 and 9998 DF, p-value: < 2.2e-16\n"}">summary(lm(y~x)) Call: lm(formula = y ~ x) Residuals: Min 1Q Median 3Q Max -4.1295 -0.6794 -0.0023 0.6879 3.5579 Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 0.0068489 0.0204500 0.335 0.738 x 0.9999752 0.0003534 2829.539 <2e-16 *** --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 Residual standard error: 1.015 on 9998 degrees of freedom Multiple R-squared: 0.9988, Adjusted R-squared: 0.9988 F-statistic: 8.006e+06 on 1 and 9998 DF, p-value: < 2.2e-16

给出R平方0.9988。

接下来，我们再次绘制数据， 

<1]~x[x<1]))\n\nCall:\nlm(formula = y[x < 1] ~ x[x < 1])\n\nResiduals:\n Min 1Q Median 3Q Max \n-2.93421 -0.73513 -0.09459 0.69282 2.59506 \n\nCoefficients:\n Estimate Std. Error t value Pr(>|t|) \n(Intercept) -0.0893 0.2432 -0.367 0.71459 \nx[x < 1] 1.3960 0.4386 3.183 0.00215 **\n---\nSignif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1\n\nResidual standard error: 1.121 on 72 degrees of freedom\nMultiple R-squared: 0.1233,\tAdjusted R-squared: 0.1112 \nF-statistic: 10.13 on 1 and 72 DF, p-value: 0.002155"}">summary(lm(y[x<1]~x[x<1])) Call: lm(formula = y[x < 1] ~ x[x < 1]) Residuals: Min 1Q Median 3Q Max -2.93421 -0.73513 -0.09459 0.69282 2.59506 Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) -0.0893 0.2432 -0.367 0.71459 x[x < 1] 1.3960 0.4386 3.183 0.00215 ** --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 Residual standard error: 1.121 on 72 degrees of freedom Multiple R-squared: 0.1233, Adjusted R-squared: 0.1112 F-statistic: 10.13 on 1 and 72 DF, p-value: 0.002155

R平方值低得多，为0.1233。