R 加权最小二乘 代码_加权线性回归（加权最小二乘法回归）
残差恒定是线性回归建模的一个前提条件，《线性回归中的方差齐性探察》一文曾介绍过各种线性回归的方差齐性的检验方法。如果出现了异方差，数据变换、方差稳健估计(使用三明治方差估计量)、加权最小二乘法回归、非参数回归都是可以考虑的方法。此次笔记介绍加权最小二乘法(weighted least square，WLS)回归。
SPSS中至少有两个过程可以实现加权线性回归，一是直接在线性回归中直接指明权重(WLS weight)，该方法需要先确定权重；二是权重估计(Weight Estimation)，用于获取最优的权重并以这个权重进行WLS回归。
这实际上并不是一个十分恰当的例子，其正态分布也不满足要求，在《Box-Cox变换：非正态数据的处理》有过演示。因此本文不考虑线性、正态性，只是单纯演示方差不齐下采用加权最小二乘法的SPSS操作步骤。
【1】数据录入 ：略。 【2】方差齐性考察：检验方法有很多，可参见《线性回归中的方差齐性探察》。Analyze>>Regression>>Linear…
Dependent(因变量)：选入WC；
Independent(自变量)：选入age；
Plot…：X选入标准化预测值(ZPRED)，Y选入标准化残差(ZRESID)；
Save…：选中残差部分的[未标准化残差]。
Graphs>>Chart Builder；
Gallery: Scatter/Dot>>Simple Scatter，将age拖入横坐标，刚生成的未标准化残差拖入纵坐标。
结果显示随着年龄的增长，残差呈逐渐减少的趋势，方差不齐。
但由于我们设置的步长为0.5，最佳幂值在-1.5左右，-2~-1之间，为获得更为精确的幂值，我们可以将幂范围和步长做进一步精确：
Power range： -2 through -1 by： 0.1 调整后结果同未调整的结果，幂值等于-1.5时，对数似然值最大。在此幂值计算的权重下，进行加权线性回归结果。
在幂总结表之后是最佳模型(幂值为-1.5时)的统计结果：加权最小二乘法(WLS)的参数估计结果同普通最小二乘法(OLS)的参数估计结果差别并不是太大，方差不齐对参数估计准确性影响不大，影响的是参数估计值的精确度，也就是说WLS估计的解释变量回归系数标准误更小(更稳定、变异更小)。本例OLS估计的系数标准误0.076，而WLS为0.072。
还有一点需要说明，WLS结果的复相关系数比OLS要大，这是因为即使在WLS相关系数的计算还是按照OLS法进行计算的，因此加权后的回归方程相关系数必然小于OLS，也就是说此时不能用相关系数来判断模型的优劣。
权重估计中给出了模型的一些基本信息，如果想得到更多的信息，可以运行线性回归，将权重估计成的变量WGT_1选入WLS weight框即可，具体操作和结果解读可参见《 多重线性回归分析 》。 Analyze>>Regression>>Linear…
原创不易，欢迎“在看”
关注“一统浆糊”
获取更多信息
