方差分析

受了新冠病毒地袭击,直到今天人类还没有走出阴霾。抗疫前线的医学专家们日以继夜地工作,同时进行着多种药物的临床试验。那么怎么判断哪一种药物效果更好呢?这就要说到一百年前问世的方差分析。


1、引言:

罗森斯得农业实验站很重要的一个工作就是,搞清楚施用不同的混合肥料,马铃薯的产是否会不同。费希尔的做法是在农田中种上马铃薯,同部分施用不同的混合肥料( 下面是一个示意图, 在同一块农田的不同排施用不同的肥料,然后插上牌子进行区分) :

然后在收获后对数据进行采样,看不同实验组的产量是否不同。


2、两个问题

费希尔也知道,马铃薯不是什么工业产品,本身产量就会有波动,肯定不能说某个实验组产多了20%就说该组施用的混合肥料有效果,至钞需要考虑以下两个问题:

(1) 概率:马铃薯的产量X本身具有随机性,比如说服从某正态分布:

根据该分布,产量在 -20 %~20 % 之间波动可能性较大, 因此如果某实验组产量多了 20 % 并没有把握说混合肥料产生了效果(因为不可能知道所有马钠薯的产量, 所以无法真正算出 也就不可能真正知道该正态分布:

产量在50%之上的波动可能性较小,因此如果某实验组产多了50%, 那么说明混合肥料可能真的产生了效果:

就此,费希尔设计了组间方差这个统计量,当组间方差较大的时候,说明发生了低概率事件,从而说明混合肥料可能真的产生了效果。

(2) 原因:马钠薯的产量 X 如果是随机波动, 那么应该是有增有减的。比如从某个实验组中采样得到五株马铃薯,记录每株的重量,得到五个点。算出该实验组的平均产量 相对于 增加了 20%,并且五个点相对于 有增有减, 分散在 的四周, 这就说明重量变化是由于随机波动造成的:

如果某个实验组平均产量 相对于 还是只增加了20%, 但组内所有的马钠薯植株上的产量都是增加,紧密的围绕在 的附近,那么说明混合肥料可能真的产生了效果,造成組内所有马铃薯的重量都增加了:

就此,费希尔设计了组内方差这个统计量,当组内方差较小的时,说明该试验组的普遍增产(或减产),也说明混合肥料可能真的产生了效果(组间方差、组内方差这两个统计量接下来会进一步介绍)。


3、假设检验

综合上面两个问题,费希尔设计了一个假设检验:

  • 假设:混合肥料没有效果, 也就是各个实验组的产量的均值相同
  • 检验:设计了 这个统计量, 当实验组得到的数据使得该统计量足够大时, 那么 就可以推翻上述假设, 得到混合肥料有效果的结论

从抽样到计算完成该假设检验, 就称为方差分析


4、实战

下面用具体的数据进行下实战讲解。假设有A、B、C三组马铃薯,每组施用不同的肥料。在每组中各选五株,记录每株产出的马铃薯的重量,所表格如下(下面的重也是为了本文讲解设计的,不用较真)

根据上面表格,画出来的图像是这样的:

可以看出:

  • 发生了低概率事件, 即 组的样本均值 远离
  • 原因很可能是由于混合肥料导致,因为 组内的重量紧密围绕在 附近,这说明整体都增产了,而不是随机波动

所以是很有把握认为这三组产量不同,并且是由于混合肥料导致的。当然上面是定性分析,下面看看如何定量分析。

4.1 组间方差

首先需要知道发生了低概率事件, 即是否有某组 (在本例中是 组) 的样本均值远离 。因为 是没有办法真正知道的, 实际计算时只能用所有样本的均值 来代替 (本例中就是15株马钠薯的均值),然后计算各个实验组的样本均值与 的距离,累加起来就得到了组间方差:

组间方差

忽略其中的常数(这些常数设置是一些数学原因, 不影响本文的整体思路,感兴趣的可以看下教材和证明),可以看出,组间方差较大时说明发生了低概率事件。

4.2 组内方差

将各个实验组的方差加起来就得到了组内方差(其中也多了些常数,暂时可以不用管) :

组内方差

其中 是各组内的某株马钠薯的重量。组内方差越小,说明各个实验组变换越一致, 越有可能是由混合肥料导致的。

4.3 统计量构造

费希尔接着构造了 这么一个统计量, 它综合了 “概率" 和 "原因" 这两个角度。为了说明这点, 我们又对之前的 、 、 三组进行了多次实验, 得到不同的组间方差、组内方差:

解读下:

  • 第一行,组间方差大,说明可能发生了低概率事件;组内方差小,说明组内变化可能一致。本文的例子算出来就是该行。那么有充分的理由相信,这三组中其中某组(也可能是某两组、某三组)的产量有所不同,且这种不同很可能是由于混合肥料造成的

  • 第二行,组间方差一般大,组内方差也是一般大,没有充分的理由相信这三组是不同的,保守一点,我们判断这三组是相同的

  • 第三行,组间方差足够小,说明可能没有发生低概率事件;组内方差足够大,说明可能组内的变化不一样。那么还是保守地判断这三组是相同的

可见统计量越大,那么三组不同的可能性越大。那具体要大到什么程度,才有把握说三组是不同的呢?这就需要F分布进行最后的检验(F就是Fisher的首字母,所以你也可以称之为费希尔分布)。


5、F分布

可以证明,满足某些条件的情况下(比如总体和样本都是正态分布),统计量是服从F分布的:

此时,当的值足够大,大到落入F分布的右边区域(也称为拒绝域)时,就有把握说三组是不同的:

至此就完成了假设检验,也就是完成了方差分析:

  • 假设:混合肥料没有效果,也就是各个实验组的样本均值相同
  • 检验:计算统计量的值,如果所得值落入F分布的拒绝域,那么就拒绝原假设,否则就接受

6、t 检验

之前介绍过t检验,它和方差分析的区别在于, t检验是判断两组数据是否不同,而方差分析可以判断三组或者更多组数据是否存在不同。

从本文介绍可知,差分析只是知道了这三组是否有差异,具体是到是哪组有差异,还需要别的统计方法。比如对这三组两两进行t检验。


转载:https://www.zhihu.com/question/61319844/answer/1206367601

你可能感兴趣的:(方差分析)