生物统计学Biostatistics笔记第六讲-方差分析

第六讲 方差分析

第四章介绍了如何比较样本平均数与参考总体平均数，以及比较两个样本平均数。但如果有三个或更多的样本平均数

有三个或更多的样本平均数时，u检验/t检验都有一定的局限，不适用

本文有些数学公式使用md语法打的，刚学这个，有的嫌太累了直接用的图片

第一节 方差分析

•方差分析(analysis of variance，ANOVA)又称变量分析，是把所有分组的观测值作为一个整体，一次性比较各组的样本平均数并做出推断。

•如果差异不显著，则认为各组都是相同的；如果差异显著，再进一步比较是哪组数据与其他数据不同。

因素factor	试验中所研究的影响试验指标的原因或原因组合。温度，湿度
水平level	每个因素的不同状态，温度（20℃、30℃、40℃）
处理treatment	对受试对象给予的某种外部干预，2种温度+3种湿度=6种处理
重复repetition	在试验中，将同一种重复实施在不止一个实验单位上
效应effect	试验因素相对独立的作用，正效应/负效应
互作interaction	两个或两个以上处理因素间相互作用所产生的效应

方差分析的基本思想
造成观测值发生不同的原因可以分为两大类
一类是处理效应(treatment effect)，是试验中对不同个体给予不同处理引起的
二类是误差效应(error effect)，是试验中偶然性因素的干扰和测量误差所致
方差分析就是把所有观测值的总方差分解成处理方差和误差方差并相互比较，看处理效应是否显著大于误差效应

---

方差分析的观测值和平均数

•如表，某试验有k个处理组，且每处理重复n次。

•那么可以计算出每组观测值的平均数$x_i$.，和所有观测的平均数$\overline{x_{..}}$。

---

方差分析的线性模型

每一项观测值：
$$x_{ij}=\mu +T_i+{ϵ}_{ij}$$

如果用样本来估计参数:
$$x_{ij}=\overline{x_{..}}+t_i+e_{ij}$$

---

处理效应的三种模型

1. 固定模型(fixed model)：各个处理的效应是特异选择的可以人为控制的固定常量，是由固定因素引起的，且这些常量的和为0
2. 随机模型(random model)：各个处理的效应不是常量，而是由随机因素所引起的随机变量，且这些变量服从正态分布N(0, ${\sigma }^2$)
3. 混合模型(mixed model)：在多因素试验中，既包括固定效应的试验因素，又包括随机效应的试验因素
三种模型的差异：平方和和自由度的计算是相同的，但统计数F的计算公式是不同的，对试验的设计和结果的解释也存在不同。
固定模型侧重于效应值的估计和比较，而随机模型侧重于效应值的变异程度的估计和检验。
对于单因素方差分析，因为不存在互作，固定模型和随机模型没有区别

---

方差分析的三大步骤：

1. 计算方差**(平方和分解和自由度分解)。**	$s^2=\frac{\sum (x_i-\overline{x}{)}^2}{n-1}$计算离均差平方和，计算自由度，最后相除得方差	方差就是离均差平方和除以自由度。|
2. 计算统计数F。	$F=\frac{S_t^2}{S_e^2}$
3. (若F检验结论是差异显著)多重比较。

平方和分解

$$\begin{gathered} K个组的数据累加， \\ \sum _{i=1}^k\sum _{j=1}^n(x_{ij}-\overline{x_{..}}{)}^2=\sum _{i=1}^k\sum _{j=1}^n(x_{ij}-\overline{x_{i.}}{)}^2+n\sum _{i=1}^k(\overline{x_{i.}}-\overline{x_{..}}{)}^2 \end{gathered}$$

•上面等式左边项称为总平方和$S{S}_T$，反映所有数据距离总平均数的变异情况。

•右边第一项称为组内平方和$S{S}_e$，反映每组内部数据距离本组平均数的变异情况。

•右边第二项称为组间平方和$S{S}_t$，反映每组的组平均数距离总平均数的变异情况。
$$\begin{gathered} 令常数C=\frac{T^2}{nk}, \\ S{S}_T=\sum _{i=1}^k\sum _{j=1}^n{x}_{ij}^2-C \\ S{S}_t=\frac{1}{n}\sum _{i=1}^k{T}_{i.}-C \\ S{S}_e=S{S}_T-S{S}_t \end{gathered}$$
$S{S}_T$就是所有观测值的平方的累加减去常数C；

$S{S}_t$就是每组观测值和的平方的累加除以n再减去常数C

自由度分解

•k个分组，每组n次重复，总共$n_k$个观测值；

•总自由度$d{f}_T=n_k-1$

•组间自由度$d{f}_t=k-1$

•组内自由度$d{f}_e=k(n-1)=d{f}_T-d{f}_t$

计算方差

$$\begin{gathered} S_t^2=\frac{S{S}_t}{d{f}_t} \\ {S}_e^2=\frac{S{S}_e}{d{f}_e} \end{gathered}$$

F检验

$$F=\frac{S_t^2}{S_e^2}$$

•如果组间的总体方差等于组内的总体方差，那么上式就会落入F分布大概率区间内，如果落在小概率区间内，则认为假设不成立，即两个总体的方差不相等。

•方差分析时的F检验只有右尾检验，如果落入右尾拒绝区，说明处理效应显著大于误差效应，即组间有显著差别。

多重比较

•如果F检验否定了零假设，说明k个处理的平均数之间有显著差异，但并不意味着每两个处理的平均数间的差异都是显著的，也无法分别具体是哪些平均数间的差异是显著的。

•因此，就要进行多重比较。

最小显著差数法LSD法
标记字母法	不建议使用
梯形表示法	建议使用

最小显著极值法LSR法
新复极差检验(SSR法)
q检验(SNK法)

最小显著差数法

•统计学家Fisher最早提出了最小显著差数法，又称LSD法，其实质就是两个平均数相比较的t检验法。

•先计算出达到差异显著的最小差数，记为LSD，然后比较两个处理平均数的差值与LSD，如差值大于LSD，即认为差异显著。
$$\begin{gathered} LS{D}_{0.05}=t_{o.o5}\cdot s_{\overline{x_1}-\overline{x_2}} \\ LS{D}_{0.01}=t_{0.01}\cdot s_{\overline{x_1}-\overline{x_2}} \\ 其中s_{\overline{x_1}-\overline{x_2}}=\sqrt{S_e^2(\frac{1}{n_1}+\frac{1}{n_2})} \\ {t}_{0.05}是自由度为d{f}_e的t检验临界值 \\ 若|\overline{x_1}-\overline{x_2}|>LS{D}_{0.05},即为两者差异显著； \\ 若|\overline{x_1}-\overline{x_2}|>LS{D}_{0.01},即为两者差异极显著； \end{gathered}$$

标记字母法

•1. 把全部平均数从大到小依次排列；

•2. 在最大的平均数后标上a，然后依次向下比较，若不显著则也标上a，若遇到第一个显著则标上b，并停止比较。

•3. 以标有b的平均数为标准，依次向上比较，若不显著则在a的后面再加上b，直到遇见第一个显著时不做任何标记，并停止比较。

•4. 以标有b的最大平均数为标准，依次向下比较，若不显著则也标上b，若遇到第一个显著则标上c，并停止比较。

•5. 以此类推，反复进行，直到所有平均数都被标记了字母为止。

梯形表示法

•使用三角形阵列的格式展示出所有平均数差值，把各差值与LSD相比，*代表大于$LS{D}_{0.05}$，**代表大于$LS{D}_{0.01}$。

•结论：

•A1与A2和A4差异极显著，A1与A3差异显著；

•A3与A4差异极显著，A2与A4差异也极显著；

•A2和A3差异不显著。

LSD方法的局限

•LSD法的优点是比较简单，相对于t检验的优势是 把组内方差作为各组统一的试验误差。

•但是，仍有推断可靠性低，犯α错误概率增加的问题。

•多个处理平均数相互比较时，处理水平差异不同时，显著性阈值取相同标准不合理，应该做出适当调整。

最小显著极值法

•最小显著极差法(LSR法)是在比较多个处理的数据时，根据处理平均数在按大小排序时的距离的不同，而采用不同的显著差数标准。

SSR法

•1. 在各样本容量相等时，计算平均数标准误：
$$S_{\overline{x}}=\sqrt{\frac{S_e^2}{n}}$$
•2. 查附表6中的SSR值，再计算最小显著差值：
$$LS{R}_{\alpha }=SS{R}_{\alpha }\cdot s_{\overline{x}}$$
•SSR表有两个参数，一个是自由度，另一个是M值，M值表示按大小排列时的距离，两者相邻记为2，中间隔一个记为3，以此类推。

q检验

多重比较的三种方法选择

•M=2时，三种方法的显著性阈值相同；但M>2时，LSD法的显著性阈值最小，而q检验法的显著性阈值最大。

•结论：

•当处理数为2时，三种方法结论一致；

•当处理数增加时，LSD法最灵敏(sensitive)，q检验法最保守(conservative)。

•因为α错误和β错误是此消彼长的关系，不可能同时下降，最容易犯α错误的是LSD法，而==最容易犯β错误的是q检验法==，所以根据不同试验中两种错误的重要性不同来选择不同方法。

第二节 单因素(single factor)方差分析

1.当各处理重复次数相等时，方差分析的步骤就是计算出下表中的各值，然后与附表5比较。

	$df$	$SS$	$S^2$	$F$
处理间	k-1	$S{S}_t=\frac{1}{n}{\sum }_{i=1}^k{T}_{i.}^2-C$	$S_t^2=\frac{S{S}_t}{d{f}_t}$	$\frac{S_t^2}{S_e^2}$
处理内	k(n-1)	$S{S}_e=S{S}_T-S{S}_t$	$S_e^2=\frac{S{S}_e}{d{f}_e}$
总	nk-1	$S{S}_T={\sum }_{i=1}^k{\sum }_{j=1}^n{x}_{ij}^2-C$

2.组内重复次数不相等时

组内重复次数不相等时，仍然可以使用方差分析，不过计算公式稍有变化。•组内重复次数不相等的试验要尽量避免，因为这样的试验数据不仅计算麻烦，而且降低了分析的灵敏度。

第三节 二因素方差分析

•对于有两个因素的试验，除了分析各因素的处理效应外，还需要考虑到因素间的互作效应。

•当互作效应非常大时，甚至可以忽略主效应。

•是否存在互作可以根据统计方法判断，也可以根据专业知识判断。

•只有每个处理都有重复的情况下，才能用统计方法分析互作效应。

处理无重复时

•按照方差分析的思想，可以把所有观测值的方差分解成处理A效应方差、处理B效应方差和误差效应方差并相互比较。

处理有重复时

•如果A因素有a个水平，B因素有b个水平，且每个处理组合重复n次时，则A因素的每个水平总共有bn个重复，而B因素的每个水平总共有an个重复，总共有abn个观测值。

平方和分解

$$C=\frac{T^2}{abn}$$

自由度分解

•总自由度$d{f}_T=abn-1$

•因素A自由度$d{f}_A=a-1$

•因素B自由度$d{f}_B=b-1$

•AB互作自由度$d{f}_{AB}=(a-1)(b-1)$

•组内随机误差自由度$d{f}_e=ab(n-1)$

计算方差

$$\begin{gathered} S_A^2=\frac{S{S}_A}{d{f}_A} \\ {S}_B^2=\frac{S{S}_B}{d{f}_B} \\ {S}_{AB}^2=\frac{S{S}_{AB}}{d{f}_{AB}} \\ {S}_e^2=\frac{S{S}_e}{d{f}_e} \end{gathered}$$

F检验

•对于AB互作效应：
$$F_{AB}=\frac{S_{AB}^2}{S_e^2}$$
•若A或B为固定因素时：
$$F_A=\frac{S_A^2}{S_e^2},F_B=\frac{S_B^2}{S_e^2}$$
•若A或B为随机因素时：
$$F_A=\frac{S_A^2}{S_{AB}^2},F_B=\frac{S_B^2}{S_{AB}^2}$$

二因素方差分析总结

具重复观测值得二因素资料方差分析表

变异来源	$SS$	$df$	$s^2$
因素A	$S{S}_A$	$a-1$	$s_A^2$
因素B	$S{S}_B$	$b-1$	$s_B^2$
$A\times B$	$S{S}_{AB}$	$(a-1)(b-1)$	$s_{AB}^2$
误差	$S{S}_e$	$ab(n-1)$	$s_e^2$
总变异	$S{S}_T$	$abn-1$

第四节 多因素方差分析

•其实就是把二因素方差分析扩展到一般情况。

•此时，总方差可以分解成各因素的主效应误差，因素两两之间的互作效应误差，因素三三之间的互作效应误差，……，以及随机误差。

第六节 方差分析应满足的三个条件

•1. 可加性。处理效应与误差效应是可加的。

•2. 正态性。试验误差应当服从正态分布N(0，${\sigma }^2$)，也就是说被检验的每一个总体都是正态分布。

•3. 方差齐性。各处理的误差方差均为${\sigma }^2$。

•以上三个条件中，影响最大的是方差齐性，因此在做方差分析前应该先进行方差齐性检验。