统计学基础(三)：抽样分布定理
此为本人学习笔记，不具备参考价值，禁止任何形式的传播
定理一：
设 X 1 , X 2 , … , X n X_1,X_2,\dots,X_n X1,X2,…,Xn是来自总体 N ( μ , σ 2 ) N(\mu,\sigma^2) N(μ,σ2)的样本，则有：
(1) x ˉ ∼ N ( μ , σ 2 n ) \bar{x}\sim N(\mu,\frac{\sigma^2}{n}) xˉ∼N(μ,nσ2);
(2) x ˉ \bar{x} xˉ与 s 2 s^2 s2相互独立；
(3) ( n − 1 ) s 2 σ 2 ∼ χ 2 ( n − 1 ) \frac{(n-1)s^2}{\sigma^2}\sim \chi^2(n-1) σ2(n−1)s2∼χ2(n−1)
定理二：
设 X 1 , X 2 , … , X n X_1,X_2,\dots,X_n X1,X2,…,Xn是来自总体 N ( μ , σ 2 ) N(\mu,\sigma^2) N(μ,σ2)的样本，则有：
x ˉ − μ s / n ∼ t ( n − 1 ) \frac{\bar{x}-\mu}{s/\sqrt{n}}\sim t(n-1) s/nxˉ−μ∼t(n−1)
证明：由定理一的（1）知
x ˉ ∼ N ( μ , σ 2 n ) \bar{x}\sim N(\mu,\frac{\sigma^2}{n}) xˉ∼N(μ,nσ2)
标准化得
x ˉ − μ σ / n ∼ N ( 0 , 1 ) \frac{\bar{x}-\mu}{\sigma/\sqrt{n}}\sim N(0,1) σ/nxˉ−μ∼N(0,1)
由定理一的（3）
( n − 1 ) s 2 σ 2 ∼ χ 2 ( n − 1 ) \frac{(n-1)s^2}{\sigma^2}\sim \chi^2(n-1) σ2(n−1)s2∼χ2(n−1)
又由定理一的（2） x ˉ \bar{x} xˉ与 s 2 s^2 s2相互独立
∴ x ˉ − μ σ / n ( n − 1 ) s 2 σ 2 × 1 n − 1 ∼ t ( n − 1 ) \therefore\frac{\frac{\bar{x}-\mu}{\sigma/\sqrt{n}}}{\sqrt{\frac{(n-1)s^2}{\sigma^2}\times\frac{1}{n-1}}}\sim t(n-1) ∴σ2(n−1)s2×n−11σ/nxˉ−μ∼t(n−1)
化简得
x ˉ − μ s / n ∼ t ( n − 1 ) \frac{\bar{x}-\mu}{s/\sqrt{n}}\sim t(n-1) s/nxˉ−μ∼t(n−1)
定理三：
设 X 1 , X 2 , … , X n X_1,X_2,\dots,X_n X1,X2,…,Xn是来自总体 N ( μ 1 , σ 1 2 ) N(\mu_1,\sigma^2_1) N(μ1,σ12)的样本； Y 1 , Y 2 , … , Y m Y_1,Y_2,\dots,Y_m Y1,Y2,…,Ym是来自总体 N ( μ 2 , σ 2 2 ) N(\mu_2,\sigma^2_2) N(μ2,σ22)的样本，且两个样本相互独立，则有：
s 1 2 / σ 1 2 s 2 2 / σ 2 2 ∼ F ( n − 1 , m − 1 ) \frac{s_1^2/\sigma_1^2}{s_2^2/\sigma_2^2}\sim F(n-1,m-1) s22/σ22s12/σ12∼F(n−1,m−1)
其中 s 1 2 , s 2 2 s_1^2,s_2^2 s12,s22分别是两个样本的样本方差。
证明：
由定理一的（3）知
( n − 1 ) s 1 2 σ 1 2 ∼ χ 2 ( n − 1 ) ( m − 1 ) s 2 2 σ 2 2 ∼ χ 2 ( m − 1 ) \frac{(n-1)s^2_1}{\sigma^2_1}\sim \chi^2(n-1) \quad \frac{(m-1)s^2_2}{\sigma^2_2}\sim \chi^2(m-1) σ12(n−1)s12∼χ2(n−1)σ22(m−1)s22∼χ2(m−1)
又两个样本相互独立，
根据 χ 2 ∼ \chi^2\sim χ2∼分布的定义，
( n − 1 ) s 1 2 σ 1 2 / n − 1 ( m − 1 ) s 2 2 σ 2 2 / m − 1 ∼ F ( n − 1 , m − 1 ) \frac{\frac{(n-1)s^2_1}{\sigma^2_1}/n-1}{\frac{(m-1)s^2_2}{\sigma^2_2}/m-1}\sim F(n-1,m-1) σ22(m−1)s22/m−1σ12(n−1)s12/n−1∼F(n−1,m−1)
化简得
s 1 2 / σ 1 2 s 2 2 / σ 2 2 ∼ F ( n − 1 , m − 1 ) \frac{s_1^2/\sigma_1^2}{s_2^2/\sigma_2^2}\sim F(n-1,m-1) s22/σ22s12/σ12∼F(n−1,m−1)
定理四：
设 X 1 , X 2 , … , X n X_1,X_2,\dots,X_n X1,X2,…,Xn是来自总体 N ( μ 1 , σ 2 ) N(\mu_1,\sigma^2) N(μ1,σ2)的样本； Y 1 , Y 2 , … , Y m Y_1,Y_2,\dots,Y_m Y1,Y2,…,Ym是来自总体 N ( μ 2 , σ 2 ) N(\mu_2,\sigma^2) N(μ2,σ2)的样本，且两个样本相互独立，则有
( x ˉ − y ˉ ) − ( μ 1 − μ 2 ) s w 1 n + 1 m ∼ t ( n + m − 2 ) \frac{(\bar{x}-\bar{y})-(\mu_1-\mu_2)}{s_w\sqrt{\frac{1}{n}+\frac{1}{m}}}\sim t(n+m-2) swn1+m1(xˉ−yˉ)−(μ1−μ2)∼t(n+m−2)
其中 x ˉ , y ˉ , s 1 2 , s 2 2 \bar{x},\bar{y},s_1^2,s_2^2 xˉ,yˉ,s12,s22分别是两个样本的样本均值和样本方差，且
s w 2 = ( n − 1 ) s 1 2 + ( m − 1 ) s 2 2 n + m − 2 , s w = s w 2 s_w^2=\frac{(n-1)s_1^2+(m-1)s_2^2}{n+m-2},\quad s_w=\sqrt{s_w^2} sw2=n+m−2(n−1)s12+(m−1)s22,sw=sw2
证明：由定理一知
x ˉ ∼ N ( μ 1 , σ 2 n ) ， y ˉ ∼ N ( μ 2 , σ 2 n ) \bar{x}\sim N(\mu_1,\frac{\sigma^2}{n})，\bar{y}\sim N(\mu_2,\frac{\sigma^2}{n}) xˉ∼N(μ1,nσ2)，yˉ∼N(μ2,nσ2)
⟹ ( x ˉ − y ˉ ) − ( μ 1 − μ 2 ) σ 1 n + 1 m ∼ N ( 0 , 1 ) \implies\quad \frac{(\bar{x}-\bar{y})-(\mu_1-\mu_2)}{\sigma\sqrt{\frac{1}{n}+\frac{1}{m}}}\sim N(0,1) ⟹σn1+m1(xˉ−yˉ)−(μ1−μ2)∼N(0,1)
另外又有
( n − 1 ) s 1 2 σ 2 ∼ χ 2 ( n − 1 ) , ( m − 1 ) s 2 2 σ 2 ∼ χ 2 ( m − 1 ) \frac{(n-1)s_1^2}{\sigma^2}\sim \chi^2(n-1),\frac{(m-1)s_2^2}{\sigma^2}\sim \chi^2(m-1) σ2(n−1)s12∼χ2(n−1),σ2(m−1)s22∼χ2(m−1)
由卡方分布的可加性
( n − 1 ) s 1 2 + ( m − 1 ) s 2 2 σ 2 ∼ χ 2 ( n + m − 2 ) \frac{(n-1)s_1^2+(m-1)s_2^2}{\sigma^2}\sim \chi^2(n+m-2) σ2(n−1)s12+(m−1)s22∼χ2(n+m−2)
因为 x ˉ , y ˉ \bar{x},\bar{y} xˉ,yˉ与 s 1 2 , s 2 2 s_1^2,s_2^2 s12,s22相互独立，由 t t t分布定义有：
( x ˉ − y ˉ ) − ( μ 1 − μ 2 ) σ 1 n + 1 m ( n − 1 ) s 1 2 + ( m − 1 ) s 2 2 σ 2 / ( n + m − 2 ) ∼ t ( n + m − 2 ) \frac{\frac{(\bar{x}-\bar{y})-(\mu_1-\mu_2)}{\sigma\sqrt{\frac{1}{n}+\frac{1}{m}}}}{\sqrt{\frac{(n-1)s_1^2+(m-1)s_2^2}{\sigma^2}/(n+m-2)}}\sim t(n+m-2) σ2(n−1)s12+(m−1)s22/(n+m−2)σn1+m1(xˉ−yˉ)−(μ1−μ2)∼t(n+m−2)
化简得
( x ˉ − y ˉ ) − ( μ 1 − μ 2 ) s w 1 n + 1 m ∼ t ( n + m − 2 ) \frac{(\bar{x}-\bar{y})-(\mu_1-\mu_2)}{s_w\sqrt{\frac{1}{n}+\frac{1}{m}}}\sim t(n+m-2) swn1+m1(xˉ−yˉ)−(μ1−μ2)∼t(n+m−2)
例：设 X 1 , X 2 , X 3 , X 4 X_1,X_2,X_3,X_4 X1,X2,X3,X4是来自总体 N ( 0 , 1 ) N(0,1) N(0,1)的样本,试确定常数C，使得
P { ( x 1 − x 2 ) 2 ( x 1 − x 2 ) 2 + ( x 3 − x 4 ) 2 > C } = 0.95 P\{\frac{(x_1-x_2)^2}{(x_1-x_2)^2+(x_3-x_4)^2}>C\}=0.95 P{(x1−x2)2+(x3−x4)2(x1−x2)2>C}=0.95
错解： x 1 − x 2 ∼ N ( 0 , 2 ) x_1-x_2\sim N(0,2) x1−x2∼N(0,2)
∴ ( x 1 − x 2 ) 2 2 ∼ χ 2 ( 1 ) \therefore\quad \frac{(x_1-x_2)^2}{2}\sim \chi^2(1) ∴2(x1−x2)2∼χ2(1)
同理：
( x 1 − x 2 ) 2 + ( x 3 − x 4 ) 2 2 ∼ χ 2 ( 2 ) \frac{(x_1-x_2)^2+(x_3-x_4)^2}{2}\sim \chi^2(2) 2(x1−x2)2+(x3−x4)2∼χ2(2)
∴ ( x 1 − x 2 ) 2 2 / 1 ( x 1 − x 2 ) 2 + ( x 3 − x 4 ) 2 2 / 2 ∼ F ( 1 , 2 ) \therefore\quad \frac{\frac{(x_1-x_2)^2}{2}/1}{\frac{(x_1-x_2)^2+(x_3-x_4)^2}{2}/2}\sim F(1,2) ∴2(x1−x2)2+(x3−x4)2/22(x1−x2)2/1∼F(1,2)
但是这里错了，因为没有证明 ( x 1 − x 2 ) 2 2 \frac{(x_1-x_2)^2}{2} 2(x1−x2)2和 ( x 1 − x 2 ) 2 + ( x 3 − x 4 ) 2 2 \frac{(x_1-x_2)^2+(x_3-x_4)^2}{2} 2(x1−x2)2+(x3−x4)2是相互独立的
正解： ( x 1 − x 2 ) 2 ( x 1 − x 2 ) 2 + ( x 3 − x 4 ) 2 > C \frac{(x_1-x_2)^2}{(x_1-x_2)^2+(x_3-x_4)^2}>C (x1−x2)2+(x3−x4)2(x1−x2)2>C
1 1 + ( x 3 − x 4 ) 2 ( x 1 − x 2 ) 2 > C \frac{1}{1+\frac{(x_3-x_4)^2}{(x_1-x_2)^2}}>C 1+(x1−x2)2(x3−x4)21>C
( x 3 − x 4 ) 2 ( x 1 − x 2 ) 2 < 1 − C C \frac{(x_3-x_4)^2}{(x_1-x_2)^2}<\frac{1-C}{C} (x1−x2)2(x3−x4)2<C1−C
∵ x 1 − x 2 ∼ N ( 0 , 2 ) x 3 − x 4 ∼ N ( 0 , 2 ) \because x_1-x_2\sim N(0,2) \\ x_3-x_4\sim N(0,2) ∵x1−x2∼N(0,2)x3−x4∼N(0,2)
∴ ( x 1 − x 2 ) 2 2 ∼ χ 2 ( 1 ) ( x 3 − x 4 ) 2 2 ∼ χ 2 ( 1 ) \therefore \frac{(x_1-x_2)^2}{2}\sim \chi^2(1)\quad \frac{(x_3-x_4)^2}{2}\sim \chi^2(1) ∴2(x1−x2)2∼χ2(1)2(x3−x4)2∼χ2(1)
又 ( x 1 − x 2 ) 2 2 ， ( x 3 − x 4 ) 2 2 \frac{(x_1-x_2)^2}{2}，\frac{(x_3-x_4)^2}{2} 2(x1−x2)2，2(x3−x4)2相互独立
∴ ( x 3 − x 4 ) 2 / 1 ( x 1 − x 2 ) 2 / 1 ∼ F ( 1 , 1 ) \therefore \quad \frac{(x_3-x_4)^2/1}{(x_1-x_2)^2/1}\sim F(1,1) ∴(x1−x2)2/1(x3−x4)2/1∼F(1,1)
1 − C C = F 0.95 ( 1 , 1 ) \frac{1-C}{C}=F_{0.95}(1,1) C1−C=F0.95(1,1)