概率论与数理统计教程第五章节笔记

参考书籍：概率论与数理统计教程第三版 茆诗松 程依明 濮晓龙 编著
文章声明：如有错误还望批评指正

$\xi 5.1$总体与样本

一些概念： 总体；个体；总体就是一个分布，从总体中抽样=从分布中抽样；本书主要研究一维总体涉及二维总体；本书主要研究无限总体涉及有限总体；样本；样本容量或样本量；样品；完全样本与不完全样本；分组样本，分组样本是不完全样本；样本具有代表性，样本具有独立性；简单随机样本简称样本；除非特别说明本书中的样本具有IID(independent(独立) and(和) identically distributed(同分布))性。总体X的分布函数为$F(x_1,x_2,\dots ,x_n)=\prod _{i=1}^{n}F(x_i)$
PS：关于习题：做完之后我的感觉是没有必要做。考试应该不会考吧。

$\xi 5.2$样本数据的整理与显示

一些概念： 有序样本；经验分布函数(这个得记一下))；定理5.2.1：设$x_1,x_2,\dots ,x_n$是取自总体分布函数为$F(x)$的样本，$F_n(x)$是其经验分布函数，当$n\to \infty$时，有$P(\underset{-\infty <x<\infty }{\sup }|F_n(x)-F(x)|\to 0)=1$。(格利文科定理)(这个超级重要因为经典统计学中一切统计推断全都来源于此)；频数频率表(按步骤来即可：$1)$对样本进行分组，即确定k(主观确定)；$2)$确定每组组距，即确定d($d=\frac{max\_val-min\_val}{k}$,可以适当进行调整)；$3)$确定每组组限；$4)$列出频数频率表)；直方图；茎叶图；

Python绘制直方图

data=[4,8,5,2,1]
import matplotlib.pyplot as plt;import seaborn as sns
plt.figure(figsize=(16,9));sns.set_style("darkgrid");plt.rcParams['font.family']='SimHei';plt.rcParams['font.sans-serif']=['SimHei']
for i in range(len(data)):
    #参数依次：组中值，频数，直方图直方的宽度(左右各位5，共计10)，直方图直方的标签，边框颜色
    plt.bar(147+(i+1)*5,data[i],width=5,label="分组区间({},{}]".format(147+i*10,147+(i+1)*10),edgecolor='black')
    #参数依次：组中值，频数，内容
    plt.text(147+(i+1)*5,data[i],"{}".format(data[i]),size=20)
plt.title("Python绘制直方图",size=15);plt.xlabel("数量",size=15);plt.ylabel("频数",size=15);plt.legend();plt.show()

Python绘制茎叶图

data=[ 64, 67, 70, 72, 74, 76, 76, 79, 80, 81,
       82, 82, 83, 85, 86, 88, 91, 91, 92, 93,
       93, 93, 95, 96, 96, 97, 97, 99,100,100,
      116,118,119,119,122,123,125,126,128,133]
zd={}
for i in data:
    if i//10 not in zd:
        zd[i//10]=[i%10]
    else:
        zd[i//10].append(i%10)
lt1,lt2=list(zd.keys()),list(zd.values())
import matplotlib.pyplot as plt
plt.figure(figsize=(16,9),facecolor="pink");plt.rcParams['font.family']='SimHei';plt.rcParams['font.sans-serif']=['SimHei']
plt.xlim(0,2+2+2*max([len(_) for _ in lt2])+1);plt.ylim(0,len(lt1)+1);plt.axis("off")
for i in range(len(lt1)):
    plt.text(1,len(lt1)-i,"{:>2}".format(lt1[i]),size=20)
    for j in range(len(lt2[i])):
        plt.text(6+j*2,len(lt1)-i,"{}".format(lt2[i][j]),size=20)
plt.title("Python绘制茎叶图",size=25);plt.axvline(4,color="black");plt.show()

PS：关于习题：做完之后我的感觉是没有必要做。考试应该都不会考吧。

$\xi 5.3$统计量及其分布

一些概念： 统计量，统计量的分布称为抽样分布；样本均值(记一下分组场合的公式：$\bar{x}=\frac{\sum _{i=1}^n{x}_i{f}_i}{\sum _{i=1}^k{f}_i}$，$x_i$第i组的组中值，$f_i$第i组的频数)；偏差之和为0；偏差平方和最小；定理5.3.1：设$x_1,x_2,\dots ,x_n$是来自某个总体的样本，$\bar{x}$为样本均值.(1)若总体分布为$N(u,{\sigma }^2)$，则$\bar{x}$的精确分布为$N(u,{\sigma }^2/n)$。(2)若总体分布未知或不是正态分布，$E(X)=u$,$Var(X)={\sigma }^2$存在，则$n$较大时$\bar{x}$的渐近分布为$N(u,{\sigma }^2/n)$。 常记为$\bar{x}\sim N(u,{\sigma }^2/n)$。(卷积公式以及中心极限定理可以证明)(十分重要，做题要用)；$s_n^2$，样本方差，$s_n$，样本标准差；$s^2$，样本方差，$s$，样本标准差；定理5.3.2 设总体具有二阶矩，即$E(X)=u$，$Var(X)={\sigma }^2<\infty$，$x_1,x_2,\dots ,x_n$为从该总体得到的样本，$\bar{x}$和$s^2$分别是样本均值和样本方差，则$E(\bar{x})=u$，$Var(\bar{x})={\sigma }^2/n$，$E(s^2)={\sigma }^2$。(十分重要，做题要用)；k阶原点矩$a_k=\frac{1}{n}\sum _{i=1}^n{x}_i^k$，k阶中心矩$b_k=\frac{1}{n}\sum _{i=1}^n(x_i-\bar{x}{)}^k$。样本偏度${\hat{\beta }}_s=b_3/b_2^{3/2}$，样本峰度${\hat{\beta }}_k=b_4/b_2^2-3$；次序统计量；定理5.3.3，定理5.3.4(感觉不是特别重要但是后面做题也有，可以推推不是很难)(记一下这个$p_k(x)=\underset{\Delta x\to 0}{\lim }\frac{F_k(x+\Delta x)-F_k(x)}{\Delta x}=\underset{\Delta x\to 0}{\lim }{C}_n^{k-1}(F(x){)}^{k-1}{C}_{n-k+1}^1(F(x+\Delta x)-F(x))(1-F(x+\Delta x){)}^{n-k}=\frac{n!}{(k-1)!(n-k)!}(F(x){)}^{k-1}p(x)(1-F(x){)}^{n-k}$，常用$p_1(x)=n(1-F(x){)}^{n-1}p(x)$，$p_n(x)=n(F(x){)}^{n-1}p(x)$)；样本分位数$m_p$；定理5.3.5：设总体密度函数为$p(x)$，$x_p$为其$p$分位数，$p(x)$在$x_p$处连续且$p(x_p)>0$，则当$n\to \infty$时样本$p$分位数$m_p$的渐近分布为$m_p\sim N(x_p,\frac{p(1-p)}{n{p}^2(x_p)})$；五数概括与箱线图。

Python计算统计值

from random import random
lt=[(int((random()-0.5)*100)) for i in range(100)]
import scipy.stats as ss
import numpy as np
"""
均值，标准差，方差，偏度，峰度
"""
print("{:.4f},{:.4f},{:.4f},{:.4f},{:.4f}".format(np.mean(lt),np.std(lt),np.var(lt),ss.skew(lt),ss.kurtosis(lt)))

Python绘制箱线图

import matplotlib.pyplot as plt
import seaborn as sns
import numpy as np
data=[np.random.normal(0,std,size=100) for std in range(1,10)]
labels=['x{}'.format(i) for i in range(1,10)]
plt.figure(figsize=(16,9));sns.set_style("darkgrid")
plt.boxplot(data,vert=True,patch_artist=True,labels=labels)
plt.legend();plt.show()

习题5.3的感想

1题简单。2题，3题，4题，5题，6题，7题感觉没有技术含量，本质就是拿复杂算简单，东拼西凑，加一项减一项，展开合并，就可以了，仔细搞搞总能搞出结果。8题简单。9题需要知道$Corr(X,Y)=\frac{Cov(X,Y)}{\sqrt{(Var(X)}\sqrt{Var(Y)}}$，协方差的性质，方差性质，独立与不独立(然后就同前了)。10题需要知道$\bar{x}=\frac{1}{n^2}(\sum _{i=1}^n{x}_i^2+2\sum _{i<j}{x}_i{x}_j)，(n-1)\sum _{i=1}^n{x}_i^2-2\sum _{i<j}{x}_i{x}_j=\sum _{i<j}(x_i-x_j{)}^2$(然后就同前了)。11题就是老实去算，考途上的答案大体是正确的，但是细节有些不对(这道题挺难受，没必要去做吧)。12题老实算吧，没有什么技巧。14题考了一个切比雪夫定理，按照定理去凑即可，同时也要知道二项分布方差。13题，14题，15题，16题，17题，18题考定理5.3.1，超级简单。19题按照定义去做，超级简单(去掉一个最高分，去掉一个最低分，计算均值)。20题统计软件就好。21题就跟着感觉走。22题，23题，24题主打一个定义，自己做一遍就有感觉了。26题考定理5.3.2，超级简单。其他就没做了，还是太懒了吧。

$\xi 5.4$三大抽样分布

$伽马函数:\gamma (\alpha )={\int }_0^{\infty }{x}^{\alpha -1}{e}^{-x}dx,\gamma (1)=1,\gamma (1/2)=\sqrt{\pi },\gamma (\alpha +1)=\alpha \gamma (\alpha ),当n为自然数有\gamma (n+1)=n!$。
$$伽马分布:p(x)=\{\begin{array}{c}\frac{{\lambda }^{\alpha }}{\gamma (\alpha )}{x}^{\alpha -1}{e}^{-\lambda x},x\ge 0\\ 0,x<0\end{array},E(x)=\frac{\alpha }{\lambda },Var(x)=\frac{\alpha }{{\lambda }^2}，Ga(1,\lambda )为指数分布，Ga(n/2,1/2)为卡方分布$$

$\mathrm{5.4.1}{\mathcal{X}}^2$分布

定义5.4.1 设$X_1,X_2,\dots ,X_n$独立同分布于标准正态分布$N(0,1)$，则${\mathcal{X}}^2=X_1^2+X_2^2+\cdots +X_n^2$的分布称为自由度为n的${\mathcal{X}}^2$分布，记为${\mathcal{X}}^2\sim {\mathcal{X}}^2(n)$。可以自己推推卡方分布为什么是$Ga(n/2,1/2)$。(不是很难)
定理5.4.1 设$x_1,x_2,\dots ,x_n$是来自正态总体$N(u,{\sigma }^2)$的样本，其样本均值和样本方差分别为$\bar{x}=\frac{1}{n}\sum _{i=i1}^n{x}_i$和$s^2=\frac{1}{n-1}\sum _{i=1}^n(x_i-\bar{x}{)}^2$则有，(1)$\bar{x}$与$s^2$相互独立。(2)$\bar{x}\sim N(u,{\sigma }^2/n)$。(3)$\frac{(n-1)s^2}{{\sigma }^2}\sim {\mathcal{X}}^2(n-1)$。
PS：定理证明以后填坑。由于概率论没学好现在处于一种不想看也看不懂的状态。拿个小本本记一下。2)使用定理5.3.1能证明。

$\bar{x}$与$s^2$相互独立必要条件

我们证明两个东西：1)设总体的3阶矩存在，若$x_1,x_2,\dots ,x_n$是取自该总体的简单随机样本，$\bar{x}$为样本均值，$s^2$为样本方差，试证$Cov(\bar{x},s^2)=\frac{v_3}{n}$，其中$v_3=E[x-E(x){]}^3$(习题5.3.12)。2)试证正态分布3阶矩为0。如果再有$Cov(X,Y)=0$可以得到$X$与$Y$相互独立就是充分必要条件，可惜不行。关于1)2)可以自己证证。(不是很难)
PS：如果充要条件我就这里写了。我也是写时才知道$Cov(X,Y)=0$推不出相互独立。

Python绘制${\mathcal{X}}^2$分布

import numpy as np
x=np.linspace(0,20,100)
from scipy.stats import chi2
y1=chi2.pdf(x,4);y2=chi2.pdf(x,6);y3=chi2.pdf(x,10)
import matplotlib.pyplot as plt;import seaborn as sns
plt.figure(figsize=(16,9));sns.set_style("darkgrid")
plt.plot(x,y1,label="04");plt.plot(x,y2,label="06");plt.plot(x,y3,label="10")
plt.legend();plt.grid(True);plt.show()

$\mathrm{5.4.2}F$分布

定义5.4.2 设随机变量$X_1\sim {\mathcal{X}}^2(m),X_2\sim {\mathcal{X}}^2(n)$，$X_1$与$X_2$独立，则称$F=\frac{X1/m}{X2/m}$的分布时自由度为$m$与$n$的F分布，记为$F\sim F(m,n)$。F分布的密度函数推导看着就很头大，跳过不要为难自己。
推论5.4.1 设$x_1,x_2,\dots ,x_n$是来自$N(u_1,{\sigma }_1^2)$的样本，$y_1,y_2,\dots ,y_n$是来自$N(u_2,{\sigma }_2^2)$的样本，且此两两样本相互独立，记$s_x^2=\frac{1}{m-1}\sum _{i=1}^n(x_i-\bar{x}{)}^2,s_y^2=\frac{1}{n-1}\sum _{i=1}^n(y_i-\bar{x}{)}^2$则有$F=\frac{s_x^2/{\sigma }_1^2}{s_y^2/{\sigma }_2^2}\sim F(m-1,n-1)$。超级好证。

Python绘制F分布

import numpy as np
x=np.linspace(0,4,100)
from scipy.stats import f
y1=f.pdf(x,4,4000);y2=f.pdf(x,4,10);y3=f.pdf(x,4,4);y4=f.pdf(x,4,1)
import matplotlib.pyplot as plt;import seaborn as sns
plt.figure(figsize=(16,9));sns.set_style("darkgrid")
plt.plot(x,y1,label="m=4;n=4000");plt.plot(x,y2,label="m=4;n=10");plt.plot(x,y3,label="m=4;n=4");plt.plot(x,y4,label="m=1;n=1")
plt.legend();plt.grid(True);plt.show()

$\mathrm{5.4.3}t$分布

定义5.4.3 设随机变量$X_1$与$X_2$独立且$X_1\sim N(0,1)$，$X_2\sim {\mathcal{X}}^2(n)$，则称$t=\frac{X_1}{\sqrt{X_2/n}}$的分布为自由度为$n$的$t$分布，记为$t\sim t(n)$。跳过$t$分布的密度函数推导。自由度为$1$的$t$分布就是标准柯西分布，它的均值不存在。$n>1$时，$t$分布的数学期望存在且为$0$。$n>2$时，$t$分布的方差存在，且为$n/(n-2)$。当自由度较大(如$n\ge 30$)时，$t$分布可以用$N(0,1)$分布近似。
推论5.4.2 设$x_1,x_2,\dots ,x_n$是来自正态分布$N(u,{\sigma }^2)$的一个样本，$\bar{x}$与$s^2$分别是该样本的样本均值与样本方差，则有$t=\frac{\sqrt{n}(\bar{x}-u)}{s}\sim t(n-1)$。超级好证。
推论5.4.3 在推论5.4.1的记号下，设${\sigma }_1^2={\sigma }_2^2={\sigma }^2$，并记$s_w^2=\frac{(m-1)s_x^2+(n-1)s_x^2}{m+n-2}$，则$\frac{(\bar{x}-\bar{y})-(u_{!}-u_2)}{s_w\sqrt{\frac{1}{m}+\frac{1}{n}}}\sim t(m+n-2)$。超级好证。

Python绘制t分布

import numpy as np
x=np.linspace(-6,6,100)
from scipy.stats import t,norm
y1=norm.pdf(x,0,1);y2=t.pdf(x,4)
import matplotlib.pyplot as plt;import seaborn as sns
plt.figure(figsize=(16,9));sns.set_style("darkgrid")
plt.plot(x,y1,label="N(0,1)");plt.plot(x,y2,label="t(4)")
plt.legend();plt.grid(True);plt.show()

习题5.4的感想

1题，2题，3题考察定理5.3.1吧，非常简单。4题考查定义5.4.1吧，非常简单。5题考察推论5.4.2吧，非常简单。6题老老实实去算，遇到问题不要害怕。7题考查定义5.4.2一些性质吧，做过一遍就好。9题考察定义5.4.2吧，非常简单。10题会了9题就好。15题考察推论5.4.3吧，非常简单。其他没有做了，还是太懒了吧。
$\xi \mathrm{5.5.}$充分统计量
不作要求。