概率论专题复习

各种分布

①：01分布 B（Binary）

二项分布

$$X\sim B(n,p)$$
$$E(X)=np$$
$$D(X)=np(1-p)$$

②：泊松分布 P（Poisson）

$$X\sim P(\lambda )$$
$$E(X)=D(X)=\lambda$$
$$p\{x=k\}=\frac{{\lambda }^k}{k!}{e}^{-\lambda }$$

理解

因为概率和为1
$$\sum _{k=0}^{\infty }\frac{{\lambda }^k}{k!}{e}^{-\lambda }=1$$
所以：
$$\sum _{k=0}^{\infty }\frac{{\lambda }^k}{k!}=e^{\lambda }$$
其实是$e^{\lambda }$的泰勒展开变形

③：均匀分布 U（Uniform）

$$X\sim U(a,b)$$
$$E(X)=\frac{a+b}{2}$$
$$D(X)=\frac{(b-a{)}^2}{12}$$

④：指数分布 E（Exponential）

$$X\sim E(\lambda )$$
$$E(X)=\frac{1}{\lambda }$$
$$D(X)=\frac{1}{{\lambda }^2}$$
$$X\sim f(x)=\{\begin{array}{c}\lambda e^{-\lambda x},x>0\\ 0,x\le 0\end{array}$$

要背一哈积分

$$px>t={\int }_t^{+\infty }\lambda e^{-\lambda t}dt=e^{-\lambda t}$$

无记忆性

$$px>t+s|x>s=\frac{p(x>t+s,x>s)}{p(x>s)}=\frac{p(x>t+s)}{p(x>s)}=\frac{e^{-\lambda (t+s)}}{e^{-\lambda s}}=e^{-\lambda t}$$

⑤： 正态分布 N（Normal）

$$X\sim N(\mu ,{\sigma }^2)$$
$$E(X)=\mu$$
$$D(X)={\sigma }^2$$
$$X\sim f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$$

标准正态

$$X\sim N(0,1)$$
用$\phi (x)$来表示
$$\phi (x)\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}$$

分布函数

用$\varphi$来表示
有个对称性的性质：
$$\varphi (x)=1-\varphi (-x)$$

一.独立事件

1

①：
$$\overline{A\cup B}=\bar{A}\cap \bar{B}$$
②：
$$\overline{A\cap B}=\bar{A}\cup \bar{B}$$
③：
$$\overline{A-B}=\bar{A}\cup B$$
这个感觉有点少见

2

①：
$$p(B|A)=p(B|\bar{A})=p(B)$$

证明：

$p(B|A)=\frac{p(AB)}{p(A)}=\frac{p(A)p(B)}{p(A)}=p(B)$
$p(B|\bar{A})$同理

②：
$$p(A|B)=1-p(\bar{A}|\bar{B})$$
这个怎么来的？？？

二.复合概率密度函数

$X\sim f(x),Y\sim g(f(x))$

定义法

$$f_Y(y)=F_Y^{\prime }(y)$$
而
$$F_Y(y)=p(Y\le y)=p(g(x)\le y)={\int }_{g(x)\le y}{f}_x(x)dy$$

一个结论

根据王式安老师说的，好像是个定理，要研究生的课才上
如果：
$$X\sim f(x),F(x)$$
并且有$Y=F(X)$这个代换，那么
$$Y\sim U(0,1)$$

简略理解证明

$$Y\sim F_Y(y)=p(Y\le y)=p(F(X)\le y)=p(X\le F^{-1}(y))=F(F^{-1}(y))=y$$

$$f_x(x),f_X(x),f_x(X),f_X(X)$$

协方差

$$Cov(X,Y)=E\{[X-E(X)][Y-E(Y)]\}=E(XY)-E(X)E(Y)$$

协方差的性质

①：
$$Cov(aX,bY)=abCov(X,Y)$$
②：
$$Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)$$
用协方差来计算和的方差
$$D(X\pm Y)=D(X)\pm 2Cov(X,Y)+D(Y)$$

相关系数

$${\rho }_{XY}=\frac{Cov(X,Y)}{\sqrt{D(X)D(Y)}}$$

大数定理 中心定理

切比雪夫不等式

$$p(|X-E(X)|\ge \epsilon )\le \frac{D(X)}{{\epsilon }^2}$$

切比雪夫大数定理 辛钦大数定理

大数定理这一节，截个王式安老师的图：

伯努利大数定理可以看成是上面两个的特殊情况
反正就是求期望就完事了~

中心定理

意思就是说加起来近似正态分布

样本及抽样分布

样本均值

$$\overline{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$$

样本方差

$$S^2=\frac{1}{n-1}\sum _{i-1}^n(X_i-\overline{X}{)}^2$$
样本方差阔以化为两种形状：
①：
$$\frac{1}{n-1}\sum _{i-1}^n(X_i-\overline{X}{)}^2=\frac{1}{n-1}[\sum _{i=1}^n{X}_i^2-n{\overline{X}}^2]$$
过程：
$$S^2=\frac{1}{n-1}\sum _{i-1}^n(X_i-\overline{X}{)}^2=\frac{1}{n-1}\sum _{i-1}^n(X_i^2-2X_i\overline{X}+{\overline{X}}^2)=\frac{1}{n-1}[\sum _{i-1}^n{X}_i^2-2\overline{X}\sum _{i=1}^n{X}_i+\sum _{i=1}^n{\overline{X}}^2]=\frac{1}{n-1}[\sum _{i-1}^n{X}_i^2-2\overline{X}\cdot n\overline{X}+\sum _{i=1}^n{\overline{X}}^2]=\frac{1}{n-1}(\sum _{i-1}^n{X}_i^2-n{\overline{X}}^2)$$
②：
$$\frac{1}{n-1}\sum _{i-1}^n(X_i-\overline{X}{)}^2=\sum _{i=1}^n(X_i-\mu {)}^2-n(\overline{X}-\mu {)}^2$$
过程：
$$\frac{1}{n-1}\sum _{i-1}^n(X_i-\overline{X}{)}^2=\frac{1}{n-1}\sum _{i-1}^n[(X_i-\mu )-(\overline{X}-\mu ){]}^2=\frac{1}{n-1}\sum _{i-1}^n[(X_i-\mu {)}^2-2(X_i-\mu )(\overline{X}-\mu )+(\overline{X}-\mu {)}^2]=\sum _{i=1}^n[(X_i-\mu {)}^2-(\overline{X}-\mu {)}^2]=\sum _{i=1}^n(X_i-\mu {)}^2-n(\overline{X}-\mu {)}^2$$

这儿有篇苏剑林写的关于无偏估计的：为啥是n-1

$$E(\overline{X})=E(\frac{1}{n}\sum _{i=1}^n{X}_i)=\sum _{i=1}^{n}E(\frac{1}{n}{X}_i)=\sum _{i=1}^n\frac{1}{n}\mu =\mu$$
$$D(\overline{X})=D(\frac{1}{n}\sum _{i=1}^n{X}_i)=\sum _{i=1}^{n}D(\frac{1}{n}{X}_i)=\sum _{i=1}^n\frac{1}{n^2}D(X_i)=\sum _{i=1}^n\frac{1}{n^2}{\sigma }^2=\frac{{\sigma }^2}{n}$$
$$E(S^2)=\frac{1}{n-1}[\sum _{i=1}^{n}E(X_i^2)-nE({\overline{X}}^2)]=\frac{1}{n-1}[\sum _{i=1}^n(D(X_i)+E^2(X_i))-n(D(\overline{X})+E^2(\overline{X}))]=\frac{1}{n-1}[\sum _{i=1}^n({\sigma }^2+{\mu }^2)-n(\frac{{\sigma }^2}{n}+{\mu }^2)]=\frac{1}{n-1}[n{\sigma }^2+n{\mu }^2-{\sigma }^2-n{\mu }^2]=\frac{1}{n-1}[(n-1){\sigma }^2]={\sigma }^2$$

开方分布

$$X\sim {\chi }^2(n)$$
$$E(X)=n$$
$$D(X)=2n$$
还有一个关于 开方分布 与 样本方差 的一个定理，感觉经常用，但是证明很麻烦，是书上P143，证明在章末附录
$$\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$$

t分布

$$\begin{gathered} X\sim N(0,1) \\ Y\sim {\chi }^2(n) \end{gathered}$$
$$T=\frac{X}{\sqrt{Y/n}}$$
$$t_{1-\alpha }(n)=-t_{\alpha }(n)$$
关于 t分布 与 样本方差 的一个定理
$$T=\frac{\overline{X}-\mu }{\sqrt{S^2/n}}\sim t(n-1)$$

正态总体的样本均值与样本方差的分布

①：
$$\overline{X}\sim N(\mu ,\frac{{\sigma }^2}{n}),\frac{\overline{X}-\mu }{\sqrt{{\sigma }^2/n}}\sim N(0,1)$$
②：
$$\overline{X}与S^2相互独立，且\frac{(n-1)S^2}{{\sigma }^2}\sim {\chi }^2(n-1)$$
③：
$$T=\frac{\overline{X}-\mu }{\sqrt{S^2/n}}\sim t(n-1)$$
背一个积分
$${\int }_0^{\infty }{x}^n{e}^{-x}dx=n!$$