概率论与数理统计常用公式大全

事件的关系与运算

$$\begin{array}{rl}& A-B=A-AB=A\overline{B}\\ & B=\overline{A}⟺AB=\varnothing 且A\cup B=\Omega \\ (1)吸收律& 若A\subset B,则A\cup B=B,AB=A\\ (2)交换律& A\cup B=B\cup A,AB=BA\\ (3)结合律& (A\cup B)\cup C=A\cup (B\cup C),(AB)C=A(BC)\\ (4)分配律& A(B\cup C)=AB\cup AC,A\cup BC=(A\cup B)(A\cup C),A(B-C)=AB-AC\\ (5)对偶律& \overline{A\cup B}=\bar{A}\cap \bar{B},\overline{A\cap B}=\bar{A}\cup \bar{B}\end{array}$$

概率的基本性质

$$\begin{array}{rl}& P\left(A_1\cup A_2\cup \cdots \cup A_n\right)=P\left(A_1\right)+P\left(A_2\right)+\cdots +P\left(A_n\right)（A_1,A_2,\cdots ,A_n两两互不相容）\\ & \\ & P(B-A)=P(B)-P(A)(A\subset B)\\ & \\ & P(\overline{A})=1-P(A)\\ & \\ & P(A\cup B)=P(A)+P(B)-P(AB)\\ & \\ & P\left(A_1\cup A_2\cup A_3\right)=P\left(A_1\right)+P\left(A_2\right)+P\left(A_3\right)-P\left(A_1{A}_2\right)-P\left(A_1{A}_3\right)-P\left(A_2{A}_3\right)+P\left(A_1{A}_2{A}_3\right)\\ & \\ & P\left(A_1\cup A_2\cup \cdots \cup A_n\right)=\sum _{i=1}^{n}P\left(A_i\right)-\sum _{1⩽i<j⩽n}P\left(A,A_j\right)+\sum _{\genfrac{}{}{0ex}{}{1⩽i<j<k}{n}}P\left(A_i{A}_j{A}_k\right)-\cdots +(-1{)}^{n-1}P\left(A_1{A}_2\cdots A_n\right)\\ & \\ & P(A-B)=P(A)-P(AB)\end{array}$$

条件概率相关公式

$$\begin{array}{rl}& P(B\mid A)=\frac{P(AB)}{P(A)}（条件概率）\\ & \\ & P(AB)=P(A)P(B\mid A)（乘法公式）\\ & \\ & P\left(A_1{A}_2\cdots A_n\right)=P\left(A_1\right)P\left(A_2\mid A_1\right)P\left(A_3\mid A_1{A}_2\right)\cdots P\left(A_n\mid A_1\cdots A_{n-1}\right)\end{array}$$

全概率公式：

如果 ${\bigcup }_{i=1}^n{A}_i=\Omega ,A_i{A}_j=\varnothing (i\ne j),P\left(A_i\right)>0$, 则对任一事件 $B$, 有
$$\begin{array}{c}B=\bigcup _{i=1}^n{A}_{i}B\\ P(B)=\sum _{i=1}^{n}P\left(A_i\right)P\left(B\mid A_i\right)\end{array}$$

贝叶斯公式（逆概公式）：

如果 ${\bigcup }_{i=1}^n{A}_i=\Omega ,A_i{A}_j=\varnothing (i\ne j),P\left(A_i\right)>0$, 则对任一事件 $B$, 只要 $P(B)>0$, 就有
$$P\left(A_j\mid B\right)=\frac{P\left(A_j\right)P\left(B\mid A_j\right)}{{\sum }_{i=1}^{n}P\left(A_i\right)P\left(B\mid A_i\right)}(j=1,2,\cdots ,n)$$

常用分布

离散型分布

0-1分布 $B(1,p)$

• 符号表示：$X\sim B(1,p)$
• 概率分布：$X\sim \left(\begin{array}{cc}1& 0\\ p& 1-p\end{array}\right)$
• 分布解释：结果只要 $0,1$ 两种，为 $1$ 的概率为 $p$，为 $0$ 的概率为 $1-p$
• 参数解释：$1$ 为固定常量，即一次伯努利试验；$p$ 为伯努利试验结果为 $1$ 的概率
• 期望：$p$
• 方差：$p(1-p)$

二项分布 $B(n,p)$

• 符号表示：$X\sim B(n,p)$
• 概率分布：$p_k=P\{X=k\}={\mathrm{C}}_n^k{p}^k(1-p{)}^{n-k},k=0,1,\cdots ,n,0<p<1$
• 分布解释：$X$是$n$重伯努利试验中事件$A$发生的次数。
• 参数解释：$n$ 为进行 $n$ 次伯努利试验；$p$ 为一次伯努利试验结果为 $1$ 的概率
• 期望：$np$
• 方差：$np(1-p)$

泊松分布 $P(\lambda )$

• 符号表示：$X\sim P(\lambda )$
• 概率分布：$$p_k=P\{X=k\}=\frac{{\lambda }^k}{k!}{\mathrm{e}}^{-\lambda }(k=0,1,\cdots ;\lambda >0)$$
• 分布解释：在某个时间段内，某事件发生 $k$ 次的概率。例如：在某个时间段内，卖出 $k$ 个包子的概率；知乎大佬形象解释
• 参数解释：$\lambda$ 为均值（也叫强度），即在某时间段内，某时间发生的平均次数
• 期望：$\lambda$
• 方差：$\lambda$
• 函数图像：https://www.geogebra.org/m/s3xuVuZN
  

几何分布 $G(p)$

• 符号表示：$X\sim G(p)$ 或 $X\sim \text{Ge}(p)$
• 概率分布：$p_k=P\{X=k\}=q^{k-1}p=(1-p{)}^{k-1}\cdot p(k=1,2,\cdots ;0<p<1,q=1-p)$
• 分布解释：第 $k$ 次做某事才成功的概率。如第5次抛硬币，才抛出正面的概率，即前4次都是反面，第5次是正面
• 参数解释：$p$ 表示成功的概率
• 期望：$$\frac{1}{p}$$
• 方差：$$\frac{1-p}{p^2}$$

超几何分布 $H(N,M,n)$

• 符号表示：$X\sim H(N,M,n)$
• 概率分布：$$p_k=P\{X=k\}=\frac{{\mathrm{C}}_{\mathrm{M}}^k{\mathrm{C}}_{\mathrm{N}-\mathrm{M}}^{n-k}}{{\mathrm{C}}_{\mathrm{N}}^n}(k=0,1,\cdots ,\min \{M,n\},M,N,n\text{ 为正整数 })$$
• 分布解释：从有限$N$个物件（其中包含$M$个指定种类的物件）中抽出$n$个物件，成功抽出该指定种类的物件的次数（不放回）。例如：在产品中随机抽$n$件做检查，发现$k$件不合格品的概率
• 参数解释：$N$ 为样本总数，$M$为指定样本总数，$n$ 为抽样的个数
• 期望：$$n\frac{M}{N}$$
• 方差：$$\frac{nM(N-M)(N-n)}{N^2(N-1)}$$

连续型分布

均匀分布 $U(a,b)$

• 符号表示：$X\sim U(a,b)$
• 概率密度：$$f(x)=\{\begin{array}{cc}\frac{1}{b-a},& a<x<b\\ 0,& \text{ 其他 }\end{array}$$
• 分布函数：$$F(x)=\{\begin{array}{cc}0,& x<a\\ \frac{x-a}{b-a},& a⩽x<b\\ 1,& b⩽x\end{array}$$
• 分布解释：样本在 $(a,b)$ 这个区间上是均匀分布的
• 参数解释：$a$ 为左边界，$b$ 为右边界
• 期望：$$\frac{a+b}{2}$$
• 方差：$$\frac{(b-a{)}^2}{12}$$

指数分布 $E(\lambda )$

• 符号表示：$X\sim E(\lambda )$
• 概率密度：$$f(x)=\{\begin{array}{cc}\lambda {\mathrm{e}}^{-\lambda x},& x>0\\ 0,& x⩽0\end{array}$$
• 分布函数：$$F(x)=\{\begin{array}{cc}1-{\mathrm{e}}^{-\lambda x},& x⩾0,\\ 0,& x<0\end{array}(\lambda >0)$$
• 分布解释：描述事件与事件之间的间隔时间的概率分布。如：1分钟内没有顾客通过收银台的概率为：$P\{t>1\}={\int }_1^{+\infty }f(t)dt$
• 参数解释：单位时间内的平均值。如：平均每分钟有两名顾客通过收银台，则 $\lambda =2$
• 期望：$$\frac{1}{\lambda }$$
• 方差：$$\frac{1}{{\lambda }^2}$$
• 函数图像：https://www.geogebra.org/m/XEzN7emD
  

正态分布 $N(\mu ,{\sigma }^2)$

• 符号表示：$X\sim N(\mu ,{\sigma }^2)$
• 概率密度：$$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{\mathrm{e}}^{-\frac{1}{2}{\left(\frac{x-u}{\sigma }\right)}^2}(-\infty <x<\infty )$$
• 分布函数：$$F(x)=\frac{1}{\sqrt{2\pi }\sigma }{\int }_{-\infty }^x{\mathrm{e}}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}dx,-\infty <x<+\infty$$
• 分布解释：
• 参数解释：$\mu$ 为样本均值，${\sigma }^2$ 为样本方差
• 期望：$\mu$
• 方差：${\sigma }^2$

正态分布性质：

• $f(x)$ 的图像关于直线 $x=\mu$ 对称，即 $f(\mu -x)=f(\mu +x)$
• $f(x)$ 在 $x=\mu$ 处有唯一最大值： $$f(\mu )=\frac{1}{\sqrt{2\pi }\sigma }$$
• $\mu =0,{\sigma }^2=1$ 时的正态分布 $N(0,1)$ 为标准正态分布，概率密度为： $$f(x)=\frac{1}{\sqrt{2\pi }}{\mathrm{e}}^{-\frac{1}{2}{x}^2}$$
• 标准正态分布的分布函数：$$\Phi (x)=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^x{e}^{-\frac{t^2}{2}}dt$$
• $\Phi (x)$ 的性质：$\Phi (0)=0.5$ ， $\Phi (+\infty )=1$ ，$\Phi (-x)=1-\Phi (x)$
• 在 $x=\mu \pm \sigma$ 处有拐点
• 固定 $\sigma$ ，改变 $\mu$ ，则图像沿 $x$ 轴平移而不改变其形状
• 固定 $\mu$ ，改变 $\sigma$ ，则当 $\sigma$ 很小时，曲线的形状与尖塔类似；当 $\sigma$ 值增大时，曲线将趋于平坦

函数图像：https://www.geogebra.org/m/sPBsZYET

• 概率密度函数图像：
• 分布函数图像如下：

一维随机变量函数的分布

• 离散型：$$若X\sim \left(\begin{array}{ccc}{x}_1& x_2& \cdots \\ p_1& p_2& \cdots \end{array}\right),Y=g(X),则Y\sim \left(\begin{array}{ccc}g\left(x_1\right)& g\left(x_2\right)& \cdots \\ p_1& p_2& \cdots \end{array}\right)$$

• 连续型：$$F_Y(y)=P\{Y⩽y\}=P\{g(X)⩽y\}={\int }_{g(x)⩽y}f(x)\mathrm{d}x$$

多为随机变量及其分布

$$\begin{array}{rlr}& F\left(x_1,x_2,\cdots ,x_n\right)=P\left\{X_1⩽x_1,X_2⩽x_2,\cdots ,X_n⩽x_n\right\}\left(x_1,x_2,\cdots x_n\right)\in R^n& \\ & & \\ & 当x_1<x_2,F\left(x_1,y\right)⩽F\left(x_2,y\right)& \\ & & \\ & 当y_1<y_2,F\left(x,y_1\right)⩽F\left(x,y_2\right)& F(x,y)=P\{X⩽x,Y⩽y\}(x,y)\in {\mathbf{R}}^2\\ & & \\ & F(-\infty ,y)=F(x,-\infty )=F(-\infty ,-\infty )=0& \\ & & \\ & F(+\infty ,+\infty )=1& \\ & & \\ & P\left\{x_1<x⩽x_2,y_1<y⩽y_2\right\}=F\left(x_2,y_2\right)-F\left(x_2,y_1\right)-F\left(x_1,y_2\right)+F\left(x_1,y_1\right)⩾0& \\ & & \\ & \begin{array}{rl}{F}_X(x)& =P\{X⩽x\}=P\{X⩽x,Y⩽+\infty \}\\ & =\underset{y\to +\infty }{\lim }P\{X⩽x,Y⩽y\}\\ & =\underset{y\to +\infty }{\lim }F(x,y)=F(x,+\infty )\end{array}& \\ & & \end{array}$$

离散型：

$$\begin{array}{rl}& F(x,y)=P\{X⩽x,Y⩽y\}=\sum _{x_i⩽x,y_j⩽y}{p}_{ij}\\ & \\ & P\{(X,Y)\in G\}=\sum _{\left(x_i,y_j\right)\in G}{p}_{ij}\\ & \\ & p_{i\cdot }=P\left\{X=x_i\right\}=\sum _{j}P\left\{X=x_i,Y=y_j\right\}=\sum _j{p}_{ij}(i=1,2,\cdots )\\ & \\ & p_{\cdot j}=P\left\{Y=y_j\right\}=\sum _{i}P\left\{X=x_i,Y=y_j\right\}=\sum _i{p}_{ij}(j=1,2,\cdots )\\ & \\ & \begin{array}{rl}{p}_{X\mid Y}\left(x_i\mid y_j\right)& =P\left\{X=x_i\mid Y=y_j\right\}=\frac{P\left\{X=x_i,Y=y_j\right\}}{P\left\{Y=y_j\right\}}\\ & =\frac{p_{ij}}{p\cdot j}(i=1,2,\cdots )\end{array}\end{array}$$

连续型：

$$\begin{array}{rl}& F(x,y)=P\{X⩽x,Y⩽y\}={\int }_{-\infty }^x{\int }_{-\infty }^{y}f(u,v)\mathrm{d}u\mathrm{d}v(x,y)\in {\mathbf{R}}^2\\ & \\ & P\{(X,Y)\in G\}={\iint }_{G}f(x,y)\mathrm{d}x\mathrm{d}y\\ & \\ & {\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }f(x,y)\mathrm{d}x\mathrm{d}y=1\\ & \\ & \frac{{\partial }^{2}F(x,y)}{\partial x\partial y}=f(x,y)\\ & \\ & F_X(x)=F(x,+\infty )={\int }_{-\infty }^x\left[{\int }_{-\infty }^{+\infty }f(u,v)\mathrm{d}v\right]\mathrm{d}u\\ & \\ & f_X(x)={\int }_{-\infty }^{+\infty }f(x,y)\mathrm{d}y\\ & \\ & f_Y(y)={\int }_{-\infty }^{+\infty }f(x,y)\mathrm{d}x\\ & \\ & f_{Y\mid X}(y\mid x)=\frac{f(x,y)}{f_X(x)}\\ & \\ & f_{X\mid Y}(x\mid y)=\frac{f(x,y)}{f_Y(y)}\\ & \\ & f(x,y)=f_X(x)f_{Y\mid X}(y\mid x)=f_Y(y)f_{X\mid Y}(x\mid y)\\ & \\ & F_{Y\mid X}(y\mid x)={\int }_{-\infty }^y{f}_{Y\mid X}(v\mid x)\mathrm{d}v={\int }_{-\infty }^y\frac{f(x,v)}{f_X(x)}\mathrm{d}v\\ & \\ & F_{X\mid Y}(x\mid y)={\int }_{-\infty }^x{f}_{X\mid Y}(u\mid y)\mathrm{d}u={\int }_{-\infty }^x\frac{f(u,y)}{f_Y(y)}\mathrm{d}u\end{array}$$

常见的微微离散型、连续型分布

二维均匀分布

$$f(x,y)=\{\begin{array}{cc}\frac{1}{S_D},& (x,y)\in D,\\ 0,& \text{ 其他 },\end{array}$$

其中 $S_D$ 为区域 $D$ 的面积

二维正态分布

$$f(x,y)=\frac{1}{2\pi {\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}}\exp \left\{-\frac{1}{2\left(1-{\rho }^2\right)}\left[{\left(\frac{x-{\mu }_1}{{\sigma }_1}\right)}^2-2\rho \left(\frac{x-{\mu }_1}{{\sigma }_1}\right)\left(\frac{y-{\mu }_2}{{\sigma }_2}\right)+{\left(\frac{y-{\mu }_2}{{\sigma }_2}\right)}^2\right]\right\}$$

其中 ${\mu }_1\in \mathbf{R},{\mu }_2\in \mathbf{R},{\sigma }_1>0,{\sigma }_2>0,-1<\rho <1$, 则称 $(X,Y)$ 服从参数为 ${\mu }_1,{\mu }_2,{\sigma }_1^2,{\sigma }_2^2,\rho$ 的二维正态分布, 记为 $(X,Y)\sim N\left({\mu }_1,{\mu }_2;{\sigma }_1^2,{\sigma }_2^2;\rho \right).$ 此时有:
(1) $X\sim N\left({\mu }_1,{\sigma }_1^2\right),Y\sim N\left({\mu }_2,{\sigma }_2^2\right),\rho$ 为 $X$ 与 $Y$ 的相关系数, 即
$$\rho =\frac{\mathrm{Cov}(X,Y)}{\sqrt{DX}\sqrt{DY}}=\frac{\mathrm{Cov}(X,Y)}{{\sigma }_1{\sigma }_2}$$
(2) $X,Y$ 的条件分布都是正态分布.
(3) $aX+bY(a\ne 0$ 或 $b\ne 0$ )服从正态分布.
(4) $X$ 与 $Y$ 相互独立的充要条件是 $X$ 与 $Y$ 不相关, 即 $\rho =0$

随机变量的相互独立性

$$\begin{array}{rl}& F(x,y)=F_X(x)\cdot F_Y(y)⟺X与Y相互独立\\ & \\ & F\left(x_1,x_2,\cdots ,x_n\right)=F_1\left(x_1\right)\cdots F_n\left(x_n\right)⟺X_1,X_2,\cdots ,X_n相互独立\\ & \\ & P\left\{X_1⩽x_1,\cdots ,X_n⩽x_n;Y_1⩽y_1,\cdots ,Y_m⩽y_m\right\}=P\left\{X_1⩽x_1,\cdots ,X_n⩽x_n\right\}\cdot P\left\{Y_1⩽y_1,\cdots ,Y_m⩽y_m\right\}\\ & 即F\left(x_1,\cdots ,x_n,y_1,\cdots ,y_m\right)=F_1\left(x_1,\cdots ,x_n\right)\cdot F_2\left(y_1,\cdots ,y_m\right)\\ & ⟺(X_1,X_2,\cdots ,X_n)与(Y_1,Y_2,\cdots ,Y_m)相互独立\\ & \\ & P\left\{X_1=x_1,\cdots ,X_n=x_n\right\}=\prod ^{n}P\left\{X_i=x_i\right\}（离散型，且相互独立）\\ & \\ & f\left(x_1,x_2,\cdots ,x_n\right)=f_1\left(x_1\right)\cdot f_2\left(x_2\right),\cdots ,f_n\left(x_n\right)（连续型，且相互独立）\\ & \\ & X,Y独立⟹\begin{array}{ll}P\left\{X=x_i\mid Y=y_j\right\}=P\left\{X=x_i\right\}& \left(P\left\{Y=y_j\right\}>0\right)\\ P\left\{Y=y_j\mid X=x_i\right\}=P\left\{Y=y_j\right\}& \left(P\left\{X=x_i\right\}>0\right)\end{array}（离散型）\\ & \\ & X,Y独立⟹\begin{array}{rl}& f_{X\mid Y}(x\mid y)=\frac{f(x,y)}{f_Y(y)}=f_X(x)\left(f_Y(y)>0\right)\\ & f_{Y\mid X}(y\mid x)=\frac{f(x,y)}{f_X(x)}=f_Y(y)\left(f_X(x)>0\right)\end{array}\\ & \\ & X_1,X_2,\cdots ,X_n相互独立⟹g_1(X_1),g_2(X_2),\cdots ,g_n(X_n)相互独立（g(x)为一元连续函数）\end{array}$$

多维随机变量函数的分布

$$\begin{array}{rl}& P\left\{U=g\left(x_i,y_i\right)\right\}=P\left\{X=x_i,Y=y_j\right\}=p_{ij}\\ & \\ & F_U(u)=P\{U⩽u\}=P\{g(X,Y)⩽u\}=\sum _{g\left(x_i,y_j\right)⩽u}P\left\{X=x_i,Y=y_j\right\}\end{array}$$