【数学基础】应用数理统计知识点

本文大纲来自于学堂在线平台重庆大学的数理统计课程。

1. 基本概念

1.1 研究随机现象的工具

$$研究随机现象的工具\{\begin{array}{l}概率论：X\sim F(x;\theta )\Rightarrow \{\begin{array}{l}概率\\ 分布函数\\ 分布律或者密度函数\\ 期望或者方差\\ \dots \end{array}\\ 数理统计：\begin{array}{l}{X}_1\\ X_2\\ ⋮\\ X_n\end{array}\}\Rightarrow X\sim F(x;\theta )\end{array}$$

• 概率论用演绎推理的方式，从已知分布出发，求各种值
• 数理统计用归纳推理的方式，通过抽样，结合概率论相关理论，确定分布

1.2 常见概念

• 总体：研究对象的总体，比如
  • 研究某厂生产的一批灯泡质量的好坏，总体就为这批灯泡的全体
  • 研究淘宝的用户，总体就为淘宝的所有用户
• 个体：总体中的单个对象
• 样本：从总体中抽样一部分出来，这一部分就称为样本，样本的大小称为样本容量。样本变量用$(X_1,X_2,....,X_n)$表示，每个样本也称为随机变量
• 观测值：对于样本中的每个样本，都会有一个具体的值，这个值称为观测值。观测值用$(x_1,x_2,...,x_n)$表示

1.3 样本

样本满足如下性质：

• 独立性：每次抽样之间没有关系，不会相互影响，即$X_1,X_2,...,X_n$相互独立
• 同分布：$X_1,X_2,...,X_n$中的每一个$X_i$与所考察的总体$X$有相同的概率分布

这种样本也成为简单随机样本。

1.3.1 样本的联合分布函数

$$\begin{array}{rl}F(x_1,x_2,\dots ,x_n)& =P\{X_1\le x_1,X_2\le x_2,\dots ,X_n\le x_n\}\\ & =P\{X_1\le x_1\}P\{X_2\le x_2\}\dots P\{X_n\le x_n\}\\ & =\prod _{i=1}^{n}F(x_i)\end{array}$$

1.3.2 样本的联合密度函数

总体$X$为连续性随机变量

$$\begin{array}{rl}f(x_1,x_2,\dots ,x_n)& =f(x_1)f(x_2)\dots f(x_n)=\prod _{i=1}^{n}f(x_i)\end{array}$$

总体$X$为离散型随机变量

$$\begin{array}{rl}P\{X_1=x_1,X_2=x_2,\dots ,X_n=x_n\}& =P\{X_1=x_1\}P\{X_2=x_2\}\dots P\{X_n=x_n\}\\ & =P\{X=x_1\}P\{X=x_2\}\dots P\{X=x_n\}\\ & =\prod _{i=1}^{n}P\{X=x_i\}\end{array}$$

1.4 统计量

样本的统计量：

名称	公式	说明
均值	$\overline{X}=\frac{1}{n}{\sum }_{i=1}^n{X}_i$
方差	$S^2=\frac{1}{n-1}{\sum }_{i=1}^n(X_i-\overline{X}{)}^2=\frac{1}{n-1}{\sum }_{i=1}^n(X_i^2-n{\overline{X}}^2)$	分母为$n-1$，表示样本方差是总体方差的无偏估计
标准差	S
样本K阶原点矩	$M_k=\frac{1}{n}{\sum }_{i=1}^n{X}_i^k$	$k=1$时，即为均值
样本K阶中心距	$M_k^{\ast }=\frac{1}{n}{\sum }_{i=1}^n(X_i-\overline{X}{)}^k$	$k=2$时，即位未修正的方差

1.4.1 样本均值的性质

性质1：${\sum }_{i=1}^n(X_i-\overline{X})=0$
性质2：若总体$X$的期望$EX=\mu$，方差为$DX={\sigma }^2$，则：

$$E\overline{X}=\mu ，D\overline{X}=\frac{1}{n}{\sigma }^2$$

1.4.2 样本方差的性质

$$E{S}^2={\mu }^2$$

1.4.3 各个统计量之间的关系

样本均值与样本方差的关系：$E{X}^2=DX+(EX{)}^2$

样本均值与样本1阶原点矩的关系：$\overline{X}=M_1$

样本方差与样本2阶中心距的关系：

$$S^2=\frac{n}{n-1}{M}_2^{\ast }$$

样本均值、样本2阶原点矩、样本2阶中心距的关系：

$$M_2^{\ast }=\frac{1}{n}\sum _{i=1}^n{X}_i^2-{\overline{X}}^2=M_2-{\overline{X}}^2$$

1.5 样本顺序统计量与经验分布函数

$X_{(1)}\le X_{(2)}\cdots \le X_{(n)}$，$X_{(1)},X_{(2)},\dots X_{(n)}$称为顺序统计量。

特别地，$X_{(1)}=min\{X_1,X_2,\dots ,X_n\}$，$X_{(n)}=max\{X_1,X_2,\dots ,X_n\}$

注意：顺序统计量既不独立，也不同分布

经验分布函数

$$F_n(x)=\{\begin{array}{l}0,x<x_{(1)}\\ \frac{k}{n},x_{(k)}\le x\le x_{(k+1)}\\ 1,x\ge x_{(n)}\end{array}$$

2. 常见分布

2.1 基础分布

分布	记法	分布律/概率密度函数	EX	DX
0-1分布	$X\sim B(1,p)$	$P\{X=k\}=p^k(1-p{)}^{1-k},k=0,1$	$p$	$p(1-p)$
二项分布	$X\sim B(n,p)$	$P\{X=k\}=C_n^k{p}^k(1-p{)}^{1-k},k=0,1,\dots ,n$	$np$	$np(1-p)$
泊松分布	$X\sim P(\lambda )$	$P\{X=k\}=\frac{{\lambda }^k{e}^{-\lambda }}{k!},k=0,1$	$\lambda$	$\lambda$
均匀分布	$X\sim U(a,b)$	$f(x)=\frac{1}{b-a},a<x<b$	$\frac{a+b}{2}$	$\frac{(b-a{)}^2}{12}$
几何分布	$X\sim G(p)$	$p(1-p{)}^{(k-1)}$	$\frac{1}{p}$	$\frac{1-p}{p^2}$
指数分布	$X\sim \Gamma (1,\lambda )$	$f(x)=\lambda e^{-\lambda x},x>0$	$\frac{1}{\lambda }$	$\frac{1}{{\lambda }^2}$
正态分布	$X\sim N(\mu ,{\sigma }^2)$		$\mu$	${\sigma }^2$

2.2 抽样分布

卡方分布
$t$分布
$F$分布

3. 分位数

4. 抽样分布定理

4.1 单正态总体的抽样分布

样本均值的抽样分布：$\overline{X}\sim N(\mu ,\frac{{\sigma }^2}{n})$

样本方差的抽样分布：$$

密度函数、分布函数

离散型随机变量：

$$P(x)=P(X=x)$$ $$F(x)=P(X\le x)=\sum _{x_k\le x}{P}_{x_k}$$

连续型随机变量：

$$P(x)=f(x)$$ $$F(x)=P(X\le x)={\int }_{-\infty }^{x}f(t)dt$$ $$F^{\prime }(x)=f(x)$$