宋浩概率论与数理统计-第一章-笔记

引言

确定性（必然）：一定发生（不发生）
随机（偶然）：可能发生 可能不发生
统计规律

1.1.1 随机事件

试验：观察 测量 实验

随机试验：

1. 在相同的条件下，可以重复
2. 试验结果不止一个
3. 无法预测哪个结果会出现

事件：每种结果

随机事件：A, B, C

基本事件：相对于实验目的来说 不能再分（不必再分）

复合事件：由基本事件复合而成

$\Omega$：全集
$\Phi$：空集

必然事件：一定发生 $\Omega$

不可能事件：一定不发生 $\Phi$

1.1.2 样本空间与事件的集合表示

样本空间：所有基本事件的集合 $\Omega$

样本点：样本空间的元素 $\omega$

事件的集合表示

1.1.3 事件间的关系

包含

$A\subset B$：A发生必然导致B发生
$\Phi \subset A\subset \Omega$
相等：若$A\subset B$且$B\subset A$，则$A=B$

并（和）

$A\cup B$ 或 $A+B$：A与B中至少有一个发生
$A\subset A+B$
$A+A=A$
$A+\Phi =A$
$A+\Omega =\Omega$

交（积）

$A\cap B$ 或 $AB$：AB同时发生
$AB\subset A$
$AA=A$
$A\Phi =\Phi$
$A\Omega =A$

无限可列个：按某种规律排成一个序列
例：全体自然数，全体整数，全体有理数
实数集（×），直线上的点集（×）

差

$A-B$：A发生而B不发生

互不相容事件

A、B不同时发生
$AB=\Phi$
n个事件：$A_1,A_2,...,A_n$
$A_i{A}_j=\Phi$

对立事件

A、B不互相容且$A\cup B=\Omega$
$AB=\Phi$且$A+B=\Omega$
$A=\overline{B}$
$B=\overline{A}$

1. $\overline{\overline{A}}=A$
2. $A-B=A-AB=A\bar{B}$

联系与区别：

1. 两事件对立，则一定互不相容
2. 互不相容适用于多个事件，对立只适用于两个事件
3. 互不相容不能同时发生，可以都不发生；对立有且只有一个发生

完备事件组

$A_1,A_2,...,A_n$两两互不相容，且${\cup }_{i=1}^n{A}_i=\Omega$

运算律

1. 交换
   $A\cup B$=$B\cup A$
   $A\cap B$=$B\cap A$
2. 结合
   $(A\cup B)\cup C=A\cup (B\cup C)$
   $(A\cap B)\cap C=A\cap (B\cap C)$
3. 分配
   $(A\cup B)\cap C=(A\cap C)\cup (B\cap C)$
   $(A\cap B)\cup C=(A\cup C)\cap (B\cup C)$
4. 对偶
   $\overline{A\cup B}=\overline{A}\cap \overline{B}$
   $\overline{A\cap B}=\overline{A}\cup \overline{B}$

事件的概率

1.2.1 概率的初等描述

概率：可能性的大小，$P(A)$

性质：

1. $P(\Omega )=1,P(\Phi )=0$
2. $0\le P(A)\le 1$

1.2.2 古典概型（排列组合）

条件：

1. 有限个样本点
2. 等可能性

$$P(A)=\frac{A的有利样本点}{\Omega 中样本点总数}=\frac{A中包含的基本事件数}{基本事件总数}$$

排列组合

加法原理：几类方案 加法
乘法原理：分几步 乘法

排列：

• 不重复排列
  从$n$个不同的元素中取出$m$个不同的进行排列
  $A_n^m=n(n-1)(n-2)\cdots (n-m+1)=\frac{n!}{(n-m)!}$
  全排列
  $A_n^n=n(n-1)\cdots 3\times 2\times 1=n!$
• 重复排列
  从$n$个不同的元素中取出$m$个进行排列
  $n\times n\times \cdots \times n=n^m$

组合：

• 从$n$个不同的元素中取出$m$个不同元素
  $C_n^m=\frac{A_n^m}{m!}=\frac{n(n-1)\cdots (m-n+1)}{m(m-1)\cdots \times 2\times 1}=\frac{n!}{m!(n-m)!}$
  $C_n^m=C_n^{n-m}$
  $C_n^0=C_n^n=1$

古典概型

性质：

1. 非负性：$0\le P(A)\le 1$
2. 规范性：$P(\Omega )=1,P(\Phi )=0$
3. 有限可加：$A_1,A_2,\cdots ,A_n$互不相容
   $P(A_1+A_2+\cdots +A_n)=P(A_1)+P(A_2)+\cdots +P(A_n)$

缺点：

• 有限个结果
• 等可能性

1.2.3 几何概型

线段、平面、立体
$P(A)=\frac{\mu (G)}{\mu (\Omega )}$
$\mu$：几何区域的度量

例题：
甲乙两人约定6点到7点见面，先到者等15 min。甲乙两人在一小时内任意时刻都有可能到达。问两人能见面的概率。

设：
$A$：两人能见面
$x$：甲到达的时间
$y$：乙到达的时间

$\{\begin{array}{l}y-x\ge 0\\ |x-y|\le 15\end{array}$

例题：
蒲丰投针问题：向相距为$d$的等距平行线之间随机投长度为$l$的针（$l<d$），针的中点落在两平行线间，针与直线相交的概率。

$x$：针的中点离最近的直线的距离（$0\le x\le \frac{d}{2}$）
$\varphi$：针与线之间的夹角（$0\le \varphi \le \pi$）

$\frac{x}{sin\varphi }\le \frac{l}{2}$

$\Omega =\{(\varphi ,x)|0\le \varphi \le \pi ,0\le x\le \frac{d}{2}\}$
$a=\{(\varphi ,x)!0\le \varphi \le \pi ,0\le x\le \frac{l}{2}sin\varphi \}$

$\frac{{\int }_0^{\pi }\frac{l}{2}sin\varphi d\varphi }{\pi \times 2d}=\frac{2l}{\pi d}$

性质：
几何概率模型具有与古典概率模型相同的性质
几何概率模型具有完全可加性

$P(\bigcup _{i=1}^{\infty }{A}_i)=\sum _{i=1}^{\infty }P(A_i)$

1.2.4 频率与概率

频率：$n$次试验，事件$A$发生了$m$次，$\frac{m}{n}$称为频率，记作${\omega }_n(A)$

性质：

1. 非负性 $0\le {\omega }_n(A)\le 1$
2. 规范性 ${\omega }_n(\Omega )=1,{\omega }_n(\Phi )=0$
3. 可加性
   若$A_1,A_2,\cdots ,A_m$两两互不相容
   ${\omega }_n(A_1+A_2+\cdots +A_m)={\omega }_n(A_1)+{\omega }_n(A_2)+\cdots +{\omega }_n(A_m)$

频率的稳定值称为统计概率

1.2.5 公理化

概率的四种定义：描述性定义、古典概型定义、几何概型定义、统计定义

性质：

• 非负性
• 规范性
• 可加性

公理1（非负性） $0\le P(A)\le 1$
公理2（规范性） $P(\Omega )=1$
公理3（完全可加性） 若$A_1,A_2,\cdots$两两互不相容，则$P(A_1+A_2+\cdots )=P(A_1)+P(A_2)+\cdots$

性质1

$P(\Phi )=0$

证明：
$\Omega =\Omega +\Phi +\Phi +\cdots$
$\begin{array}{rl}P(\Omega )=& P(\Omega +\Phi +\Phi +\cdots )\\ =& P(\Omega )+P(\Phi )+P(\Phi )+\cdots \\ =& 1+P(\Phi )+P(\Phi )+\cdots \\ =& 1\end{array}$
[公理2、公理3]
$P(\Phi )+P(\Phi )+\cdots =0$
又$0\le P(\Phi )\le 1$[公理1]
$P(\Phi )=0$

性质2（有限可加性）

若$A_1,A_2,\cdots ,A_n$两两互不相容，则$P(A_1+A_2+\cdots +A_n)=P(A_1)+P(A_2)+\cdots +P(A_n)$

证明：
$A_1,A_2,\cdots ,A_n,\Phi ,\Phi ,\cdots$ 两两互不相容
则
$$\begin{gathered} P(A_1+A_2+\cdots +A_n) \\ =P(A_1+A_2+\cdots +A_n+\Phi +\Phi +\cdots ) \\ =P(A_1)+P(A_2)+\cdots +P(A_n)+P(\Phi )+P(\Phi )+\cdots \\ =P(A_1)+P(A_2)+\cdots +P(A_n) \end{gathered}$$
[公理3]

性质3

$P(\overline{A})=1-P(A)$

证明：
$A\cap \overline{A}=\Phi$
$A+\overline{A}=\Omega$
所以
$P(\Omega )=P(A+\overline{A})=P(A)+P(\overline{A})=1$
[公理2、性质2]
所以$P(\overline{A})=1-P(A)$

推论：若$A_1+A_2+\cdots +A_n$构成了完备事件组，则$P(\Omega )=P(A_1+A_2+\cdots +A_n)=P(A_1)+P(A_2)+\cdots +P(A_n)=1$

性质4

1. $P(A-B)=P(A)-P(AB)$
2. 若$A\supset B$，则$P(A-B)=P(A)-P(B)$且$P(A)\ge P(B)$

证明：
$A=(A-B)\cup AB$，$A-B$与$AB$互不相容
$P(A)=P(A-B)+P(AB)$
[性质2]
$P(A-B)=P(A)-P(AB)$
当$A\supset B$时，$AB=B$，则有$P(A-B)=P(A)-P(B)$

性质5（加法公式）$\star \star \star$

$P(A+B)=P(A)+P(B)-P(AB)$

证明：
$A+B=A+(B-AB)$，$A$与$B-AB$互不相容
$P(A+B)=P(A+(B-AB))=P(A)+P(B-AB)$
[性质2]
$P(B-AB)=P(B)-P(BAB)=P(B)-P(AB)$
[性质4]
$P(A+B)=P(A)+P(B-AB)=P(A)+P(B)-P(AB)$

补：$P(A+B+C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC)$

【例题】

【例1】$P(A)=0.4,P(B)=0.3,P(A+B)=0.6$，求$P(A\overline{B})$

根据加法原理，
$P(A+B)=P(A)+P(B)-P(AB)$
$P(AB)=0.1$
$P(A\overline{B})=P(A-B)=P(A)-P(AB)=0.3$

【例2】$P(A)=P(B)=P(C)=1/4,P(AB)=0,P(AC)=P(BC)=1/16$，求：1. $ABC$至少一个发生的概率；2. $ABC$都不发生的概率
$$\begin{gathered} P(A+B+C) \\ =P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC) \\ =1/4+1/4+1/4-0-1/16-1/16+0 \\ =5/8 \end{gathered}$$
$P(\overline{A+B+C})=1-P(A+B+C)=3/8$

$A$为不可能事件$\Rightarrow P(A)=0$
$P(A)=0\nRightarrow A$为不可能事件
举例：0~1的线段上任取一点，恰好取到0.1位置的概率为0，但有可能发生

【例3】4个白球，3个黑球，任取3个，求其中至少有两个白球的概率。

$P=\frac{C_4^2{C}_3^1+C_4^3}{C_7^3}$

【例4】第一台机床不需要看管的概率为0.9，第二台机床不需要看管的概率为0.8，两台都需要的概率为0.02，问至少一台需要看管的概率。

$P(A_1+A_2)=P(A_1)+P(A_2)-P(A_1{A}_2)=0.1+0.2-0.02=0.28$

【例5】20件产品，一等品6件，二等品10件，三等品4件。任取3件，求至少两件等级相同的概率。

逆事件：三件等级各不相同
$P^{\prime }=\frac{C_6^1{C}_{10}^1{C}_4^1}{C_{20}^3}$
$P=1-P^{\prime }=1-\frac{C_6^1{C}_{10}^1{C}_4^1}{C_{20}^3}$

【例6】求$n$个人至少两人生日相同的概率。

逆事件：$n$个人生日各不相同
$P^{\prime }=\frac{365\times 364\times 363\times \cdots \times (365-n+1)}{365^n}$
$P=1-P^{\prime }=1-\frac{365\times 364\times 363\times \cdots \times (365-n+1)}{365^n}$

当$n=55$时，$P\approx 0.99$

1.3.1 条件概率

定义：
设$\Omega$是样本空间，$AB$是两个事件，$P(B)>0$，在$B$已经发生的条件下$A$发生的概率称为$A$对$B$的条件概率，记作$P(A|B)$

$P(A)$无条件概率 $⟶$ 样本空间$\Omega$
$P(A|B)$条件概率 $⟶$ 样本空间$B={\Omega }_B$

1. $P(A|B)=\frac{n_{AB}}{n_B}$
2. $P(A|B)=\frac{n_{AB}/n}{n_B/n}=\frac{P(AB)}{P(B)}$

性质：

• $P(A|B)\ge 0$
• $P(\Omega |B)=1$
• 若$A_1,A_2,\cdots$两两互不相容，则$P(\sum _{i=1}^{\infty }{A}_i|B)=\sum _{i=1}^{\infty }P(A_i|B)$

$P(A|B)+P(\overline{A}|B)=1$

1.3.2 乘法公式

$P(A|B)=\frac{P(AB)}{P(B)}\Rightarrow P(AB)=P(B)P(A|B)$
$P(B|A)=\frac{P(AB)}{P(A)}\Rightarrow P(AB)=P(A)P(B|A)$

$P(A_1{A}_2\cdots A_n)=P(A_1)P(A_2|A_1)P(A_3|A_1{A}_2)\cdots P(A_n|A_1{A}_2\cdots A_{n-1})$

1.4.1 全概率公式

设$A_1+A_2+\cdots +A_n$是试验$E$的一个完备事件组，$P(A_i)>0$，$P(B)=\sum _{i=1}^{n}P(A_i)P(B|A_i)$

1.4.2 贝叶斯公式

设$A_1+A_2+\cdots +A_n$是试验$E$的一个完备事件组，$B$是试验$E$的一个事件，$P(A_i)>0$，$P(B)>0$，$P(A_i|B)=\frac{P(A_k)P(B|A_k)}{\sum _{i=1}^{n}P(A_i)P(B|A_i)}=\frac{P(A_{k}B)}{P(B)}$

$P(A_i)$：先验概率
$P(A_i|B)$：后验概率

1.5.1 事件的独立性

定义：$A$事件发生的概率不受$B$事件发生与否的影响。
$P(A|B)=P(A)$

定理：$P(A)>0,P(B)>0$，则$A$和$B$独立的充要条件是$P(AB)=P(A)P(B)$

证明如下：

1. 充分性：$P(AB)=P(A)P(B)\Rightarrow AB$独立
   $P(A|B)=\frac{P(AB)}{P(B)}$
   [条件概率]
   $P(A|B)=\frac{P(A)P(B)}{P(B)}=P(A)$

2. 必要性：$AB$独立$\Rightarrow P(AB)=P(A)P(B)$
   $P(AB)=P(B)P(A|B)=P(B)P(A)$
   [乘法公式]

若$P(A)=0$或$P(B)=0$，上述公式仍成立

定义1.6：若$P(AB)=P(A)P(B)$，则称$AB$独立。

$\Phi$和$\Omega$与任意事件$A$独立
证明如下：

1. $\Phi$与$A$独立：
   $P(\Phi A)=P(\Phi )=0$
   $P(\Phi )P(A)=0$
2. $\Omega$与$A$独立：
   $P(\Omega A)=P(A)$
   $P(\Omega )P(A)=P(A)$

定理1.5：

• 如果$AB$独立，则$A$与$\overline{B}$，$\overline{A}$与$B$，$\overline{A}$与$\overline{B}$也独立
• $P(A)=0$或$P(A)=1$，则$A$与任意事件独立

独立：可能性
互不相容：$AB=\Phi$

$P(A)>0,P(B)>0$，$AB$独立和互不相容不能同时成立

$n$个事件独立：任选$k$个事件（$k\le n$）均独立
例：3个事件独立：
$P(AB)=P(A)P(B)$
$P(AC)=P(A)P(C)$
$P(BC)=P(B)P(C)$
$P(ABC)=P(A)P(B)P(C)$

使用条件？

1. 投球 射击 ……场景
2. 题干指出“独立”

1.5.2 伯努利模型

独立实验序列：$E_1,E_2,\cdots ,E_n$独立
$n$重独立实验：$\underset{n个}{E,E,\cdots ,E}$ 独立
伯努利实验：结果只有两种 $\Omega =\{A,\overline{A}\}$
$n$重伯努利实验：$n$次，独立，实验结果仅有两种

伯努利实验中，设$A$发生的概率为$P$，则$\overline{A}$的概率为$1-P$
$n$重伯努利实验中，设$A$发生的概率为$P$，$A$发生$k$次的概率为：$P_n(k)=C_n^k{P}^k(1-P{)}^{n-k}$（二项概率公式）