第一章 概率论的基本概念

第一章 概率论的基本概念

确定现象：在一定条件下必然发生，如日出

随机现象：在个别试验中其结果呈现出不确定性，在大量重复试验中其结果又具有统计规律的现象，称之为随机现象。

1 随机试验

随机试验：满足如下三个条件的试验称为随机试验。
(1) 可以在相同的条件下重复地进行；
(2) 每次试验的可能结果不止一个，并且能事先明确试验的所有可能结果；
(3) 进行一次试验之前不能确定哪一个结果会出现。

2 样本空间、随机事件

（一）样本空间

样本空间：将随机试验E的所有可能结果组成的集合称为E的样本空间，记为S。

样本点：样本空间的元素，即E的每个结果，称为样本点。

（二）随机事件

随机事件：一般，我们称试验E的样本空间S的子集为E的随机事件，简称事件。

事件发生：在每次试验中，当且仅当这一子集中的一个样本点出现时，称这一事件发生。

基本事件：由一个样本点组成的单点集，称为基本事件。

必然事件：样本空间S包含所有的样本点，它是S自身的子集，在每次试验中它总是发生的，S称为必然事件。

不可能事件：空集$\varphi$不包含任何样本点，它也作为样本空间的子集，它在每次实验中都不发生，$\varphi$称为不可能事件。

（三）事件间的关系与事件的运算

设试验E的样本空间为S，而$A,B,A_k(k=1,2,...)$是S的子集。

事件A与B相等

（1）若$A\subset B$,则称事件B包含事件A，这指的是事件A发生必导致事件B发生。

若$A\subset B$且$B\subset A$,即$A=B$，则称事件A与事件B相等。

和事件

（2）事件$A\cup B=\{x|x\in Aorx\in B\}$称为事件A与事件B的和事件。当且仅当A，B中至少有一个发生时，事件$A\cup B$发生。

n个事件$A_1,A_2,...,A_n$的和事件${\bigcup }_{k=1}^n{A}_k$，称${\bigcup }_{k=1}^{\infty }{A}_k$为可列个事件$A_1,A_2,...$的和事件。

积事件

（3）事件$A\cap B=\{x|x\in Aandx\in B\}$称为事件A与事件B的积事件。当且仅当A，B同时发生时，事件$A\cap B$发生。$A\cap B$也记作AB.

n个事件$A_1,A_2,...,A_n$的积事件${\bigcap }_{k=1}^n{A}_k$，称${\bigcap }_{k=1}^{\infty }{A}_k$为可列个事件$A_1,A_2,...$的和事件。

差事件

（4）事件$A-B=\{x|x\in Aandx\notin B\}$称为事件A与事件B的差事件。当且仅当A发生、B不发生时事件$A-B$发生。

互不相融

（5）若$A\cap B=\varphi$，则称事件A与事件B是互不相容的，或互斥的。这指的是事件A与事件B不能同时发生。基本事件是两两互不相容的。

对立事件

（6）若$A\cup B=SandA\cap B=\varphi$，则称事件A与事件B互为逆事件。又称事件A与事件B互为对立事件。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-hAiabryV-1594606437368)(E:\Typora_files\概率论\第一章 概率论的基本概念.assets\image-20200710162106167.png)]

（四）几个定律

设A，B，C为事件，则有

交换律

交换律 ：$A\cup B=B\cup A;A\cap B=B\cup A$

结合律

结合律：$A\cup (B\cup C)=(A\cup B)\cup C$

​ $A\cap (B\cap C)=(A\cap B)\cap C$.

分配律

分配律：$A\cup (B\cap C)=(A\cup B)\cap (A\cup C)$

​ $A\cap (B\cup C)=(A\cap B)\cup (A\cap C)$.

德摩定律

德摩定律：$\overline{A\cup B}=\overline{A}\cap \overline{B}$；$\overline{A\cap B}=\overline{A}\cup \overline{B}$.

3 频率与概率

（一）频率

定义 在相同的条件下，进行了n次试验，在这n次试验中，事件A发生的次数$n_A$称为事件A发生的频数。比值$n_A/n$称为事件A发生的频率，并记为$f_n(A)$。

（二）频率

定义 设$E$是随机试验，S是它的样本空间。对于E的每一事件A赋予一个实数，记为$P(A)$，称为事件A的概率，如果集合函数$P(\cdot )$满足下列条件：

(1) 非负性：对于每一个事件A，有$P(A)\ge 0$；

(2) 规范性：对于必然事件S，有$P(S)=1$；

(3) 可列可加性：设$A_1,A_2,...$是两两互不相容的事件，即对于$A_i{A}_j=\Phi$，$i\ne j,i,j=1,2,...$,有

$$P(A_1\cup A_2\cup ...)=P(A_1)+P(A_2)+...$$ （式3.1）

性质1

$P(\Phi )=0$

性质2 有限可加性

若$A_1,A_2,...,A_n$是两两互不相容的事件，则有

$P(A_1\cup A_2\cup ...\cup A_n)=P(A_1)+P(A_2)+...+P(A_n)$.

以上被称为概率的有限可加性。

性质3

设A，B是两个事件，若$A\subset B$，则有：

$$P(B-A)=P(B)-P(A)$$

$$P(B)\ge P(A)$$.

性质4

对于任一事件A，$P(A)\le 1$.

性质5

对于任一事件A，有$P(\overline{A})=1-P(A)$.

性质6 加法公式

对于任意两事件A，B有

$$P(A\cup B)=P(A)+P(B)-P(AB)$$(式3.5)

推广到多个事件的情况，例如，设$A_1,A_2,A_3$为任意三个事件，则有

$$\begin{gathered} P(A_1\cup A_2\cup A_3)= \\ P(A_1)+P(A_2)+P(A_3)-P(A_1{A}_2)-P(A_1{A}_3)-P(A_2{A}_3)+P(A_1{A}_2{A}_3) \end{gathered}$$.

一般，对于任意n个事件$A_1,A_2,...,A_n$,可以用归纳法证得

$$\begin{array}{rl}P\left(A_1\cup A_2\cup \cdots \cup A_n\right)=& \sum _{i=1}^{n}P\left(A_i\right)-\sum _{1<i<j\le n}P\left(A_i{A}_j\right)\\ & +\sum _{1⩽i⩽j<k\le n}P\left(A_i{A}_j{A}_k\right)+\cdots +(-1{)}^{n-1}P\left(A_1{A}_2\cdots A_n\right)\end{array}$$

4 等可能概型(古典概型)

等可能概型的特点：

（1）试验的样本空间只包含有限个元素；

（2）试验中每个基本事件发生的可能性相同。

又称为古典概型。

若事件A包含$k$个基本事件，即$A=\{e_i{}_1\}\cup \{e_i{}_2\}\}\cup ...\cup \{e_i{}_k\}$，这里$i_1,i_2,...,i_k$是$1,2,...,n$中某$k$个不同的数。则有

$$P(A)=\sum _{j=1}^{k}P\left(\left\{e_{ij}\right\}\right)=\frac{k}{n}=\frac{A\text{ 包含的基本事件数 }}{S\text{ 中基本事件的总数 }}$$ (式4.1)

（4.1）式是等可能概型中事件A的概率计算公式。

放回抽样：从N个球中，随机取一只，观察颜色后放回，搅匀再取一球，这种方式成为放回抽样。

不放回抽样：取出后不再放回的抽样。

PS：

概率很小的事件再一次试验中实际上几乎是不发生的（称之为实际推断原理）。

5 条件概率

（一）条件概率

定义 设A，B是两个事件，且$P(A)>0$，称

$$P(B|A)=\frac{P(AB)}{P(A)}$$ （式5.2）

为在事件A发生的条件下事件B发生的条件概率。

不难验证，条件概率$P(\cdot |A)$符合概率定义中的三个条件，即

（1）非负性

（2）规范性

（3）可列可加性

对于任意事件$B_1,B_2$有$P(B_1\cup B_2|A)=P(B_1|A)+P(B_2|A)-P(B_1{B}_2|A)$.

（二）乘法定理

乘法定理 设$P(A)>0$，则有

$$P(AB)=P(B|A)+(A)$$ (式5.3)

（式5.3）称为乘法公式。

推广：设A，B，C为事件，且$P(AB)>0$，则有

$$P(ABC)=P(C|AB)P(B|A)P(A)$$. (式5.4)

（三）全概率公式和贝叶斯公式

划分的定义

定义 设S为试验$E$的样本空间，$B_1,B_2,...,B_n$为$E$的一组事件.若

（1）$B_i{B}_j=\Phi ,i\ne j,i,j=1,2,3,...n$;

（2）$B_1\cup B_2\cup ...\cup B_n=S$,

则称$B_1,B_2,...,B_n$为样本空间S的一个划分。那么，对于每次试验，事件$B_1,B_2,...,B_n$中必有一个且仅有一个发生。

全概率公式

定理 设试验$E$的样本空间为$S$，A为E的事件，$B_1,B_2,...,B_n$为$S$的一个划分，且$P(B_i)>0(i=1,2,...,n)$，则

$$P(A)=P(A|B_1)P(B_1)+P(A|B_2)P(A)+...+P(A|B_n)P(B_n)$$. (式5.6)

式5.6称为全概率公式。

证 因为 $$A=AS=A\left(B_1\cup B_2\cup \cdots \cup B_n\right)=A{B}_1\cup A{B}_2\cup \cdots \cup A{B}_n$$ ，

由假设 $$P\left(B_i\right)>0(i=1,2,\cdots ,n),\text{ 且 }\left(A{B}_i\right)\left(A{B}_j\right)=\varnothing ,i\ne j,i,j=1,2,\cdots ,n$$ 得到

$$\begin{array}{rl}P(A)=& P\left(A{B}_1\right)+P\left(A{B}_2\right)+\cdots +P\left(A{B}_n\right)\\ =& P\left(A\mid B_1\right)P\left(B_1\right)+P\left(A\mid B_2\right)P\left(B_2\right)+\cdots \\ & +P\left(A\mid B_n\right)P\left(B_n\right)\end{array}$$

贝叶斯公式

定理 设试验E的样本空间为S.A为E的事件，$B_1,B_2,...,B_n$为S的一个划分，且$P(A)>),P(B_i)>0(i=1,2,...,n)$,则

$$P(B_i|A)=\frac{P(A|B_i)P(B_i)}{{\sum }_{j=1}^{n}P(A|B_j)P(B_j)}$$ (式5.7)

（式5.7）称为贝叶斯（Bayes）公式。

特别在（5.6）式，（5.7）式中取$n=2$，并将$B_1$记为B，此时$B_2$就是$\overline{B}$，那么，全概率公式和贝叶斯公式分别为

$$P(A)=P(A\mid B)P(B)+P(A\mid \bar{B})P(\bar{B}),$$

$$P(B\mid A)=\frac{P(AB)}{P(A)}=\frac{P(A\mid B)P(B)}{P(A\mid B)P(B)+P(A\mid \bar{B})P(\bar{B})}$$。

6 独立性

定义 设$A,B$是两事件，如果满足等式

$$P(AB)=P(A)P(B)$$,

则称事件A，B相互独立，简称A，B独立。

若$P(A)>0,P(B)>0$，则A，B相互独立与A，B互不相容不能同时成立。

证：若A，B相容则$P(AB)=P(\Phi )=0$；又已知$P(A)>0,P(B)>0$，则$P(AB)=P(A)P(B)>0$。所以不能同时成立。

定理一

设A，B是两事件，且$P(A)>0$.若A，B相互对立，则$P(B|A)=P(B)$.反之亦然.

定理二

若事件A与B相互独立，则下列各对事件也相互独立：

$$A与B，\overline{A}与B,\overline{A}与\overline{B}$$.

A,B,C相互独立的定义

定义 设A，B，C是三个事件，如果满足等式

$$\begin{array}{l}P(AB)=P(A)P(B)\\ P(BC)=P(B)P(C)\\ P(AC)=P(A)P(C)\\ P(ABC)=P(A)P(B)P(C),\end{array}\}$$ （式6.2）

则称事件A，B，C相互独立。

一般，设$A_1,A_2,...,A_n$是$n(n\ge 2)$个事件，如果对于其中任意2个，任意3个，… ，任意n个事件的积事件的概率，都等于各事件概率之积，则称事件$A_1,A_2,...,A_n$相互独立。

相互独立的两个推论

（1）若事件$A_1,A_2,...,A_n(n\ge 2)$相互独立，则其中任意$k(2\le k\le n)$个事件也是相互独立的。

（2）若$n$个事件$A_1,A_2,...,A_n(n\ge 2)$相互独立，则将$A_1,A_2,...,A_n$中任意多个事件换成它们各自的对立事件，所得的n个事件仍然相互独立。

PS：来源《概率论与数理统计 第四版》浙江大学，盛骤