概率论--条件概率全概率和贝叶斯公式

一 条件概率：设A、B是两个事件，在A事件发生的条件下，B事件发生的概率，其中P（A）>0。说明A事件发生的概率大于0,表示A事件是必然发生的。

记为：P(B|A)=P(AB)/P(A) **************(1)

解释：注意事件A作为条件，分母必定是条件概率，所以A事件的概率必定在分母上，分子P(AB)表示事件A与B相交的概率，记作P(A∩B)。

式1也可以这样理解:

232.png

如图1 A事件和B事件相交的概率. Ω为样本空间。

12.png

举例说明：将一枚硬币抛两次，观察正反面，正面记H,反面记T.

样本空间Ω=（HH, HT,TH,TT）

设事件A：至少一次为正面，即事件A=（HH,HT,TH）

设事件B：两次为同一面，即事件B=（HH,TT）

求事件A发生条件下，事件B发生的概率？即求P(B|A)。

（例子来自浙大版概率与统计第四版）

从已知条件可知，总样本Ω为4个，A事件有3个，B事件有2个。

所以可以直接求出A的概率与B的概率。即P(A)=3/4 ,

从图1可以看出A事件与B事件相交事件只有一个即HH。

即P(AB)=1/4.有公式1可知

P(B|A)=P(AB)/P(A)=（1/4）/（3/4）=1/3.

1.2 乘法公式：把式1条件概率公式P(B|A)=P(AB)/P(A)

把P(AB)相交概率移到式子左边，把P(B|A)条件概率移动式子右边。即得到乘法公式。如式（2）

P(AB)=P(B|A) P(A)****************************(2)

---

二 全概率公式：

在条件概率中引入(A∩B)积事件的概念，P(A∩B)表示A和B相交的概率，也称为积事件概率，表示相交事件的概率只有在A与B事件同事发生情况下才会发生。而在全概率公式中将引入∪和事件概念. 有个小窍门，其实可以把积事件理解为数字电路的与门、把和事件理解为数字电路的或门。

比如样本空间S，可以划分样本B1，B2…B6组成，

即S=（B1∪B2∪…B6）

如图3，B1~B6是样本空间S的分割. ∅表示空集，表示不可能事件。

3样本空间的分割.png

而AS=A（B1∪B2∪B3∪B4∪B5∪B6）=AB1∪AB2∪AB3∪AB4∪AB5∪AB6.

假设P(Bi>0),(i=1,2…6),且（ABi）(ABj)= ∅，i≠j，i,j=1,2…6。

（AB1）（AB2）（AB3）(AB4)（AB5）(AB6)= ∅，表示AB1～AB6各自相交的事件两两互不相容。

即得到

P(A)=P(AB1)+ P(AB2) +P(AB3)+ P(AB4)+ P(AB5)+P(AB6)******(3)

= P(A|B1)P(B1)+ P(A|B2)P(B2)+ …+ P(A|B6)P(B6)**************(4)

全概率公式定理：设随机试验E的样本空间为S，A为随机试验E的事件，其中B1，B2….Bn为S的一个划分，其中Bi>0(i=1,2…n).

则P(A)= P(A|B1)P(B1)+ P(A|B2)P(B2)+ …+ P(A|Bn)P(Bn)*****(5)

式(5)表A事件的概率=AB1相交概率+AB2相交概率+…+ABn相交概率,式（5）即为全概率公式, 其实式（3）（4）(5)都是一样的意思都是全概率公式。

总结 1：全概率公式，（有原因到结果）即观察样本空间每一个划分与A事件相交发生的概率，并把各划分与A事件相交概率进行累加，并最终计算A的总概率。

简单说即观察每一种事件A发生的概率，计算A的概率P（A）。

总结 2：在很多实际问题中A事件P（A）不能直接求得，但是可以找到S的一个划分B1.B2…Bn且P（Bi）和P(A|Bi)容易求得的条件下，就可以求出A事件的概率。

---

例2某一电子元器件集团公司，有三个分厂，生产同一型号的低内阻MOS管，其中一厂产量占30%，次品率为2%；二厂产量占50%，次品率为1%；三厂产量占20%，次品率为1%。求从这批低内阻MOS管中任取一件的次品概率为多少？

---

解：设A={任取一件为次品}；Bi{任取第i厂的MOS管，其中i=1,2,3}

则B1,B2,B3为整个样本空间S的划分。

且P(B1)=0.3；占百分之30产量，则P(B2)=0.5；P(B3)=0.2.

而一、二、三厂次品率分别为2%、1%、1%。

即P（A|B1）=0.02、P（A|B2）=0.01、P（A|B3）=0.01

有全概率公式得

P(A)= P（A|B1）P(B1)+ P（A|B2）P(B2)+ P（A|B3）P(B3)

P(A)=(0.020.3)+(0.010.5)+(0.01*0.2)=0.013.

即任取一件的次品概率为0.013.

---

三 贝叶斯公式：

与全概率公式正好相反（有结果求原因）在事件A发生的条件下，观察每一种情况出现的条件概率。即已知P(A)A的概率，求分割事件Bi条件的概率。

定义：设随机试验E的样本空间为S，A为随机试验的事件，B1~Bn为S的一个划分，且P(A)>0,P(Bi)>0,(i=1,2,…n),则

5.png

式（6）就是贝叶斯公式。

解释：从公式（6）可见分子就是你所求的划分事件Bi和A事件的相交的概率，而分母其实就是个全概率公式，即也是A的概率，在这里一般往往是已知的,或者是相对比较容易求得的。

举例：某电子设备厂所用一批集成电路有三家元器件厂提供，其中

一厂次品率为0.02,提供所占比例为0.15;

二厂次品率为0.01,提供所占比例为0.80;

三厂次品率为0.03,提供所占比例为0.05;由于在仓库中这三家厂器件都是混合堆放，求（1）在仓库中随机任取一件求次品概率？（2）若随机元器件是次品，分析此次品出自何厂，即求出此次品分别来自三家工厂中的概率。

解：设A={取到是一只次品}，Bi={（i=1,2,3）表示所取得产品是来自第几家厂}。有题目条件可知，B1,B2,B3是样本空间S的一个划分。

即P(B1)=0.15; P(B2)=0.80; P(B3)=0.05.

P(A|B1)=0.02; P(A|B2)=0.01; P(A|B3)=0.03;

所以首先有全概率公式可以求出P(A)，其次有贝叶斯公司求出三家厂的次品概率。

（1） 由全概率公式求出P(A)

P(A)= P(A|B1) P(B1)+ P(A|B2) P(B2)+P(A|B3) P(B3)

=(0.020.15)+(0.010.80)+(0.03*0.05)=0.0125

(2)有贝叶斯公式分别求出三家工厂的次品率

P(B1|A)={P(A|B1) P(B1)}/p(A),= (0.02*0.15)/0.0125=0.24

P(B2|A)={P(A|B2) P(B2)}/p(A),= (0.01*0.80)/0.0125=0.64

P(B3|A)={P(A|B3) P(B3)}/p(A),= (0.03*0.05)/0.0125=0.12

从以上计算结果表明，显然次品来自第2家厂的可能性最大。