条件概率、全概率公式、贝叶斯公式

一.基本概念

1.条件概率

条件概率是指事件A在事件B发生的条件下发生的概率。条件概率表示为：P（A|B），读作“A在B发生的条件下发生的概率”。若只有两个事件A，B，那么，

 

引申公式：

2.概率测度

如果事件 B 的概率 P(B) > 0，那么 Q(A) = P(A | B) 在所有事件 A 上所定义的函数 Q 就是概率测度。 如果 P(B) = 0，P(A | B) 没有定义。 条件概率可以用决策树进行计算

3.联合概率

表示两个事件共同发生的概率。A与B的联合概率表示为 P(AB) 或者P(A,B),或者P(A∩B)。 [2] 

4.边缘概率

是某个事件发生的概率，而与其它事件无关。边缘概率是这样得到的：在联合概率中，把最终结果中不需要的那些事件合并成其事件的全概率而消失（对离散随机变量用求和得全概率，对连续随机变量用积分得全概率）。这称为边缘化（marginalization）。A的边缘概率表示为P(A)，B的边缘概率表示为P(B)。

二、基本定理

1.定理1

设A，B 是两个事件，且A不是不可能事件，则称为在事件A发生的条件下，事件B发生的条件概率。一般地，

 

，且它满足以下三条件：

（1）非负性；（2）规范性；（3）可列可加性。

2.定理2

    设E 为随机试验，Ω 为样本空间，A，B 为任意两个事件，设P(A)>0，称为在“事件A 发生”的条件下事件B 的条件概率。

 

    上述乘法公式可推广到任意有穷多个事件时的情况。

    设为任意n个事件（n>=2）且，则

    

3.定理3（全概率公式）

定义：（完备事件组/样本空间的划分）

设B1，B2，…Bn是一组事件,若

(1)

(2)

则称B1，B2，…Bn样本空间Ω的一个划分，或称为样本空间Ω 的一个完备事件组。

全概率公式：

设事件组是样本空间Ω 的一个划分，且P（Bi）>0（i=1，2，…n）

则对任一事件B，有

4.定理4（贝叶斯公式）

设B1，B2，…Bn…是一完备事件组，则对任一事件A，P（A）>0，有