条件概率,乘法公式,全概率公式及贝叶斯公式的推导

条件概率

条件概率是指事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为：$P(A\mid B)$，读作“在B的条件下A发生的概率”
条件概率公式为:
$$P(A\mid B)=\frac{P(AB)}{P(B)}$$
同理可得出在A条件下B发生的概率为
$$P(B\mid A)=\frac{P(AB)}{P(A)}$$

乘法公式

1.由上面的条件概率公式得：
$$P(AB)=P(A\mid B)\ast P(B)=P(B\mid A)\ast P(A)$$

全概率公式

如果事件组B1，B2，… 满足

• B1，B2…两两互斥，即 Bi ∩ Bj = ∅ ，i≠j ， i,j=1，2，…，且P(Bi)>0,i=1,2,…;
• B1∪B2∪…=Ω ，则称事件组 B1,B2,…是样本空间Ω的一个划分,也称B为完备事件组
  设 B1,B2,…是样本空间Ω的一个划分，A为任一事件，则：
  $$P(A)=\sum _{i=1}^{\infty }P(B_i)P(A\mid B_i)$$
  因为$P(A)=P(A\Omega )=P(A(B_1+B_2+B_3+...))$
  又因为$B_i$之间互斥,所以$P(A)=P(A{B}_1)+P(A{B}_2)+P(A{B}_3)+...$
  根据上面的乘法公式我们可以得到:
  $P(A{B}_1)=P(B_1)\ast P(A\mid B_1)$
  $P(A{B}_2)=P(B_2)\ast P(A\mid B_2)$
  $P(A{B}_3)=P(B_3)\ast P(A\mid B_3)$
  由此可得$=P(A\Omega )=P(A)=\sum _{i=1}^{\infty }P(B_i)P(A\mid B_i)$

贝叶斯公式

$$P(B_i\mid A)=\frac{P(A\mid B_i)\ast P(B_i)}{\sum _{j=1}^{\infty }P(B_j)P(A\mid B_j)}$$

推导过程

• 利用条件概率公式得到
  $$P(B_i\mid A)=\frac{P(A{B}_i)}{P(A)}$$
• 利用乘法公式得到变形 $P(A{B}_i)=P(A\mid B_i)\ast P(B_i)$
  即:
  $$P(B_i\mid A)=\frac{P(A\mid B_i)\ast P(B_i)}{P(A)}$$
• 再利用全概率公式 $P(A\Omega )=P(A)=\sum _{j=1}^{\infty }P(B_j)P(A\mid B_j)$
  即:
  $$P(B_i\mid A)=\frac{P(A\mid B_i)\ast P(B_i)}{\sum _{j=1}^{\infty }P(B_j)P(A\mid B_j)}$$