贝叶斯定理的理解以及一个例子

贝叶斯定理的理解以及一个例子

 

目录

贝叶斯定理的理解以及一个例子

什么是条件概率

贝叶斯定理的定义

贝叶斯定理的一个例子


  • 什么是条件概率

首先我们需要知道什么条件概率,条件概率的定义如下:

已知事件B发生,事件A的条件概率的定义为:

Pr\left \{ A|B \right \}=\frac{Pr\left \{ A\bigcap B \right \}}{Pr\left \{ B \right \}}

其中Pr\left \{ B \right \}\neq 0。(“Pr\left \{ A|B \right \}”读作“在B条件下A的概率”。)直观上,因为已知事件B发生,则A也发生所构成的事件是A\bigcap B。也就是说,A\bigcap B是A与B同时发生的结果集合。因为结果是B中的一个基本事件(“基本事件”就是样本空间中每一个可能结果),我们将B中所有基本事件的概率除以Pr\left \{ B \right \}来对概率进行正规化,以使其和为1。因此,在B条件下A发生的条件概率是事件A\bigcap B的概率与事件B的概率的比值。

  • 贝叶斯定理的定义

根据条件概率的定义与交换律A\bigcap B=B\bigcap A,对于两个概率不为0的事件A和B,则有:

Pr\left \{ A\bigcap B \right \}=Pr\left \{ B \right \} Pr\left \{ A|B \right \}=Pr\left \{ A \right \} Pr\left \{ B|A \right \}

计算Pr\left \{ A|B \right \},得到

Pr\left \{ A|B \right \}=\frac{Pr\left \{ A \right \}Pr\left \{ B|A \right \}}{Pr\left \{ B \right \}}

该公式就是贝叶斯定理。除数Pr\left \{ B \right \}是一个正规化常数。我们下面将其形式重新变化一下,因为B=\left ( B\bigcap A \right )\bigcup \left ( B\bigcap \bar{A} \right ),且B\bigcap AB\bigcap \bar{A}是互斥事件,所以:

Pr\left \{ B \right \}=Pr\left \{ B\bigcap A \right \}+Pr\left \{ B\bigcap \bar{A} \right \}=Pr\left \{ A \right \}Pr\left \{ B|A \right \}+Pr\left \{ \bar{A} \right \}Pr\left \{ B|\bar{A} \right \}

将此式代入贝叶斯定理所对应的公式中,可以得到贝叶斯定理的另一个等价形式:

Pr\left \{ A|B \right \}=\frac{Pr\left \{ A \right \}Pr\left \{ B|A \right \}}{Pr\left \{ A \right \}Pr\left \{ B|A \right \}+Pr\left \{ \bar{A} \right \}Pr\left \{ B|\bar{A} \right \}}

  • 贝叶斯定理的一个例子

贝叶斯定理可以简化条件概率的计算。例如,假定有一枚均匀硬币和一枚抛掷时总是正面朝上的非均匀硬币。我们进行一个包含三个独立事件的试验:随机选择两枚硬币其中之一,连续抛掷两次。假定选择的硬币两次均正面朝上,则该硬币为非均匀硬币的概率是多少?

这个问题可以用贝叶斯定理来解决。令事件A:选中了非均匀硬币,并令事件B:选中的硬币两次均正面朝上。我们计算Pr\left \{ A|B \right \}。因为有Pr\left \{ A \right \}=1/2Pr\left \{ B|A \right \}=1Pr\left \{ \bar{A} \right \}=1/2Pr\left \{ B|\bar{A} \right \}=1/4,所以有:

Pr\left \{ A|B \right \}=\frac{\left ( 1/2 \right )\cdot 1}{\left ( 1/2 \right )\cdot 1+\left ( 1/2 \right )\cdot \left ( 1/4 \right )}=4/5

 

你可能感兴趣的:(数学基础知识:概率论,概率论,数据挖掘,机器学习)