Bayes理论相关应用之——Bayes定理

问题导入：一个故事引出的一个小问题。

场景描述：面前有两只木桶，编号为C1，C2（之所以用C，是因为木桶的英文为Cask).两只木桶中有数目不等的黑色球和白色球，数目分别是：C1中有70个黑球，30个白球；C2中有50个黑球，50个白球。黑球用B（即Black）表示，白球用W（即White)表示。

问题描述：随机地从两只木桶中取出一个球，发现该球是白色球，问：该白色球来自C1的概率有多大？

要解决该文题，先熟悉几个概念，这几个概念会在解决上述问题时用到。

1.先验概率（Priori Probability)，即不需要进行实验就可得到的概率，如上述问题中，从“随机地从两只木桶中取出一个球”这句话可知，C1和C2被选中的概率均为0.5，即P（C1）=P（C2）=0.5；从C1中随机拿出一个球，该球为黑色球的概率为0.7，即P（B)=70/(70+30)=0.7.(注明：此时，已经规定必须从C1中取球，故此时P（C1）=1，其实，此时准确的数学描述应该将P（B）写成P（B|C1）形式)

2.全概率，如上述问题中，如果问“随机地选择一个木桶，且取出的球是黑球的概率是多少？”，该问题的解便是：P（B）=P（B|C1）+P（B|C2），该解的描述是：取出的黑球包括两种情况，或者从C1中取出，即P（B|C1），或者从C2中取出，即P（B|C2），这两种情况统统属于问题描述，故将P（B|C1）与P（B|C2）相加。

3.后验概率，后验概率是指在得到"结果"的信息后重新修正的概率，如我们对求解问题“该白色球来自C1的概率有多大？”做数学形式的描述为：求解P（C1|W），该求解思路是在基于已获得先验概率的基础上进行的，如何求解P（C1|W）是要说明的重点内容。

分析：我们已知先验概率，如P（C1）、P（C2），P（B|C1）、P（B|C2），我们要求P（C1|W）,如何通过先验概率求解后验概率呢？

引入一个重要定理：Bayes定理。

贝叶斯定理的形式：P（A∩B）=P（A|B）*P（B）=P（B|A）*P(A)

Bayes定理的图形证明：

P（A∩B）=P（A|B）*P（B）变形为P（A|B）=P（A∩B）/P（B），在文氏图中的意义就是B发生的前提下，A发生的概率P（A|B）就等于B中A∩B占比。

P（A∩B）=P（B|A）*P(A)变形为P（A|B）=P（A∩B）/P（A），在文氏图中的意义就是A发生的前提下，B发生的概率P（B|A）就等于A中A∩B占比。

通过P（A∩B）建立P（A|B）*P（B）与P（B|A）*P(A) 的联立关系，即P（A∩B）=P（A|B）*P（B）=P（B|A）*P(A)

从P（A|B）*P（B）=P（B|A）*P(A)可知，可以通过先验概率计算得到后验概率，如P（A|B）=（P（B|A）*P(A)）/P（B），该思想即为Bayes定理的核心思想。

回到问题：如何求解P（C1|W）。

建立P（C1|W）与其他概率（先验或者后验概率）的等式关系。

P（C1|W）*P（W）=P（W|C1）*P（C1）

即P（C1|W）=（P（W|C1）*P（C1））/P（W）

通过分析可知P（W|C1）=30/（30+70）=0.3,P（C1）=0.5，P（W）=P（W|C1）+P（W|C2）=0.3+0.5=0.8.

故P（C1|W）=（P（W|C1）*P（C1））/P（W）=0.3*0.5/0.8=0.1875.