社会化搜索与推荐浅析-小例子说明什么是贝叶斯及证明过程

本文由larrylgq编写，转载请注明出处：http://blog.csdn.net/larrylgq/article/details/7395261

作者:吕桂强

邮箱：[email protected]

贝叶斯：突破在于将先验概率转换成后验概率，但是原理很简单

经典例子一：一座别墅在过去的 20 年里一共发生过 2 次被盗，别墅的主人有一条狗，狗平均每周晚上叫 3 次，在盗贼入侵时狗叫的概率被估计为 0.9，问题是：在狗叫的时候发生入侵的概率是多少？

我们假设 A 事件为狗在晚上叫，B 为盗贼入侵，则 P(A) = 3 / 7，P(B)=2/(20·365)=2/7300，P(A | B) = 0.9，

按照公式很容易得出结果：P(B|A)=0.9*(2/7300)*(7/3)=0.00058

例子2：根据之前抽的球的眼测，预测下一次抽的球的颜色
如果已知袋子里有5个红球，3个黑球，那么我们很容易知道，我们在袋子里拿出一个球，这个球是红球的概率。
但是如果我们事先并不知道袋子里红球黑球的分布，甚至不知道袋子里一共有多少球，那么我们就不能直接算出拿出一个球，这个球是红球的概率。
但是我们开始从袋子里拿球，当拿的球越多，根据拿出的这些球的颜色，我们可以推出下一个球是红球的概率
例如：根据laplace平滑，我们可以这样算
红球的次数+1
------------
（红球的次数+1）+（黑球的次数+1）
可以算出拿第一个球是红球的概率是1/2
如果连续5个是黑球那么第六个球是红球的概率是
0+1
---
(0+1)+(5+1)
=1/7
这个值小于5分之一大于0，是一个比较合适的概率

 

贝叶斯证明过程：

因为设P(A)>0 则有
P(AB)=P(B∣A)P(A)
P(AB)是A和B2个独立事件都会发生的概率
P(B|A)是在确定在A发生的情况下，B发生的概率
P（A）是A发生的概率
所以=》P(AB)=P(B∣A)P(A)=P(A|B)P(B)

又根据全概率公式：
存在B1, B2, …,Bn-1这n个互不相容区域，则
全体样本Ω=P（B1)+P(B2)+…+P(Bn)=1
则对任意事件A⊂Ω有：
P(Bi｜A)=P(Bi)P(A|Bi)/[P(A|B1)P(B1)+P(A|B2)P(B2)+...+(P(A|Bn)P(Bn)]

 

 

下一节会讲一下使用朴素贝叶斯的实例