贝叶斯分类器(1)

目录

一、有关贝叶斯的简介

二、相关数学知识

1.先验概率与后验概率

2、贝叶斯公式

一、有关贝叶斯的简介

贝叶斯老爷子的名字,很多同学都耳熟能详。估计不少的同学都在数学上被贝叶斯折磨过。贝叶斯在数学方面主要研究概率论.对于统计决策函数、统计推断、统计的估算等做出了贡献。然而,贝叶斯也是属于那种生不逢时的科学家,他的生前一直默默无闻,直到他过世之后,他的著作和成果才陆陆续续的被发表出去,他本人也逐渐被世人所认可。向科学家致敬!salute!

贝叶斯分类器(1)_第1张图片

二、相关数学知识

理解贝叶斯分类器之前,我们要先理解一定的数学知识,并且通过学习同学们要好好掌握贝叶斯在概率论上的成就。

1.先验概率与后验概率

我们先来看定义!

先验概率:在贝叶斯统计推断中,先验概率是在收集新数据之前事件发生的概率。 这是在进行实验之前根据当前知识对结果可能性进行的最佳理性评估。

后验概率:事件发生后求的反向条件概率;或者说,基于先验概率求得的反向条件概率。概率形式与条件概率相同。

看到这里,是不是感觉晦涩难懂?

那么我们举一个小小的例子来感受一下:

案例:伍老师所在的学校里,偏瘦和偏胖的人所占比例为6:4,并且此时学校封校,且学校不允许点外卖,只能去食堂吃饭。该校食堂中,只有两种伙食:荤菜与减脂餐。偏瘦的人觉得封校就要对自己好一点,于是只吃荤菜;而偏胖的人有一半想对自己好一点,也吃荤菜,另一半人想要减肥,选择吃减脂餐。

如果是想要我们求先验概率,出题者会这么问:

随机选一个在学校的幸运儿,请问他吃减脂餐的概率是多少?

然而如果是想让我们求后验概率,出题者的提问方式则变成了:

在学校餐厅的一个餐桌上有一盘荤菜,而他的主人恰逢上厕所去了,并且你不认识也从未听说过这个人,请问他(她)偏瘦的概率是多少?

有没有顿时觉得豁然开朗?原来所谓先验概率无非就是正着问,顺着我们逻辑的方式去提问;而后验概率则是逆着我们的逻辑的去问!

2.贝叶斯公式

好的,了解了先验概率与后验概率之后,我们也要尝试去解决这两个问题。

首先对于先验概率问题,我们很容易计算:

贝叶斯分类器(1)_第2张图片

而对于后验概率,则稍微复杂一点:

贝叶斯分类器(1)_第3张图片

看到后验概率这一部分,这一部分的推演,差不多就是贝叶斯公式的雏形了

我们来看看真正的贝叶斯公式

贝叶斯分类器(1)_第4张图片

 如何理解?

我们把P(A)当做随便找一个人,这个人是开荤者的概率,在刚刚那一题中,我们只考虑了有偏瘦与偏胖的人群,然而现实中,可能还有特别瘦的,也有特别胖的,也会有不胖不瘦的,远不止偏瘦和偏胖两种情况。这就让P(A)的求解更加复杂。我们上下乘U,则分母(开荤的总人数)就是一个求和:在不同体质的人数乘该体质下开荤的比重,再将其求和,加起来,得到一个总数。而分子,就是一个条件概率的变形,学过概率论的应该都能变形出来,乘上U代表的数学意义为,某体质且开荤的人数。

想要了解机器学习与贝叶斯公式有何关联,关注我,下一篇文章更精彩!

你可能感兴趣的:(机器学习,机器学习,分类,1024程序员节)