贝叶斯分类器(2)

目录

最大后验概率

最大似然估计法


最大后验概率

书接上回,我们介绍了先验概率和后验概率的概念。接下来我们要先介绍介绍最大后验概率是什么意思。

我们期望将概率结果最大时所对应的值的类别作为输出结果,此时它的概率我们会称之为最大后验概率

光看定义,我们有“亿”点点难懂。不要急,我们结合例子来看

案例:伍老师所在的学校里偏高和偏矮的人所占比例为3:7,其中有偏矮的人中有60%嫌自己矮,所以穿增高鞋。已知,伍老师不穿增高鞋,且你不知道伍老师的其他信息,那么提问:伍老师更可能偏高还是更可能偏矮?

我相信,看懂了小编上一篇文章的同学们,肯定能飞快的解出此题答案,当然了,这个题目也算是一个小小的课堂作业,同学们可以来检查一下自己是不是理解了后验概率。下面是小编的解题过程:

贝叶斯分类器(2)_第1张图片

由这道题目,我们可以看出,伍老师偏高的概率更大,而在实际中,人们更愿意去相信概率高的事件,我们更愿意去相信伍老师偏高,尽管在不穿增高鞋的情况下,偏高的概率仅仅比偏矮的概率高一点点。此时不穿增高鞋,伍老师偏高的概率,我们称之为最大后验概率。而它对应的属性,即偏高,是更能使我们信服的属性,即输出结果(y*)。

 如上图的公式,有人不理解argmax是什么意思,小编这里解释一下,x=argmaxf(x)代表着先去求一个最大的f(x),将它对应的x作为输出结果求出

最大似然估计法

这一部分学过概率论的同学会比较轻松,没有学过概率论的同学可以听我慢慢讲解。

最大似然估计方法(也称为最大概似估计或极大似然估计),是求估计参数的方法之一。
用人话说那就是,极大似然估计就是给定模型,然后收集样本,估求该模型的参数

 用例子来表示就是,假如我们想要求出伍老师所在学校的人偏高的比例θ,则X代表着全校师生,X1,X2……Xn代表着张三,李四……王二麻子(有点不像学生的名字,将就着看吧),x1,x2……xn代表着偏矮,偏高……偏矮。(注意大小写X,x)

贝叶斯分类器(2)_第2张图片

 什么意思?估计很多同学都有点一头雾水的感觉。就是用通过x1,x2……xn算出来的θ,再求一遍Xi=xi发生的概率,让样本中的每个点用θ求出的概率,最终让这些概率相乘,乘出的有关θ的表达式即为参数θ的似然函数

我们当然期望这个似然函数越大越好,于是乎,我们需要求出似然函数处于最大值时,参数θ的大小。即:

为了求出它的最大值,我们想到,可以利用好求导的方法:

贝叶斯分类器(2)_第3张图片

 举个小小的栗子,抛硬币大家都玩过吧?如果我抛了五次,三次朝下,两次朝上,请用极大似然估计硬币朝上的概率θ。

很多人的第一印象就是0.5,正面与反面各占一半不是天经地义嘛?拜托,别太死心眼了,我们这是在做题!

 也就是说,利用这几个样本与极大似然估计法估计参数θ最合理的解是0.4!

贝叶斯分类器(2)_第4张图片

今天,你学懂了吗?欲知极大似然估计与贝叶斯分类器有何关系,请点赞加关注,您的点赞与关注是小编写下去最大的动力!

贝叶斯分类器(2)_第5张图片

你可能感兴趣的:(机器学习,机器学习,算法,人工智能)