先验、后验与似然

在学习SLAM 14讲第六章时,看到三个概念,有些不太了解,查阅资料后有了一些自己的理解。

三个概念存在于贝叶斯公式

P(A|B)=\frac{P(B|A)\cdot P(A)}{P(B)}

P(A)表示先验概率Prior,P(A|B)表示后验概率posterior,P(B|A)表示似然likelihood

上式可以写为

Posterior=\frac{Likelihood\cdot Prior}{Evidence}

下面分别对三个概念进行描述

先验概率(Prior)

        先验概率可以理解为统计概率,是根据此前的经验统计总结出来的概率。

        如:假设事件A为下雨,根据该地区往年降雨量信息统计,P(A)=0.05。

后验概率(Posterior)由原因导出结果

        后验概率是结合某些结果信息修正之后的概率,表现为条件概率。

        如:补充事件B为阴天,结合当地降雨量数据,在阴天条件下下雨的概率P(A|B)=0.5。

似然概率(likelihood)由结果导出原因

        注重于表明结果与原因之间的逻辑关系,结果已经发生,什么原因造成这个结果的可能性最大。

        如:当地已经下雨了(事件A已经发生),什么原因造成下雨的可能性最大(阴天/晴天)。


在介绍完概念之后,结合SLAM 14讲进行分析

根据贝叶斯公式

P(x,y|u,z)=\frac{P(z,u|x,y)\cdot P(x,y)}{P(U,Z)}\propto P(z,u|x,y)\cdot P(x,y)

求解后验分布比较困难,可以求状态最优估计,使其后验概率最大化,即后验概率估计(MAP)

(x,y)_{MAP}^{*}=argmaxP(x,y|u,z)=argmax\left \{ P(z,u|x,y)\cdot P(x,y) \right \}

但在某些情况下可能不存在先验概率,只能求解最大似然估计(MLE)

(x,y)_{MAP}^{*}=argmaxP(z,u|x,y)

最大似然估计示例

        A堆里有99个白球、1个黑球,B堆里有1个白秋、99个黑球,如果抽到一个黑球,最有可能是从哪一堆里抽出来的?

P(A|black)=\frac{P(black|A)\cdot P(A)}{P(black)}=\frac{\frac{1}{100}\cdot \frac{1}{2}}{\frac{\frac{1}{2}}{}}=\frac{1}{100}

P(B|black)=\frac{P(black|B)\cdot P(B)}{P(black)}=\frac{\frac{99}{100}\cdot \frac{1}{2}}{\frac{\frac{1}{2}}{}}=\frac{99}{100}

        所以更有可能是从B堆中摸到黑球。

与SLAM课本中的知识类似,上述公式中P(A)=P(B),

       所以P(A|black)与P(B|black)的大小由P(black|A)与P(black|B)决定。

按照文字解释就是:

 “结果发生后,探究哪个原因造成的可能性更大” 等价于 “哪个原因发生后,更容易造成这个结果

        应注意:两句话中事情发生的先后顺序并不相同。


进一步的,考虑贝叶斯公式的另一种形式

P(A|B)\cdot P(B)=P(B|A)\cdot P(A)

        其实因与果并不重要,只是为了方便进行理解而做出的规定,在实际运用中,只要注意到A与B哪个是研究的主体,以及P(A|B)与P(B|A)是如何在最大似然估计中等价的即可。

你可能感兴趣的:(先验、后验与似然)