二战周志华《机器学习》--马尔可夫随机场

在开始这篇文章之前,我想先介绍一下马尔可夫性:当一个随机过程在给定现在状态及所有过去状态情况下,其未来状态的条件概率分布仅依赖于当前状态;换句话说,在给定现在状态时,它与过去状态(即该过程的历史路径)是条件独立的,那么此随机过程即具有马尔可夫性质。

1、势函数

在考察马尔可夫随机场之前,我们先来考察一下马尔可夫随机场中的势函数。势函数Φ的作用是定量刻画变量级XQ中变量之间的相关关系,它应该是非负函数,且在所偏好的变量取值上有较大的函数值,例如,对于下面的图:

其势函数是下面的样子:

则说明该模型偏好变量XA和XC拥有相同取值,XB和XC拥有不同的取值,换言之,该模型中XA和XV正相关,XB和XC负相关,另XA和XC相同且XB与XC不同的变量值纸牌屋建取得较高的联合概率。

为了满足非负性,指数函数常被用于定义势函数:

2、马尔可夫随机场

马尔可夫随机场(Markov Random Field 简称MRF)是典型的马尔可夫网,这是一种著名的无向图模型,图中每个结点表示一个或一组变量,结点之间的边表示两个变量之间的依赖关系。马尔可夫随机场有一组势函数,亦称因子,这是定义在变量子集上的非负实函数,主要用于定义概率分布函数。

下图给出了一个马尔可夫随机场,对于图中结点的一个子集,若其中任意两结点间都有边连接,则称该结点子集为一个团(clique),若在一个团中加入任何一个结点都不再形成团,则称该团为极大团;换言之,极大团就是不能被其它团所包含的团。

在马尔可夫随机场中,如何得到条件独立性呢?同样借助分离的概念,如下图中,若从结点集A的结点到结点集B中的结点,则必须经过结点集C中的结点,则称结点集A和B被结点集C分离,C称为分离集,对马尔可夫随机场,有:

全局马尔可夫性:给定两个变量子集的分离集,则这两个变量子集条件独立。

3、马尔可夫随机场的应用

在机器视觉与图像分析领域的应用:http://blog.csdn.net/polly_yang/article/details/9716591


作者:石晓文的学习日记

链接:https://www.jianshu.com/p/4c72e7fbed97

來源:

著作权归作者所有,任何形式的转载都请联系作者获得授权并注明出处。

你可能感兴趣的:(二战周志华《机器学习》--马尔可夫随机场)