《统计学习方法,李航》:11、条件随机场

《统计学习方法,李航》:11、条件随机场_第1张图片

其实条件随机场的内容没看懂,所以只写概率无向图模型(马尔科夫随机场)部分。


1)概率无向图模型

2)概率无向图模型的因子分解

3)如何进行因子分解


1)概率无向图模型

概率无向图模型,又称为马尔科夫随机场,是一个表示联合概率分布的无向图。表示什么的联合概率分布呢?接下来详细介绍。

先给出概率图模型定义:

《统计学习方法,李航》:11、条件随机场_第2张图片

对于一个联合概率分布P(Y)和表示它的无向图G,只要无向图G表示的随机变量之间存在【成对马尔科夫性、局部马尔科夫性、全局马尔科夫性】这三个性质,我们就可以称,无向图G所表示的联合概率分布P(Y)为概率无向图模型,或称马尔科夫随机场。看官方定义:

《统计学习方法,李航》:11、条件随机场_第3张图片

至于上面提到的三个性质,参考原书P192,非常容易理解。简单说就是,不相邻(没有边相互连接)的结点(或结点组)表示的随机变量(随机变量组)之间是条件独立的。

2)概率无向图模型的因子分解

实际应用中,我们常常关心对于给定的概率无向图,如何求其联合概率分布。一般的办法是,将整体的联合概率写成若干子联合概率的乘积形式,也就是将联合概率进行因子分解。

下面给出概率无向图模型因子分解用到的一些基础概念:

《统计学习方法,李航》:11、条件随机场_第4张图片

“将整体的联合概率写成若干子联合概率的乘积形式”,现在更加明确的说应该是“将整体的联合概率写成所有最大团的联合概率的乘积形式”,那么明确到数学关系式的层面就应该是:

《统计学习方法,李航》:11、条件随机场_第5张图片

3)如何进行因子分解

初次接触概率图是在贝叶斯信念网部分。下面给出一些链接:

http://blog.sina.com.cn/s/blog_60a0e97e0101no03.html

http://www.shellsec.com/tech/68253.html

你可能感兴趣的:(《统计学习方法,李航》:11、条件随机场)