《统计学习方法，李航》：11、条件随机场

其实条件随机场的内容没看懂，所以只写概率无向图模型（马尔科夫随机场）部分。

1）概率无向图模型

2）概率无向图模型的因子分解

3）如何进行因子分解

1）概率无向图模型

概率无向图模型，又称为马尔科夫随机场，是一个表示联合概率分布的无向图。表示什么的联合概率分布呢？接下来详细介绍。

先给出概率图模型定义：

对于一个联合概率分布P(Y)和表示它的无向图G，只要无向图G表示的随机变量之间存在【成对马尔科夫性、局部马尔科夫性、全局马尔科夫性】这三个性质，我们就可以称，无向图G所表示的联合概率分布P(Y)为概率无向图模型，或称马尔科夫随机场。看官方定义：

至于上面提到的三个性质，参考原书P192，非常容易理解。简单说就是，不相邻（没有边相互连接）的结点（或结点组）表示的随机变量（随机变量组）之间是条件独立的。

2）概率无向图模型的因子分解

实际应用中，我们常常关心对于给定的概率无向图，如何求其联合概率分布。一般的办法是，将整体的联合概率写成若干子联合概率的乘积形式，也就是将联合概率进行因子分解。

下面给出概率无向图模型因子分解用到的一些基础概念：

“将整体的联合概率写成若干子联合概率的乘积形式”，现在更加明确的说应该是“将整体的联合概率写成所有最大团的联合概率的乘积形式”，那么明确到数学关系式的层面就应该是：

3）如何进行因子分解

初次接触概率图是在贝叶斯信念网部分。下面给出一些链接：

http://blog.sina.com.cn/s/blog_60a0e97e0101no03.html

http://www.shellsec.com/tech/68253.html