概率图模型（1）概述

概率图模型（probabilistic graphical model，PGM）是一类算法的统称，是图灵奖获得者Pearl开发出来的用图来表示变量概率依赖关系的理论，用途甚广，作用巨大。我们之前已经梳理了很多种模型，有线性模型，有基于树的模型等等，现在又来了个概率图模型，想要理解它，我们要搞清楚两个问题：

1. 概率图模型是什么：

根据概念，概率图模型是用图来表示变量概率依赖关系的理论，结合概率论与图论的知识，利用图来表示与模型有关的变量的联合概率分布。

2. 结合问题1，概率图模型与其他模型的本质区别是什么：

首先我们回想下以前讲过的模型，如线性模型、树模型、SVM等，他们都致力于解决根据当前数据点的特征，来预测，即计算，每个不同的数据点之间是独立的，那么对于数据点不独立的问题怎么处理呢？所谓不独立，即存在依赖关系，依赖关系可以用图来表示，这就形成了概率图模型，这也就是概率图模型与其他模型的本质区别。

3. 有哪些常用的概率图模型：

图由节点和边构成，记作，表示随机变量，表示变量的依赖关系，图分为有向图和无向图，有向图适合单向依赖，无向图适合互相依赖。如下图所示，有向图模型和无向图模型又分别分为了很多种模型，接下来我们重点关注隐马尔可夫模型（HMM）和条件随机场（CRF）。