条件随机场原理介绍

1. 引言

    条件随机场（Conditional random field，CRF）是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型，其特点是假设输出随机变量构成马尔可夫随机场。条件随机场常用于序列标注问题，比如命名实体识别等。本文主要介绍线性链条件随机场。

2. 条件随机场原理介绍

2.1 概率无向图模型

    由于CRF要求输出随机变量构成马尔可夫随机场，因此，这一节先介绍什么是马尔可夫随机场，马尔可夫随机场也称为概率无向图模型，是一个由无向图表示的联合概率分布。

    图是由结点$v$和连接结点的边$e$组成的集合，结点和边的集合分别记作$V$和$E$，图记作$G=(V,E)$，无向图是指边没有方向的图。

    概率图模型是由图表示的概率分布，设有联合概率分布$P(Y)$，$Y\in \mathcal{Y}$是一组随机变量。由无向图$G=(V,E)$表示概率分布$P(Y)$，即在图$G$中，结点$v\in V$表示一个随机变量$Y_v$，$Y={\left(Y_v\right)}_{v\in V}$，边$e\in E$表示随机变量之间的概率依赖关系。

    在介绍概率无向图模型之前，还需要介绍三个概念，即成对马尔可夫性、局部马尔可夫性、全局马尔可夫性。

1. 成对马尔可夫性：设$u$和$v$是无向图$G$中任意两个没有边连接的结点，结点$u$和$v$分别对应随机变量$Y_u$和$Y_v$，其他所有结点为$O$，对应的随机变量组是$Y_O$，成对马尔可夫性是指给定随机变量组$Y_O$的条件下随机变量$Y_u$和$Y_v$是条件独立的，即：$$P\left(Y_u,Y_v|Y_o\right)=P\left(Y_u|Y_O\right)P\left(Y_v|Y_O\right)$$
2. 局部马尔可夫性：设$v\in V$是无向图$G$中任意一个结点，$W$是与$v$有边连接的所有结点，$O$是$v,W$以外的其他所有结点，$v$表示的随机变量是$Y_v$，$W$表示的随机变量组是$Y_W$，$O$表示的随机变量组是$Y_O$，局部马尔可夫性是指在给定随机变量组$Y_W$的条件下，随机变量$Y_v$与随机变量组$Y_O$是独立的，即：$$P\left(Y_v,Y_O|Y_W\right)=P\left(Y_v|Y_W\right)P\left(Y_O|Y_W\right)$$
   
3. 全局马尔可夫性：设结点集合$A,B$是在无向图$G$中被结点集合$C$分开的任意结点集合，结点集合$A,B,C$所对应的随机变量组分别是$Y_A,Y_B,Y_C$，全局马尔可夫性是指给定随机变量组$Y_C$条件下随机变量组$Y_A$和$Y_B$是条件独立的，即：$$P\left(Y_A,Y_B|Y_C\right)=P\left(Y_A|Y_C\right)P\left(Y_B|Y_C\right)$$
   
       概率无向图模型的定义为，设有联合概率分布$P(Y)$，由无向图$G=(V,E)$表示，在图$G$中，如果联合概率分布$P(Y)$满足成对、局部或全局马尔可夫性，则称此联合概率分布为概率无向图模型，或马尔可夫随机场。

    对于概率无向图模型，我们比较关心的是联合概率分布的计算，在实际的计算中，我们一般会将联合概率写成若干子联合概率乘积的形式，也就是将联合概率进行因子分解。

    根据Hammersley-Clifford定理，概率无向图模型的联合概率分布$P(Y)$可以表示为如下形式：
$$\begin{array}{c}P(Y)=\frac{1}{Z}{\prod }_c{\Psi }_C\left(Y_C\right)\\ Z={\sum }_Y{\prod }_C{\Psi }_C\left(Y_C\right)\end{array}$$其中，$C$是无向图的最大团，无向图$G$中任何两个结点均有边连接的结点子集称为团，若$C$是无向图$G$的一个团，并且不能再加进任何一个$G$的结点使其成为一个更大的团，则称此$C$为最大团。$Y_C$是$C$的结点对应的随机变量，${\Psi }_C\left(Y_C\right)$是$C$上定义的严格正函数，一般定义为指数函数：
$${\Psi }_C\left(Y_C\right)=\exp \left\{-E\left(Y_C\right)\right\}$$而$Z$是规范化因子，是为了保证$P(Y)$构成一个概率分布。

2.2 条件随机场的定义

2.2.1 条件随机场的定义

    条件随机场：设$X$与$Y$是随机变量，$P(Y|X)$是在给定$X$的条件下$Y$的条件概率分布。若随机变量$Y$构成一个由无向图$G=(V,E)$表示的马尔可夫随机场，即$$P\left(Y_v|X,Y_w,w̸=v\right)=P\left(Y_v|X,Y_w,w\sim v\right)$$对任意结点$v$成立，则称条件概率分布$P(Y|X)$为条件随机场，式中$w\sim v$表示在图$G$中与结点$v$有边连接的所有结点$w$，$w̸=v$表示结点$v$以外的所有结点，$Y_v,Y_u,Y_w$为结点$v,u,w$对应的随机变量。

    在现实情况下，我们一般假设$X$和$Y$具有相同的图结构，并且考虑线性链的情况，即
$$G=(V=\{1,2,\cdots ,n\},E=\{(i,i+1)\}),i=1,2,\cdots ,n-1$$此时最大团为相邻两个结点的集合。

    线性链条件随机场：设$X=\left(X_1,X_2,\cdots ,X_n\right)$，$Y=\left(Y_1,Y_2,\cdots ,Y_n\right)$均为线性链表示的随机变量序列，若在给定随机变量序列$X$的条件下，随机变量序列$Y$的条件概率分布$P(Y|X)$构成条件随机场，即;
则称$P(Y|X)$为线性链条件随机场，在标注问题中，$X$表示输入观测序列，$Y$表示对应的输出标记序列或状态序列。

2.2.2 条件随机场的参数化形式

    根据Hammersley-Clifford定理，可以将线性链条件随机场表示的联合概率分布表示为相邻结点的函数，设$P(Y|X)$为线性链条件随机场，则在随机变量$X$取值为$x$的条件下，随机变量$Y$取值为$y$的条件概率具有如下的形式：
$$P(y|x)=\frac{1}{Z(x)}\exp \left(\sum _{i,k}{\lambda }_k{t}_k\left(y_{i-1},y_i,x,i\right)+\sum _{i,l}{\mu }_l{s}_l\left(y_i,x,i\right)\right)$$其中，$$Z(x)=\sum _y\exp \left(\sum _{i,k}{\lambda }_k{t}_k\left(y_{i-1},y_i,x,i\right)+\sum _{i,l}{\mu }_l{s}_l\left(y_i,x,i\right)\right)$$$t_k$和$s_l$是特征函数，${\lambda }_k$和${\mu }_l$是对应的权值，$Z(x)$是规范化因子。

2.2.3 条件随机场的简化形式

    注意到条件随机场中同一特征在各个位置都有定义，可以对同一个特征在各个位置求和，将局部特征函数转化为一个全局特征函数，这样就可以将条件随机场写成权值向量和特征向量的内积的形式，即条件随机场的简化形式。

    首先，将转移特征$t_k$和状态特征$s_l$及其权值用统一的符号表示，设有$K_1$个转移特征，有$K_2$个状态特征，$K=K_1+K_2$，记：
然后，对转移和状态特征在各个位置$i$求和，记作：
$$f_k(y,x)=\sum _{i=1}^n{f}_k\left(y_{i-1},y_i,x,i\right),k=1,2,\cdots ,K$$用$w_k$表示特征$f_k(y,x)$的权值，即：
因此，条件随机场可以表示为：
$$\begin{array}{rl}P(y|x)& =\frac{1}{Z(x)}\exp \sum _{k=1}^K{w}_k{f}_k(y,x)\\ Z(x)& =\sum _y\exp \sum _{k=1}^K{w}_k{f}_k(y,x)\end{array}$$用$w$表示权值向量，即：
$$w={\left(w_1,w_2,\cdots ,w_K\right)}^{\mathrm{T}}$$用$F(y,x)$表示全局特征向量，即
$$F(y,x)={\left(f_1(y,x),f_2(y,x),\cdots ,f_K(y,x)\right)}^{\mathrm{T}}$$
则条件随机场可以写成向量$w$和$F(y,x)$的内积的形式：
$$P_w(y|x)=\frac{\exp (w\cdot F(y,x))}{Z_w(x)}$$其中，$$Z_w(x)=\sum _y\exp (w\cdot F(y,x))$$

2.2.4 条件随机场的矩阵形式

    条件随机场还可以由矩阵表示，引进特殊的起点和终点状态标记$y_0=$ start $,y_{n+1}=stop$，对于观测序列$x$的每一个位置$i=1,2,\cdots ,n+1$，定义一个$m$阶矩阵，其中$m$是标记$y_i$取值的个数：
$$\begin{array}{c}{M}_i(x)=\left[M_i\left(y_{i-1},y_i|x\right)\right]\\ \\ M_i\left(y_{i-1},y_i|x\right)=\exp \left(W_i\left(y_{i-1},y_i|x\right)\right)\\ \\ W_i\left(y_{i-1},y_i|x\right)={\sum }_{k=1}^K{w}_k{f}_k\left(y_{i-1},y_i,x,i\right)\end{array}$$因此，给定预测序列$x$，标记序列$y$的非规范化概率可以通过$n+1$个矩阵的乘积${\prod }_{i=1}^{n+1}{M}_i\left(y_{i-1},y_i|x\right)$，于是，条件概率$P_w(y|x)$是：
$$P_w(y|x)=\frac{1}{Z_w(x)}\prod _{i=1}^{n+1}{M}_i\left(y_{i-1},y_i|x\right)$$其中，$$Z_w(x)={\left(M_1(x)M_2(x)\cdots M_{n+1}(x)\right)}_{\text{ start stop }}$$即为所有矩阵乘积的第一个元素。

2.3 条件随机场的概率计算问题

2.3.1 前向-后向算法

    对每个指标$i=0,1,\cdots ,n+1$，定义前向向量${\alpha }_i(x)$：
递推公式为：
$${\alpha }_i^{\mathrm{T}}\left(y_i|x\right)={\alpha }_{i-1}^{\mathrm{T}}\left(y_{i-1}|x\right)M_i\left(y_{i-1},y_i|x\right),i=1,2,\cdots ,n+1$$又可表示为：
$${\alpha }_i^{\mathrm{T}}(x)={\alpha }_{i-1}^{\mathrm{T}}(x)M_i(x)$$其中，${\alpha }_i\left(y_i|x\right)$表示在位置$i$的标记是$y_i$并且到位置$i$的前半部分标记序列的非规划化概率，由于$y_i$的取值有$m$个，所以${\alpha }_i(x)$是$m$维列向量。

    同样，对每个指标$i=0,1,\cdots ,n+1$，定义后向向量${\beta }_i(x)$：
又可表示为：
$${\beta }_i(x)=M_{i+1}(x){\beta }_{i+1}(x)$$${\beta }_i\left(y_i|x\right)$表示在位置$i$的标记为$y_i$并且从$i+1$到$n$的后部分标记序列的非规范化概率。

    由前向-后向向量定义不难得到：
$$Z(x)={\alpha }_n^{\mathrm{T}}(x)\cdot 1=1^{\mathrm{T}}\cdot {\beta }_1(x)$$其中，$1$是元素均为1的$m$维列向量。

2.3.2 相关概率计算

    按照前向-后向向量的定义不难得到：

1. 标记序列在位置$i$是标记$y_i$的概率为：$$P\left(Y_i=y_i|x\right)=\frac{{\alpha }_i^{\mathrm{T}}\left(y_i|x\right){\beta }_i\left(y_i|x\right)}{Z(x)}$$
2. 标记序列在位置$i-1$和$i$分别是标记$y_{i-1}$和$y_i$的概率为:
   $$P\left(Y_{i-1}=y_{i-1},Y_i=y_i|x\right)=\frac{{\alpha }_{i-1}^{\mathrm{T}}\left(y_{i-1}|x\right)M_i\left(y_{i-1},y_i|x\right){\beta }_i\left(y_i|x\right)}{Z(x)}$$

2.4 条件随机场的学习算法

    条件随机场的学习算法主要是对模型中的权重向量$w$进行估计，这里只介绍拟牛顿法学习算法。对于条件随机场模型，有：
$$P_w(y|x)=\frac{\exp \left({\sum }_{i=1}^n{w}_i{f}_i(x,y)\right)}{{\sum }_y\exp \left({\sum }_{i=1}^n{w}_i{f}_i(x,y)\right)}$$学习的优化目标函数是：
$$\underset{w\in {\mathbb{R}}^{\ast }}{\min }f(w)=\sum _x\tilde{P}(x)\log \sum _y\exp \left(\sum _{i=1}^n{w}_i{f}_i(x,y)\right)-\sum _{x,y}\tilde{P}(x,y)\sum _{i=1}^n{w}_i{f}_i(x,y)$$其梯度函数是：
$$g(w)=\sum _{x,y}\tilde{P}(x)P_w(y|x)f(x,y)-E_{\overline{P}}(f)$$拟牛顿法的BFGS算法如下：

    条件随机场模型学习的BFGS算法：

1. 输入：特征函数$f_1,f_2,\cdots ,f_n$；经验分布$\tilde{P}(X,Y)$
2. 输出：最优参数值$\hat{\mathbf{w}}$，最优模型$P_{\tilde{w}}(y|x)$
3. 选定初始点$w^{(0)}$，取$B_0$为正定对称矩阵，置$k=0$
4. 计算$g_k=g\left(w^{(k)}\right)$，若$g_k=0$，则停止计算，否则转第5步
5. 由$B_k{p}_k=-g_k$求出${\mathbf{p}}_{\mathbf{k}}$
6. 一维搜索：求${\lambda }_k$使得$$f\left(w^{(k)}+{\lambda }_k{p}_k\right)=\underset{\lambda ⩾0}{\min }f\left(w^{(k)}+\lambda p_k\right)$$
7. 置$w^{(k+1)}=w^{(k)}+{\lambda }_k{p}_k$
8. 计算$g_{k+1}=g\left(w^{(k+1)}\right)$，若$g_k=0$，则停止计算；否则，按下式求出$B_{k+1}$：$$B_{k+1}=B_k+\frac{y_k{y}_k^{\mathrm{T}}}{y_k^{\mathrm{T}}{\delta }_k}-\frac{B_k{\delta }_k{\delta }_k^{\mathrm{T}}{B}_k}{{\delta }_k^{\mathrm{T}}{B}_k{\delta }_k}$$其中，$$y_k=g_{k+1}-g_k,{\delta }_k=w^{(k+1)}-w^{(k)}$$
9. 置$k=k+1$，转第5步

2.5 条件随机场的预测算法

    条件随机场的预测算法是指给定条件随机场$P(Y|X)$和输入序列$x$，求条件概率最大的输出序列$y^{\ast }$，即标记序列。在实际计算过程中，条件随机场的预测算法也是使用维特比算法比较多，跟HMM的预测算法非常接近。

    我们知道$$\begin{array}{rl}{y}^{\ast }& =\arg \underset{y}{\max }{P}_w(y|x)\\ & =\arg \underset{y}{\max }\frac{\exp (w\cdot F(y,x))}{Z_w(x)}\\ & =\arg \underset{y}{\max }\exp (w\cdot F(y,x))\\ & =\arg \underset{y}{\max }(w\cdot F(y,x))\end{array}$$因此，条件随机场的预测问题可以转化为求非规范化概率最大的问题，即：$$\underset{y}{\max }\sum _{i=1}^{n}w\cdot F_i\left(y_{i-1},y_i,x\right)$$其中，$$F_i\left(y_{i-1},y_i,x\right)={\left(f_1\left(y_{i-1},y_i,x,i\right),f_2\left(y_{i-1},y_i,x,i\right),\cdots ,f_K\left(y_{i-1},y_i,x,i\right)\right)}^{\mathrm{T}}$$是局部特征向量。

    条件随机场预测的维特比算法：

1. 输入：模型特征向量$F(y,x)$和权值向量$w$，观测序列$x=\left(x_1,x_2,\cdots ,x_n\right)$
2. 输出：最优路径$y^{\ast }=\left(y_1^{\ast },y_2^{\ast },\cdots ,y_n^{\ast }\right)$
3. 初始化：$${\delta }_1(j)=w\cdot F_1\left(y_0=\mathrm{start},y_1=j,x\right),j=1,2,\cdots ,m$$
4. 递推，对$i=2,3,\cdots ,n$
   
5. 终止：$$\begin{array}{c}{\max }_y(w\cdot F(y,x))={\max }_{1⩽j\le m}{\delta }_n(j)\\ y_n^{\ast }=\arg {\max }_{1⩽j⩽m}{\delta }_n(j)\end{array}$$
6. 返回路径：$$y_i^{\ast }={\Psi }_{i+1}\left(y_{i+1}^{\ast }\right),i=n-1,n-2,\cdots ,1$$求得最优路径$y^{\ast }=\left(y_1^{\ast },y_2^{\ast },\cdots ,y_n^{\ast }\right)$

3.总结

• 条件随机场与HMM相比的话，不仅考虑了当前时刻观测状态的信息，也考虑了上一时刻的隐藏状态信息，因此，在一些带有时序关系的场合，条件随机场的效果要更好一点。