条件随机场（CRF）原理小结（2）

本博客中使用到的完整代码请移步至: 我的github：https://github.com/qingyujean/Magic-NLPer，求赞求星求鼓励~~~

CRF系列文章：

条件随机场（CRF）原理小结（1）
条件随机场（CRF）原理小结（2）
BiLSTM-CRF实现中文命名实体识别（NER）

---

6. 线性链CRF的3个基本问题

6.1 问题1：概率计算问题

给定CRF：$P(Y|X)$以及输入系列$x$ 和输出序列$y$，计算条件概率：

$P(Y_i=y_i|x)$，$P(Y_{i-1}=y_{i-1},Y_i=y_i|x)$以及相应的数学期望问题。

6.1.1 前向-后向算法

（1）定义前向向量${\alpha }_i(y_i|x)$表示在位置$i$ 的标记是$y_i$ 并且从$1\to i$的前部分标记序列的 非规范化概率，那么有如下递推：

$${\alpha }_i^T(y_i|x)={\alpha }_{i-1}^T(y_{i-1}|x)[M_i(y_{i-1},y_i|x)],i=1,2,...,n+1$$

其中$i=0$ 时有：${\alpha }_0(y_0|x)=\{\begin{array}{ll}1,& y_0=start\\ 0,& ohters\end{array}$

还可表示为：

$${\alpha }_i^T(x)={\alpha }_{i-1}^T(x)M_i(x)$$

由于$y_i$的可能取值有$m$种，所以${\alpha }_i(x)$是个$m$ 维的列向量：

$${\alpha }_i(x)=\left[\begin{array}{c}\begin{array}{rl}& {\alpha }_i(y_i=1|x)\\ & {\alpha }_i(y_i=2|x)\\ & ...\\ & {\alpha }_i(y=m|x)\end{array}\end{array}\right]$$

【注意】：这里要特别强调一下前面几个式子的维度，以帮助大家去理解这几个式子，否则会和我一开始一样，没理解透彻，会影响后面概率计算的公式的理解。

在递推式：${\alpha }_i^T(y_i|x)={\alpha }_{i-1}^T(y_{i-1}|x)[M_i(y_{i-1},y_i|x)]$中，此时位置$i$ 是标记$y_i$，则可将$y_i$看作是确定的，但注意$y_{i-1}$到底是哪个状态我们是不知道的，所以这里要对所有$y_{i-1}$的情况考虑进来，类似于HMM中求前向递推式一样，所以这里${\alpha }_{i-1}^T(y_{i-1}|x)$维度是1xm，而矩阵$[M_i(y_{i-1},y_i|x)]$的维度是mx1，所里这里的${\alpha }_i^T(y_i|x)$是个标量（内积的结果），注意不要被这里的转置符迷惑了。

在递推式${\alpha }_i^T(x)={\alpha }_{i-1}^T(x)M_i(x)$中，其实就是前面那种$y_i$确定的情况的推广，即此时考虑$y_i$的各种状态，所以此时${\alpha }_{i-1}^T(x)$ 的维度是1xm，矩阵$M_i(x)$的维度是mxm，而${\alpha }_i^T(x)$的维度是1xm。

（2）同样，定义后向向量${\beta }_i(y_i|x)$表示在位置$i$ 的标记是$y_i$ 并且从$i+1\to n$的后部分标记序列的 非规范化概率，那么有如下递推：

$${\beta }_i(y_i|x)=[M_{i+1}(y_i,y_{i+1}|x)]{\beta }_{i+1}(y_{i+1}|x),i=0,1,...,n$$

其中$i=n+1$ 时有：${\beta }_{n+1}(y_{n+1}|x)=\{\begin{array}{ll}1,& y_{n+1}=stop\\ 0,& ohters\end{array}$

还可表示为：

$${\beta }_i(x)=M_{i+1}(x){\beta }_{i+1}(x)$$

由于$y_i$的可能取值有$m$种，所以${\beta }_i(y_i|x)$也是个$m$ 维的列向量：

$${\beta }_i(x)=\left[\begin{array}{c}\begin{array}{rl}& {\beta }_i(y_i=1|x)\\ & {\beta }_i(y_i=2|x)\\ & ...\\ & {\beta }_i(y=m|x)\end{array}\end{array}\right]$$

同样在这里继续说明一下维度问题，以帮助进一步理解和消化：

在递推式：${\beta }_i(y_i|x)=[M_{i+1}(y_i,y_{i+1}|x)]{\beta }_{i+1}(y_{i+1}|x)$中，此时位置$i$ 是标记$y_i$，则可将$y_i$看作是确定的，但注意$y_{i+1}$到底是哪个状态我们是不知道的，所以这里要对所有$y_{i+1}$的情况考虑进来，类似于HMM中求后向递推式一样，所以这里矩阵$[M_{i+1}(y_i,y_{i+1}|x)]$的维度是1xm，而${\beta }_{i+1}(y_{i+1}|x)$维度是mx1，所里这里的${\beta }_i(y_i|x)$是个标量（内积的结果），注意不要被这里的转置符迷惑了。

在递推式${\beta }_i(x)=M_{i+1}(x){\beta }_{i+1}(x)$中，其实就是前面那种$y_i$确定的情况的推广，即此时考虑$y_i$的各种状态，所以此时矩阵$M_{i+1}(x)$的维度是mxm，${\beta }_{i+1}(x)$的维度是mx1，而${\beta }_i(x)$的维度是mx1。

6.1.2 概率计算

$$P(Y_i=y_i|x)=\frac{{\alpha }_i^T(y_i|x){\beta }_i(y_i|x)}{Z(x)}$$

继续强调维度问题：因为$y_i$可看作是确定的，所以${\alpha }_i^T(y_i|x)$和${\beta }_i(y_i|x)$都是标量哦~$Z(x)$自然是序列的各种排列组合的所有情况的非规范化概率之和，在此式子中起到规范化因子的作用。

$$P(Y_{i-1}=y_{i-1},Y_i=y_i|x)=\frac{{\alpha }_{i-1}^T(y_{i-1}|x)M_i(y_{i-1},y_i|x){\beta }_i(y_i|x)}{Z(x)}$$

继续强调维度问题：因为$y_i$和$y_{i-1}$都可看作是确定的，所以${\alpha }_{i-1}^T(y_{i-1}|x)$和${\beta }_i(y_i|x)$都是标量，$M_i(y_{i-1},y_i|x)$是矩阵元素，自然肯定是标量~

其中，$Z(x)$还可表示为：

$$Z(x)={\alpha }_n^T(x)\cdot 1=1^T\cdot {\beta }_1(y|x)$$

继续不厌其烦的强调维度：${\alpha }_n^T(x)$的维度是1xm，${\beta }_1(y|x)$的维度是mx1，而$1$ 是维度为mx1的列向量~

6.1.3 期望值的计算

特征函数$f_k$关于条件分布$P(Y|X)$的数学期望是：

$$\begin{array}{rl}{E}_{P(Y|X)}[f_k]& =\sum _{y}P(y|x)f_k(y,x)\\ & =\sum _{y}P(y|x)\sum _{i=1}^{n+1}{f}_k(y_{i-1},y_i,x,i)\\ & =\sum _{i=1}^{n+1}\sum _{y_{i-1},y_i}P(y_{i-1},y_i|x)f_k(y_{i-1},y_i,x,i)\\ & =\sum _{i=1}^{n+1}\sum _{y_{i-1},y_i}{f}_k(y_{i-1},y_i,x,i)\frac{{\alpha }_{i-1}^T(y_{i-1}|x)M_i(y_{i-1},y_i|x){\beta }_i(y_i|x)}{Z(x)}\\ & =\sum _{i=1}^{n+1}\sum _{y_{i-1},y_i}{f}_k(y_{i-1},y_i,x,i)\frac{{\alpha }_{i-1}^T(y_{i-1}|x)M_i(y_{i-1},y_i|x){\beta }_i(y_i|x)}{{\alpha }_n^T(x)\cdot 1}\\ & k=1,2,...,K\end{array}$$

假设经验分布为$\tilde{P}(X)$，因为在CRF数据模型中$x$为已知，所以$P(X)=\tilde{P}(X)$，则有：联合概率分布$P(X,Y)=P(Y|X)\tilde{P}(X)$，所以特征函数$f_k$关于联合分布$P(X,Y)$的数学期望是：

$$\begin{array}{rl}{E}_{P(X,Y)}[f_k]& =\sum _{x,y}P(x,y)f_k(y,x)\\ & =\sum _x\tilde{P}(x)\sum _{y}P(y|x)\sum _{i=1}^{n+1}{f}_k(y_{i-1},y_i,x,i)\\ & =\sum _x\tilde{P}(x)\sum _{i=1}^{n+1}\sum _{y_{i-1},y_i}P(y_{i-1},y_i|x)f_k(y_{i-1},y_i,x,i)\\ & =\sum _x\tilde{P}(x)\sum _{i=1}^{n+1}\sum _{y_{i-1},y_i}{f}_k(y_{i-1},y_i,x,i)\frac{{\alpha }_{i-1}^T(y_{i-1}|x)M_i(y_{i-1},y_i|x){\beta }_i(y_i|x)}{Z(x)}\\ & =\sum _x\tilde{P}(x)\sum _{i=1}^{n+1}\sum _{y_{i-1},y_i}{f}_k(y_{i-1},y_i,x,i)\frac{{\alpha }_{i-1}^T(y_{i-1}|x)M_i(y_{i-1},y_i|x){\beta }_i(y_i|x)}{{\alpha }_n^T(x)\cdot 1}\\ & =\sum _x\tilde{P}(x)E_{P(Y|X)}[f_k]\\ & k=1,2,...,K\end{array}$$

6.2 问题2：学习问题

CRF实际上是定义在时序数据上的对数线性模型，其学习方法有极大似然估计（Maximum Likelihood Estimation，MLE）和正则化的极大似然估计。优化算法有改进的迭代尺度法IIS、梯度下降法以及拟牛顿法。

给定训练集，可以确定联合分布的经验分布$\tilde{P}(X,Y)$和边缘分布的经验分布$\tilde{P}(X)$，可通过极大化训练数据的对数似然函数来求解模型参数。训练数据的对数似然函数为：
$$\begin{array}{rl}L(w)& =L_{\tilde{P}}(P_w)=\prod _{x,y}{P}_w(x,y{)}^{\tilde{P}(x,y)}\\ & =\sum _{x,y}\tilde{P}(x,y)log{P}_w(y|x)\end{array}$$

6.2.1 改进的迭代尺度法

在最大熵模型的参数学习中，我们也使用了改进的迭代尺度法（Improved Iterative Scaling，IIS），IIS的基本想法是：假设模型当前的参数向量是$w=(w_1,w_2,...,w_n{)}^T$，则希望找到一个新的参数向量$w+\delta =(w_1+{\delta }_1,w_2+{\delta }_2,...,w_n+{\delta }_n{)}^T$，使得模型的对数似然数值增大。如果能有这样的一种参数向量更新方法：$w\to w+\delta$，那么重复使用此方法更新参数向量，则对数似然值就会越来越大，直至找到最大值。

解决方法就是找到对数似然函数的一个下届函数$B(\delta |w)$，即有：
$$L(w+\delta )-L(w)⩾B(\delta |w)$$
通过对$B(\delta |w)$的极大化来得到对应的$\delta$的值（使得偏导$\frac{\partial B(\delta |w)}{\partial \delta }=0$求得$\delta$的表达式，然后可使用牛顿迭代法求得${\delta }^{\ast }$），此时的$\delta$使得下届提高，那么对数似然函数也会提高，那么就可以使用：$w\to w+\delta$ 来更新参数向量，进而来迭代求解得到 使得对数似然函数达到最大值的$w^{\ast }$，以及最优模型$P_w^{\ast }(y|x)$。

6.2.2 梯度下降法

我们的目标是极大化条件分布$P_w(y|x)$的对数似然函数：

$$L(w)=\sum _{x,y}\tilde{P}(x,y)log{P}_w(y|x)$$

将其转化为常见的极小化问题：$f(w)=-L(w)=-\sum _{x,y}\tilde{P}(x,y)log{P}_w(y|x)$，则可以使用梯度下降法。而由3.2节内容知：

$$P_w(y|x)=\frac{1}{Z_w(x)}\exp \sum _{k=1}^K{w}_k{f}_k(y,x)$$

$$Z_w(x)=\sum _y\exp \sum _{k=1}^K{w}_k{f}_k(y,x)$$

所以：

$$\begin{array}{rl}f(w)& =-\sum _{x,y}\tilde{P}(x,y)log{P}_w(y|x)\\ & =-\sum _{x,y}\tilde{P}(x,y)\sum _{k=1}^K{w}_k{f}_k(y,x)+\sum _{x,y}\tilde{P}(x,y)log{Z}_w(x)\\ & =-\sum _{x,y}\tilde{P}(x,y)\sum _{k=1}^K{w}_k{f}_k(y,x)+\sum _x\tilde{P}(x)\sum _y{P}_w(y|x)log{Z}_w(x)\\ & =-\sum _{x,y}\tilde{P}(x,y)\sum _{k=1}^K{w}_k{f}_k(y,x)+\sum _x\tilde{P}(x)log{Z}_w(x)\\ & =-\sum _{x,y}\tilde{P}(x,y)\sum _{k=1}^K{w}_k{f}_k(y,x)+\sum _x\tilde{P}(x)log\sum _y\exp \sum _{k=1}^K{w}_k{f}_k(y,x)\end{array}$$

对参数向量$w$的第k个分量$w_k$求偏导可以得到：

$$\begin{array}{rl}\frac{\partial f(w)}{\partial w_k}& =-\sum _{x,y}\tilde{P}(x,y)f_k(y,x)+\sum _{x,y}\tilde{P}(x)P_w(y|x)f_k(y,x)\end{array}$$

有了$w$的导数表达式，就可以用梯度下降法来迭代求解最优的$w^{\ast }$了。

【注意】在迭代过程中，每次更新$w$后，需要同步更新$P_w^{\ast }(x,y)$，以用于下一次迭代的梯度计算。

进一步看一下$\frac{\partial f(w)}{\partial w_k}$的结果还有特别的发现哦~：

$$\begin{array}{rl}\frac{\partial f(w)}{\partial w_k}& =-\sum _{x,y}\tilde{P}(x,y)f_k(y,x)+\sum _{x,y}\tilde{P}(x)P_w(y|x)f_k(y,x)\\ & =-E_{\tilde{P}(x,y)}[f_k(y,x)]+E_{P(x,y)}{f}_k(y,x)\end{array}$$

当令上式等于0求解参数$w_k$时，等于0时上式也表明了 “特征函数$f(x,y)$关于经验分布$\tilde{P}(X,Y)$的期望值 $E_{\tilde{P}}(f)$，等于特征函数$f(x,y)$关于模型$P(Y|X)$与经验分布$\tilde{P}(X)$的期望值$E_P(f)$”，而这正是 最大熵原理 ！

6.3 问题3：预测问题

CRF的预测问题是给定CRF $P(Y|X)$和输入序列$x$（观测序列），求条件概率最大的输出序列$y^{\ast }$（标记序列），即对观测序列进行标注。

即

$$y^{\ast }=\arg \underset{y}{\max }{P}_w(y|x)$$

由3.2节可知

$$P_w(y|x)=\frac{\exp (w\cdot F(y,x))}{Z_w(x)}$$

所以：

$$\begin{array}{rl}{y}^{\ast }& =\arg \underset{y}{\max }{P}_w(y|x)\\ & =\arg \underset{y}{\max }\frac{\exp (w\cdot F(y,x))}{Z_w(x)}\\ & =\arg \underset{y}{\max }\exp (w\cdot F(y,x))\\ & =\arg \underset{y}{\max }(w\cdot F(y,x))\\ & =\arg \underset{y}{\max }\sum _{i=1}^n(w\cdot F_i(y_{i-1},y_i,x))\end{array}$$

其中$F_i(y_{i-1},y_i,x)=(f_1(y_{i-1},y_i,x,i),f_2(y_{i-1},y_i,x,i),...,f_K(y_{i-1},y_i,x,i){)}^T$是局部特征向量。计算过程中，也仅需计算非规划范概率，如此计算效率也得到了提高。

假设到位置$i$的最大非规范概率为${\delta }_i(l)$，$l$表示位置$i$ 的标记，可取m种不同的值，即$l=1,2,...,m$，则有递推式：

$${\delta }_i(l)=\underset{1⩽j⩽m}{\max }\{{\delta }_{i-1}(j)+w\cdot F_i(y_{i-1}=j,y_i=l,x)\},l=1,2,...,m$$

设最大非规范概率为${\delta }_i(l)$对应的位置$i$的前一个标记为${\psi }_i(j)$，则有：

$${\psi }_i(l)=\arg \underset{1⩽j⩽m}{\max }\{{\delta }_{i-1}(j)+w\cdot F_i(y_{i-1}=j,y_i=l,x)\},l=1,2,...,m$$

则到达序列终点即$i=n$时，这时就可得到非规范化概率的最大值：

$$\underset{y}{\max }(w\cdot F(y,x))=\underset{1⩽j⩽m}{\max }\{{\delta }_n(j)$$

非规范化概率取得最大值所经过的序列组成最优路径，最优路径的终点即为：

$$y_n^{\ast }=\arg \underset{1⩽j⩽m}{\max }\{{\delta }_n(j)$$

由终点往回开始back tracking，即可得到当前节点的前一节点：

$$y_i^{\ast }={\psi }_{i+1}(y_{i+1}^{\ast }),1=n-1,n-2,...,1$$

如此便可求得最优路径$y^{\ast }=(y_1^{\ast },y_2^{\ast },...,y_n^{\ast })$。

维特比算法描述

模型评价

优点：
条件随机场模型既具有判别式模型的优点，又具有生成式模型考虑到上下文标记间的转移概率，以序列化形式进行全局参数优化和解码的特点，解决了其他判别式模型(如最大熵马尔科夫模型)难以避免的标记偏见问题。

缺点：
模型训练时收敛速度比较慢。

应用：
词性标注、分词、命名实体识别等。

完整代码地址

完整代码请移步至: 我的github：https://github.com/qingyujean/Magic-NLPer，求赞求星求鼓励~~~

最后：如果本文中出现任何错误，请您一定要帮忙指正，感激~

参考

[1] 统计学习方法（第2版） 李航