第十七章 条件随机场

导读

---

• 条件随机场是给定一组输入随机变量的条件下另一组输出随机变量的条件概率分布模型，其特点是假设输出随机变量构成马尔可夫随机场。注意这里条件，随机场的对应。
• 整个这一章的介绍思路，和前一章有点像，尤其是学习算法部分，和HMM比主要增加了特征函数，关于特征函数要和CH06对比着看
• CRF是对数线性模型
• 概率无向图模型又称马尔可夫随机场，是可以用无向图表示的联合概率分布，注意，一个概率图模型就是一个联合概率分布。
• 条件随机场三个基本问题：概率计算问题，学习问题和预测问题
• 前面的章节中，我们学习，更新参数的过程中很多时候用到了导数，那么积分有没有用？联合概率分布包含了很多随机变量，如果希望消除一些变量，就会用到积分，在离散的情况下，就是求和。这个过程就是边缘化。所有的概率图模型都尝试提出有效的方法来解决这个积分的问题。

概念

符号表

节点$\nu \in V$表示一个随机变量$Y_{\nu }$

边$e\in E$表示随机变量之间的概率依赖关系

图$G(V,E)$表示联合概率分布$P(Y)$

$Y\in \mathcal{Y}$是一组随机变量$Y=(Y_{\nu }{)}_{\nu \in V}$

IOB标记

Inside, Outside, Begin

概率无向图模型

注意整个书中第一节的内容， 还不是条件随机场， 都是马尔可夫随机场，告诉读者可以用图来表示联合分布，以及拿到图之后， 怎么转化成概率表达形式。

概率无向图模型又称马尔可夫随机场(MRF)，是一个可以由满足以下三个性质的无向图表示的联合概率分布。

• 成对马尔可夫性
  给定随机变量组$Y_O$的条件下随机变量$Y_u$和$Y_v$是条件独立的
  $P(Y_u,Y_v|Y_O)=P(Y_u|Y_O)P(Y_v|Y_O)$

• 局部马尔可夫性
  给定随机变量组$Y_W$的条件下随机变量$Y_v$与随机变量组$Y_O$是独立的
  $P(Y_v,Y_O|Y_W)=P(Y_v|Y_W)P(Y_O|Y_W)$

• 全局马尔可夫性
  给定随机变量组$Y_C$的条件下随机变量组$Y_A$和$Y_B$是条件独立的
  $P(Y_A,Y_B|Y_C)=P(Y_A|Y_C)P(Y_B|Y_C)$

MRF的因子分解

将概率无向图模型的联合概率分布表示为其最大团上的随机变量的函数的乘积形式的操作，称为概率无向图模型的因子分解(factorization)
概率无向图模型的最大特点就是易于因子分解

团与最大团

有向图模型

插入一点有向图模型

条件随机场

条件随机场是给定随机变量$X$条件下，随机变量$Y$的马尔可夫随机场。

线性链条件随机场

设$X=(X_1,X_2,\cdots ,X_n)，Y=(Y_1,Y_2,\cdots ,Y_n)$均为线性链表示的随机变量序列，若在给定随机变量序列$X$的条件下，随机变量序列$Y$的条件概率分布$P(Y|X)$构成条件随机场，即满足马尔可夫性
$$\begin{gathered} P(Y_i|X,Y_1,\cdots ,Y_{i-1},Y_{i+1},\cdots ,Y_n)=P(Y_i|X,Y_{i-1},Y_{i+1}) \\ i=1,2,\cdots ,n(在i=1和n时只考虑单边) \end{gathered}$$
则称$P(Y|X)$为线性链条件随机场。在标注问题中，$X$表示输入观测序列， $Y$表示输出标记序列或状态序列。

特征函数

线性链条件随机场的参数化形式
P ( y ∣ x ) = 1 Z ( x ) exp ⁡ ( ∑ i , k λ k t k ( y i − 1 , y i , x , i ) + ∑ i , l μ l s l ( y i , x , i ) ) P(y|x)=\frac{1}{Z(x)}\exp\left(\sum\limits_{i,k}\lambda_kt_k(y_{i-1},y_i,x,i)+\sum_{i,l}\mu_ls_l(y_i,x,i)\right) P(y∣x)=Z(x)1​exp ​i,k∑​λk​tk​(yi−1​,yi​,x,i)+i,l∑​μl​sl​(yi​,x,i) ​
其中

$t_k$是定义在边上的特征函数，称为转移特征

$s_l$是定义在结点上的特征函数，称为状态特征

注意到这种表达就是不同特征的加权求和形式，$t_k,s_l$都依赖于位置，是局部特征函数。

对数线性模型

线性链条件随机场也是对数线性模型(定义在时序数据上的)。

条件随机场可以看做是最大熵马尔可夫模型在标注问题上的推广。

条件随机场是计算联合概率分布的有效模型。

现实中，一般假设$X$和$Y$有相同的图结构。

本书主要考虑无向图为
$$G=(V=1,2,\dots ,n,E=(i,i+1)),i=1,2,\dots ,n-1$$
在此情况下，$X=(X_1,X_2,\dots ,X_n),Y=(Y_1,Y_2,\dots ,Y_n)$

线性链条件随机场定义

设$X=(X_1,X_2,\dots ,X_n),Y=(Y_1,Y_2,\dots ,Y_n)$均为线性链表示的随机变量序列， 若在给定随机变量序列$X$的条件下， 随机变量序列$Y$的条件概率分布$P(Y|X)$构成条件随机场， 即满足马尔可夫性
$P(Y_i|X,Y_1,\dots ,Y_{i-1},Y_{i+1},\dots ,Y_n)=P(Y_i|X,Y_{i-1},Yi+1),i=1,2,\dots ,n$

则称$P(Y|X)$为线性链条件随机场

参数化形式

随机变量$X$取值为$x$的条件下，随机变量$Y$取值为$y$的条件概率具有如下形式：
P ( y ∣ x ) = 1 Z exp ⁡ ( ∑ i , k λ k t k ( y i − 1 , y i , x , i + ∑ i , l μ l s l ( y i , x , i ) ) P(y|x)=\frac{1}{Z}\exp\left(\sum_{i,k}\lambda_kt_k(y_{i-1},y_i,x,i+\sum_{i,l}\mu_ls_l(y_i,x,i)\right) P(y∣x)=Z1​exp ​i,k∑​λk​tk​(yi−1​,yi​,x,i+i,l∑​μl​sl​(yi​,x,i) ​
其中
Z ( x ) = ∑ y ( ∑ i , k λ k t k ( y i − 1 , y i , x , i ) + ∑ i , l μ l s l ( y i , x , i ) ) Z(x)=\sum_y\left(\sum_{i,k}\lambda_kt_k(y_{i-1},y_i,x,i)+\sum_{i,l}\mu_ls_l(y_i,x,i)\right) Z(x)=y∑​ ​i,k∑​λk​tk​(yi−1​,yi​,x,i)+i,l∑​μl​sl​(yi​,x,i) ​
$k,l$对应特征函数的编号，注意这里用了$k,l$两个编号，$i$对应了输出序列的每个位置
$$\begin{array}{rlrlrl}{t}_1& =t_1(y_{i-1}=1,y_i=2,x,i),& i& =2,3,& {\lambda }_1& =1\\ t_2& =t_2(y_{i-1}=1,y_i=1,x,i),& i& =2,& {\lambda }_2& =0.5\\ t_3& =t_3(y_{i-1}=2,y_i=1,x,i),& i& =3,& {\lambda }_3& =1\\ t_4& =t_4(y_{i-1}=2,y_i=1,x,i),& i& =2,& {\lambda }_4& =1\\ t_5& =t_5(y_{i-1}=2,y_i=2,x,i),& i& =3,& {\lambda }_5& =0.2\\ s_1& =s_1(y_i=1,x,i),& i& =1,& {\mu }_1& =1\\ s_2& =s_2(y_i=1,x,i),& i& =1,2,& {\mu }_2& =0.5\\ s_3& =s_3(y_i=1,x,i),& i& =2,3,& {\mu }_3& =0.8\\ s_4& =s_4(y_i=2,x,i),& i& =3& {\mu }_4& =0.5\end{array}$$
可以抽象成上面这种形式。

简化形式

上面的结构，包含了两个部分，表达式不够简单，如何落地？

$K_1$个转移特征， $K_2$个状态特征

$$f_k(y_{i-1},y_i,x,i)=\{\begin{array}{ll}{t}_k(y_{i-1},y_i,x,i),& k=1,2,\dots ,K_1\\ s_l(y_i,x,i),& k=K_1+l;l=1,2,\dots ,K_2\end{array}$$
上面这个红色的式子很重要，把unigram和bigram统一到一起了，如果有trigram等也在这里融合

然后，对转和状态特征在各个位置$i$求和，记作
$$f_k(y,x)=\sum _{i=1}^n{f}_k(y_{i-1},y_i,x,i),k=1,2,\dots ,K$$
用$w_k$表示特征$f_k(y,x)$的权值
$$w_k=\{\begin{array}{ll}{\lambda }_k,& k=1,2,\dots ,K_1\\ {\mu }_l,& k=K1+l;l=1,2,\dots ,K_2\end{array}$$
于是条件随机场可以表示为
$$\begin{array}{rl}P(y|x)& =\frac{1}{Z(x)}\exp \sum _{k=1}^K{w}_k{f}_k(y,x)\\ Z(x)& =\sum _y\exp \sum _{k=1}^K{w}_k{f}_k(y,x)\end{array}$$
若以$w$表示权值向量， 即
$$w=(w_1,w_2,\dots ,w_K{)}^T$$
以$F$表示全局特征向量，即
$$F(y,x)=(f_1(y,x),f_2(y,x),\dots ,f_K(y,x){)}^T$$
条件随机场可以表示成向量内积的形式
$$\begin{array}{rl}{P}_w(y|x)& =\frac{\exp (w\cdot F(y,x))}{Z_w(x)}\\ Z_w(x)& =\sum _y\exp \left(w\cdot F(y,x)\right)\end{array}$$
在参数化形式的展示中，书中的公式已经做了删减。
而实际上这里应该是展开的。
$$\begin{array}{rlrlrlr}{f}_k& =t_1(y_{i-1}=1,y_i=2,x,i),& i& =2,& w_k& =1,& k=1\\ f_k& =t_1(y_{i-1}=1,y_i=2,x,i),& i& =3,& w_k& =1,& k=1\\ f_k& =t_2(y_{i-1}=1,y_i=1,x,i),& i& =2,& w_k& =0.5,& k=2\\ f_k& =t_2(y_{i-1}=1,y_i=1,x,i),& i& =3,& w_k& =0.5,& k=2\\ f_k& =t_3(y_{i-1}=2,y_i=1,x,i),& i& =2,& w_k& =1,& k=3\\ f_k& =t_3(y_{i-1}=2,y_i=1,x,i),& i& =3,& w_k& =1,& k=3\\ f_k& =t_4(y_{i-1}=2,y_i=1,x,i),& i& =2,& w_k& =1,& k=4\\ f_k& =t_4(y_{i-1}=2,y_i=1,x,i),& i& =3,& w_k& =1,& k=4\\ f_k& =t_5(y_{i-1}=2,y_i=2,x,i),& i& =2,& w_k& =0.2,& k=5\\ f_k& =t_5(y_{i-1}=2,y_i=2,x,i),& i& =3,& w_k& =0.2,& k=5\\ & & & & & & \\ f_k& =s_1(y_i=1,x,i),& i& =1,& w_k& =1,& k=6\\ f_k& =s_1(y_i=1,x,i),& i& =2,& w_k& =1,& k=6\\ f_k& =s_1(y_i=1,x,i),& i& =3,& w_k& =1,& k=6\\ f_k& =s_2(y_i=1,x,i),& i& =1,& w_k& =0.5,& k=7\\ f_k& =s_2(y_i=1,x,i),& i& =2,& w_k& =0.5,& k=7\\ f_k& =s_2(y_i=1,x,i),& i& =3,& w_k& =0.5,& k=7\\ f_k& =s_3(y_i=1,x,i),& i& =1,& w_k& =0.8,& k=8\\ f_k& =s_3(y_i=1,x,i),& i& =2,& w_k& =0.8,& k=8\\ f_k& =s_3(y_i=1,x,i),& i& =3,& w_k& =0.8,& k=8\\ f_k& =s_4(y_i=2,x,i),& i& =1,& w_k& =0.5,& k=9\\ f_k& =s_4(y_i=2,x,i),& i& =2,& w_k& =0.5,& k=9\\ f_k& =s_4(y_i=2,x,i),& i& =3,& w_k& =0.5,& k=9\end{array}$$

这里对于$w_k$的理解再体会下。

矩阵形式

针对线性链条件随机场

引入起点和终点状态标记$y_0=start,y_{n+1}=end$， 这时$P_w(y|x)$可以矩阵形式表示。

对应观测序列的每个位置$i=1,2,\dots ,n+1$，定义一个$m$阶矩阵（$m$是标记$y_i$取值的个数）
$$\begin{array}{rl}{M}_i(x)& =\left[M_i(y_{i-1},y_i|x)\right]\\ M_i(y_{i-1},y_i)& =\exp \left(W_i(y_{i-1},y_i|x)\right)\\ W_i(y_{i-1},y_i|x)& =\sum _{k=1}^K{w}_k{f}_k(y_{i-1},y_i|x)\end{array}$$
把整个向量乘法按照观测位置拆成矩阵形式， 每个观测位置对应一个矩阵

这个过程和$CNN$中的卷积实际上有点像，这里面卷积模板有两种$k\times 1$和$k\times 2$， 以1和2进行滑窗。

给定观测序列$x$，相应的标记序列$y$的非规范化概率可以通过该序列的$n+1$个矩阵适当元素的乘积${\prod }_{i=1}^{n+1}{M}_i(y_{i-1},y_i|x)$表示。于是$P_w(y|x)=\frac{1}{Z_w(x)}{\prod }_{i=1}^{n+1}{M}_i(y_{i-1},y_i|x)$

其中，$Z_w$为规范化因子，$是n+1个矩阵的乘积的(start,stop)元素$：
$$Z_w(x)=(M_1(x)M_2(x)\dots M_{n+1}(x){)}_{start,stop}$$
这个式子，以及这段内容，注意下。

上面的式子展开一下，得到$n+1$个$m$阶矩阵
$$M_i(x)=\left[\exp \left(\sum _{k=1}^K{w}_k{f}_k(y_{i-1},y_i|x)\right)\right],i=1,2,\dots ,n+1$$
这里面， 各个位置$(1,2,\dots ,n+1)$的随机矩阵分别是
$$\begin{array}{rl}{M}_1(y_0,y_1|x)& =\exp \left(\sum _{k=1}^K{w}_k{f}_k(y_0,y_1|x)\right)\\ & =\exp (w_1{f}_1(y_0,y_1))\exp (w_2{f}_2(y_0,y_1))\dots \exp (w_K{f}_K(y_0,y_1))\\ M_2(y_1,y_2|x)& =\exp \left(\sum _{k=1}^K{w}_k{f}_k(y_1,y_2|x)\right)\\ & =\exp (w_1{f}_1(y_1,y_2))\exp (w_2{f}_2(y_1,y_2))\dots \exp (w_K{f}_K(y_1,y_2))\\ M_3(y_2,y_3|x)& =\exp \left(\sum _{k=1}^K{w}_k{f}_k(y_2,y_3|x)\right)\\ & =\exp (w_1{f}_1(y_2,y_3))\exp (w_2{f}_2(y_2,y_3))\dots \exp (w_K{f}_K(y_2,y_3))\\ M_4(y_3,y_4|x)& =\exp \left(\sum _{k=1}^K{w}_k{f}_k(y_3,y_4|x)\right)\\ & =\exp (w_1{f}_1(y_3,y_4))\exp (w_2{f}_2(y_3,y_4))\dots \exp (w_K{f}_K(y_3,y_4))\end{array}$$

所以，无论特征有多少个，随机矩阵都是四个$(n+1)$

这里还有个问题， 这个$m$阶的矩阵是怎么来的？上面这四个表达式每一个都是$m$阶矩阵么？

这个问题在例子11.2中展开。

概率计算

前向向量${\alpha }_i(x)$

1. 初值
   $${\alpha }_0(y|x)=\{\begin{array}{ll}1,& y=start\\ 0,& others\end{array}$$
2. 递推
   $${\alpha }_i^T(y_i|x)={\alpha }_{i-1}^T(y_{i-1}|x)[M_i(y_{i-1},y_i|x)],i=1,2,\dots ,n+1$$

${\alpha }_i(y_i|x)$表示在位置$i$的标记是$y_i$并且到位置$i$的前部标记序列的非规范化概率，$y_i$可取的值有$m$个，所以${\alpha }_i(x)$是$m$维列向量

后向向量${\beta }_i(x)$

1. 初值
   $${\beta }_{n+1}(y_{n+1}|x)=\{\begin{array}{ll}1,& y_{n+1}=stop\\ 0,& others\end{array}$$
2. 递推
   $${\beta }_i(y_i|x)=[M_{i+1}(y_i,y_{i+1}|x)]{\beta }_{i+1}(y_{i+1}|x),i=1,2,\dots ,n+1$$

${\beta }_i(y_i|x)$表示在位置$i$的标记是$y_i$并且从$i+1$到$n$的后部标记序列的非规范化概率
$$Z(x)={\alpha }_n^T(x)\cdot 1=1^T\cdot {\beta }_1(x)$$