统计学习方法学习笔记：第十一章.条件随机场

第十一章：条件随机场

CRF(conditional random field）是$一组输出随机变量的条件概率模型$，并且假设$输出随机变量构成马尔可夫随机场$

概率无向图模型

$若概率分布P(Y)满足成对、局部或全局马尔可夫性，$
$就称此联合概率分布为概率无向图模型，或者马尔可夫随机场$

马尔可夫性是指随机变量的概率分布仅和与其$有边相连$的那些随机变量有关，而与其他没有边相连的随机变量条件独立；

最大团C：团内的任意两个结点之间都有边相连，且不能再加入多的结点使其成为最大的团；

那么，随机变量组$Y=(Y_1,Y_2,...,Y_N)$的联合概率分布可以写作图中所有最大团C上的函数的乘积：

$Hammersley-Clifford定理：P(Y)=\frac{1}{Z}\prod _C{\psi }_C(Y_C),Z=\sum _Y\prod _C{\psi }_C(Y_C)$
${\psi }_C(Y_C)称为势函数，要求为严格正，通常定义为指数函数{\psi }_C(Y_C)=exp(-E(Y_C))$

条件随机场

定义：$给定随机变量X条件下，随机变量Y的马尔可夫随机场称为条件随机场$

条件随机场满足：$P(Y_v|X,Y_w,w\ne v)=P(Y_v|X,Y_w,w⟺v),w\ne v表示除v以外的所有点，w⟺v表示与v有边连接的点$,

线性条件随机场： 标注问题中，X 为观测序列，Y 为标记序列（状态序列）

$P(Y_i|X,Y_1,Y_2,...,Y_{i-1},Y_{i-2},...,Y_n)=P(Y_i|X,Y_{i-1},Y_{i-2}),i=1,2,...,n(在i=1时只考虑单边)$

$易知，线性条件随机场模型中最大团是相邻两个结点的集合$

线性条件随机场的参数化形式： 对数线性模型

$P(y|x)=\frac{1}{Z(x)}exp(\sum _{i,k}{\lambda }_k{t}_k(y_{i-1},y_i,x,i)+\sum _{i,l}{\mu }_l{s}_l(y_i,x,i))$

$Z(x)=\sum _{y}exp(\sum _{i,k}{\lambda }_k{t}_k(y_{i-1},y_i,x,i)+\sum _{i,l}{\mu }_l{s}_l(y_i,x,i))$

$这里的y=(y_1,y_2,...,y_n)$

$t_k为转移特征（函数），s_l是状态特征（函数），通常取值为0或1，{\lambda }_k和{\mu }_l是对于的权值，Z(x)的求和是在所有可能的输出序列上$

$简化(只是写法上更精简)\Rightarrow P_w(y|x)=\frac{exp(w\cdot F(y,x))}{Z_w(x)},Z_w(x)=\sum _{y}exp(w\cdot F(y,x))$

$F(y,x)表示全局特征向量：F(y,x)=(f_1(y,x),f_2(y,x),...,f_K(y,x){)}^T$
$其中，f_k(y,x)=\sum _{i=1}^n{f}_k(y_{i-1},y_i,x,i),k=1,2,...,K$
$w=(w_1,w_2,...,w_K{)}^T，表示权值向量，其中w_k={\lambda }_k,{\mu }_l$

$矩阵形式\Rightarrow P_w(y|x)=\frac{1}{Z_w(x)}\prod _{i=1}^{n+1}{M}_i(y_{i-1},y_i|x),Z_w(x)=[M_1(x)M_2(x)\cdots M_{n+1}(x){]}_{(start,stop)(这里是下标的意思)}$

$这里需要定义y_0=start,y_{n+1}=stop（从m个标记中取值），非规范化概率（分子）为n+1个矩阵适当元素的乘积，而规范化因子为这n+1个矩阵乘积的（start，stop）元素值；其中，n为观测序列长度，m为标记随机变量Y_i的可能取值个数$
$元素定义为M_i(y_{i-1},y_i|x)=exp(\sum _{k=1}^K{w}_k{f}_k(y_{i-1},y_i,x,i))$
$表示某一个最大团(y_{i-1},y_i)或者某一个随机变量y_i（比如M_1就仅有y_1的特征值项，因为本来标记序列就不包含y_0，特征定义自然也就不包含y_0）在所有的特征上的加权和值，可以理解为转移概率（非规范化），所以M是一个m阶矩阵$

概率计算问题

给定条件随机场$P(Y|X)$，输入序列$x$，输出序列$y$，求解$P(Y_i=y_i|x)，P(Y_{i-1}=y_{i-1},Y_i=y_i|x)$和相应的数学期望；

前向-后向算法：

前向概率：${\alpha }_i^T(y_i|x)={\alpha }_{i-1}^T(y_{i-1}|x)[M_i(y_{i-1},y_i|x)],i=1,2,\cdots ,n+1$
${\alpha }_0(y|x)=1,y=start,或=0，y=其他值$
$表示在位置i的标记是y_i并且从1到i的前部分标记序列的非规范化概率，由于标记可取m个值，所以{\alpha }_i(x)是一个m维列向量$

后向概率：${\beta }_i(y_i|x)=[M_{i+1}(y_i,y_{i+1}|x)]{\beta }_{i+1}(y_{i+1}|x);$
${\beta }_{n+1}(y_{n+1}|x)=1,y_{n+1}=stop;或=0，y=其他值$
$表示在位置i的标记为y_i并且从i+1到n的后部分标记序列的非规范化概率$

概率计算：
$P(Y_i=y_i|x)=\frac{{\alpha }_i^T(y_i|x){\beta }_i(y_i|x)}{Z(x)};P(Y_{i-1}=y_{i-1},Y_i=y_i|x)=\frac{{\alpha }_{i-1}^T(y_{i-1}|x)M_i(y_{i-1},y_i|x){\beta }_i(y_i|x)}{Z(x)}$
$Z(x)={\alpha }_n^T(x)\times 1=1\times {\beta }_1(x);1为元素均为1的列向量$

利用前向-后向算法可以计算特征函数关于联合分布$P(Y,X)$和条件分布$P(Y|X)$的期望，具体公式参见《统计学习方法》

学习算法（对数线性模型）

学习方法为极大似然估计和正则化的极大似然估计：具体的优化算法有：改进的迭代尺度法IIS、梯度下降法以及拟牛顿法；

预测问题

这里可以参考隐马尔可夫模型预测问题中的维特比算法，二者从算法思想上来说是一致的；