线性链条件随机场CRF

       概率无向图模型，又称为马尔科夫随机场，是一个可以由无向图表示的联合概率分布。如果联合概率分布P(Y)满足成对、局部或全局马尔科夫性，就称此联合概率分布为概率无向图模型，或马尔科夫条件随机场。
       条件随机场是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型，其特点是假设输出变量构成马尔科夫随机场。线性链条件随机场是无向图、判别模型。 通过因子分解，条件随机场的条件概率分布表示为其最大团中随机变量的函数的乘积形式，函数一般由两种特征组成，一种是转移特征，另一种为状态特征。

1 马尔科夫随机场

$$z=\sum _x\prod _{i=1}^K{\phi }_i(x_{c_i})$$

2 线性链条件随机场

1. 概率密度函数参数形式如下：
   $$\begin{gathered} p(Y|X)=\frac{1}{z}exp\sum _{i=1}^K{F}_i(x_{c_i})(线性链的条件随机场有n-1个最大团，n为节点个数) \\ =\frac{1}{z}exp\sum _{t=1}^T{F}_t(y_{t-1},y_t,x_{1:T})(假设存在一个y_0，所以为T个最大团) \\ =\frac{1}{z}exp\sum _{t=1}^{T}F(y_{t-1},y_t,x_{1:T})(将T个F函数合并为一个F) \\ =\frac{1}{z}exp\sum _{t=1}^T[\sum _{k=1}^K{\lambda }_k{f}_k(y_{t-1},y_t,x_{1:T})+\sum _{l=1}^L{\eta }_l{g}_l(y_t,x_{1:T})]({\lambda }_k和{\eta }_l是参数需要学习，f_k和g_l是特征函数，一般为指示函数) \end{gathered}$$
   注：K和L是提前确定的
2. 概率密度函数向量形式如下：
   令$$y=\left(\begin{array}{c}{y}_1\\ y_2\\ \cdot \\ \cdot \\ y_T\end{array}\right)x=\left(\begin{array}{c}{x}_1\\ x_2\\ \cdot \\ \cdot \\ x_T\end{array}\right)\lambda =\left(\begin{array}{c}{\lambda }_1\\ {\lambda }_2\\ \cdot \\ \cdot \\ {\lambda }_K\end{array}\right)\eta =\left(\begin{array}{c}{\eta }_1\\ {\eta }_2\\ \cdot \\ \cdot \\ {\eta }_L\end{array}\right)f=\left(\begin{array}{c}{f}_1\\ f_2\\ \cdot \\ \cdot \\ f_K\end{array}\right)g=\left(\begin{array}{c}{g}_1\\ g_2\\ \cdot \\ \cdot \\ g_L\end{array}\right)$$
   $$\begin{gathered} p(Y=y|X=x)=\frac{1}{z(x,\lambda ,\eta )}exp\sum _{t=1}^T[{\lambda }^T\cdot f(y_{t-1},y_t,x)+{\eta }^T\cdot g(y_t,x)] \\ =\frac{1}{z(x,\lambda ,\eta )}exp[{\lambda }^T\cdot \sum _{t=1}^{T}f(y_{t-1},y_t,x)+{\eta }^T\cdot \sum _{t=1}^{T}g(y_t,x)] \end{gathered}$$
   令$$\theta =\left(\begin{array}{c}\lambda \\ \eta \end{array}\right)H=\left(\begin{array}{c}{\sum }_{t=1}^{T}f\\ {\sum }_{t=1}^{T}g\end{array}\right)$$
   $$p(Y=y|X=x)=\frac{1}{z(x,\theta )}exp({\theta }^T\cdot H(y_t,y_{t-1},x))$$

3 三个问题

1. 概率计算问题 ⇒ $给与p(Y=y|X=x)计算p(y_t|x)$
2. 学习问题 ⇒ $给与trainingdata:\{(x^i,y^i){\}}_{i=1}^N，估计\hat{\theta }=arg\underset{\theta }{\max }{\prod }_{i=1}^{N}p(y^i|x^i)$
3. 解码问题 ⇒ $\hat{y}=arg\max p(y|x)$

3.1 概率计算问题

用最初的形式，令$p(y|x)=\frac{1}{z}{\prod }_{t=1}^T{\phi }_t(y_{t-1},y_t,x)$
$$\begin{gathered} p(y_t=i|x)=\sum _{y_1:y_{t-1},y_{t+1},y_T}\frac{1}{z}\prod _{t^{{}^{\prime }}=1}^T{\phi }_t(y_{t^{{}^{\prime }}-1},y_{t^{{}^{\prime }}},x) \\ ={\delta }_{left}\cdot {\delta }_{right} \end{gathered}$$
$$\begin{gathered} {\delta }_{left}=\sum _{y_1,y_{t-1}}{\phi }_1(y_0,y_1,x)\cdot \cdot {\phi }_t(y_{t-1},y_t=i,x) \\ =\sum _{y_{t-1}}\phi (y_{t-1},y_t=i,x)\cdot \cdot \cdot \sum _{y_0}\phi (y_0,y_1,x)(从后向前计算) \end{gathered}$$
$$\begin{gathered} {\delta }_{right}=\sum _{y_{t+1},y_T}{\phi }_{t+1}(y_t=i,y_{t+1},x)\cdot \cdot {\phi }_T(y_{T-1},y_T,x) \\ =\sum _{y_T}{\phi }_T(y_{T-1},y_T,x)\cdot \cdot \cdot \sum _{y_{t+1}}{\phi }_{t+1}(y_t=i,y_{t+1},x) \end{gathered}$$
计算递推公式：
令：
$$\begin{gathered} {\alpha }_t(i):所有y_0\cdot \cdot y_{t-1}相关的势函数\phi ，y_t=i的左半部势函数\phi \\ {\alpha }_{t-1}(j):所有y_0\cdot \cdot y_{t-2}相关的势函数\phi ，y_{t-1}=j的左半部势函数\phi \end{gathered}$$
为${\alpha }_{t-1}(j)添加右半部的势函数\phi ,再积分$：
$$\sum _j{\phi }_t(y_{t-1}=j,y_t=i,x){\alpha }_{t-1}(j)={\alpha }_t(i)={\delta }_{left}$$
同理得：
$${\beta }_t(i)={\delta }_{right}$$
所以：
$$p(y_t=i|x)=\frac{1}{z}{\alpha }_t(i){\beta }_t(i)$$

3.2 学习问题

$$\begin{gathered} \hat{\theta }=arg\underset{\theta }{\max }\prod _{i=1}^{N}p(y^i|x^i) \\ \hat{\lambda },\hat{\eta }=arg\underset{\lambda ,\eta }{\max }\prod _{i=1}^{N}p(y^i|x^i) \end{gathered}$$
用概率密度函数向量形式，令
$$p(y|x)=\frac{1}{z(x,\lambda ,\eta )}exp\sum _{t=1}^T[{\lambda }^T\cdot f(y_{t-1},y_t,x)+{\eta }^T\cdot g(y_t,x)]$$
$$\begin{gathered} \hat{\lambda },\hat{\eta }=arg\underset{\lambda ,\eta }{\max }log\prod _{i=1}^{N}p(y^i|x^i) \\ =arg\underset{\lambda ,\eta }{\max }\sum _{i=1}^{N}logp(y^i|x^i) \\ =arg\underset{\lambda ,\eta }{\max }\sum _{i=1}^N(-logz(x^i,\lambda ,\eta )+\sum _{t=1}^T[{\lambda }^{T}f(y_{t-1},y_t,x^i)+{\eta }^{T}g(y_t,x^i)]) \\ =arg\underset{\lambda ,\eta }{\max }L(\lambda ,\eta ,x^i) \end{gathered}$$
用梯度上升法，求偏导，以$\lambda 为例$：
$$\begin{gathered} \frac{\partial L}{\partial \lambda }=\sum _{i=1}^N(\sum _{t=1}^{T}f(y_{t-1},y_t,x^i)-\frac{\partial logz(x^i,\lambda ,\eta )}{\partial \lambda })(z对\lambda 的偏导有固定值，不做解释) \\ =\sum _{i=1}^N(\sum _{t=1}^{T}f(y_{t-1},y_t,x^i)-E[\sum _{t=1}^{T}f(y_{t-1},y_t,x^i)]) \\ =\sum _{i=1}^N(\sum _{t=1}^{T}f(y_{t-1},y_t,x^i)-\sum _{y}p(y|x^i)\sum _{t=1}^{T}f(y_{t-1},y_t,x^i)) \\ =\sum _{i=1}^N(\sum _{t=1}^{T}f(y_{t-1},y_t,x^i)-\sum _{y}p(y|x^i)\sum _{t=1}^{T}f(y_{t-1},y_t,x^i)) \end{gathered}$$

4 参考

https://www.bilibili.com/video/av34444816