【自然语言处理】隐马尔科夫模型【Ⅴ】解码问题

有任何的书写错误、排版错误、概念错误等，希望大家包含指正。

由于字数限制，分成六篇博客。
【自然语言处理】隐马尔可夫模型【Ⅰ】马尔可夫模型
【自然语言处理】隐马尔科夫模型【Ⅱ】隐马尔科夫模型概述
【自然语言处理】隐马尔科夫模型【Ⅲ】估计问题
【自然语言处理】隐马尔科夫模型【Ⅳ】学习问题
【自然语言处理】隐马尔科夫模型【Ⅴ】解码问题
【自然语言处理】隐马尔科夫模型【Ⅵ】精度问题

2.5. 解码算法

注意，此时我们恢复到对单个序列（样本）进行讨论。

下面介绍隐马尔可夫模型预测的两种算法：近似算法与维特比算法（Viterbi algorithm）。

2.5.1. 近似算法

近似算法的想法是，在每个时刻 $t$ 选择在该时刻最有可能出现的状态 $s_t^{\ast }$，从而得到一个状态序列 $S^{\ast }=(s_1^{\ast },s_2^{\ast },\dots ,s_T^{\ast })$，将它作为预测的结果。

给定隐马尔可夫模型 $\lambda$ 和观测序列 $O$，在时刻 $t$ 处于状态 $q_i$ 的概率 ${\gamma }_t(i)$。在每一时刻 $t$ 最有可能的状态 $s_t^{\ast }$ 是
$$s_t^{\ast }=\mathrm{a}\mathrm{r}\mathrm{g}\underset{1\le i\le N}{\max }[{\gamma }_t(i)],1\le t\le T$$
从而得到状态序列 $S^{\ast }=(s_1^{\ast },s_2^{\ast },\dots ,s_T^{\ast })$。

近似算法的优点是计算简单，其缺点是不能保证预测的状态序列整体是最有可能的状态序列，因为预测的状态序列可能有实际不发生的部分。事实上，上述方法得到的状态序列中有可能存在转移概率为 $0$ 的相邻状态，即对某些 $i,j,a_{ij}=0$ 时。尽管如此，近似算法仍然是有用的。

2.5.2. 维特比算法

维特比算法实际是用动态规划求解隐马尔可夫模型预测问题，即用动态规划求概率最大路径（最优路径）。这时一条路径对应着一个状态序列。

根据动态规划原理，最优路径具有这样的特性：如果最优路径在时刻 $t$ 通过结点，那么这一路径从结点 $s_t^{\ast }$ 到终点 $s_T^{\ast }$ 的部分路径，对于从 $s_t^{\ast }$ 到 $s_T^{\ast }$ 的所有可能的部分路径来说，必须是最优的。因为假如不是这样，那么从 $s_t^{\ast }$ 到 $s_T^{\ast }$ 就有另一条更好的部分路径存在，如果把它和从 $s_1^{\ast }$ 到达 $s_t^{\ast }$ 的部分路径连接起来，就会形成一条比原来的路径更优的路径，这是矛盾的。依据这一原理，我们只需从时刻 $t=1$ 开始，递推地计算在时刻 $t$ 状态为 $q_i$ 的各条部分路径的最大概率，直至得到时刻 $t=T$ 状态为 $q_i$ 的各条路径的最大概率。时刻 $t=T$ 的最大概率即为最优路径的概率 $P^{\ast }$，最优路径的终结点 $s_T^{\ast }$ 也同时得到。之后，为了找出最优路径的各个结点，从终结点 $s_T^{\ast }$ 开始，由后向前逐步求得结点 $s_{T-1}^{\ast }\dots ,s_1^{\ast }$，得到最优路径 $S^{\ast }=(s_1^{\ast },s_2^{\ast },\dots ,s_T^{\ast })$。这就是维特比算法。

首先引入两个变量 $\delta$ 和 $\psi$。定义在时刻 $t$ 状态为 $q_i$ 的所有单个路径 $(s_1,s_2,\dots ,s_t)$ 中概率最大值为
$${\delta }_t(i)=\underset{s_1,s_2,\dots ,s_{t-1}}{\max }P(o_t,o_{t-1},\dots ,o_1,s_t=q_i,s_{t-1},\dots ,s_1\mid \lambda ),1\le i\le N\text{\hspace{1em}(24)}$$
由定义可得变量 $\delta$ 的递推公式：
$$\begin{array}{rl}{\delta }_{t+1}(i)& =\underset{s_1,s_2,\dots ,s_t}{\max }P(o_{t+1},o_t,\dots ,o_1,s_{t+1}=q_i,s_t,\dots ,s_1\mid \lambda )\\ & =\underset{1\le j\le N}{\max }[{\delta }_t(j)a_{ji}]b_i(o_{t+1}),1\le i\le N;1\le t\le T-1\end{array}\text{\hspace{1em}(25)}$$
定义在时刻 $t$ 状态为 $q_i$ 的所有单个路径 $(s_1,s_2,\dots ,s_{t-1},s_t=q_i)$ 中概率最大的路径的第 $t-1$ 个结点为
$${\psi }_t(i)=\mathrm{a}\mathrm{r}\mathrm{g}\underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)a_{ji}],,1\le i\le N\text{\hspace{1em}(26)}$$
${\psi }_t(i)$ 保存的是时刻 $t$ 状态 $s_t=q_i$ 由时刻 $t-1$ 的哪种状态转移而来。如果将递推过程类比构建一棵树的话，${\psi }_t(i)$ 保存的孩子结点的父结点，这样方可通过回溯确定最优路径。

维特比算法的大致流程如下。

$$\begin{array}{ll}\text{输入:}& 模型\lambda =(A,B,\pi ),观测O=(o_1,o_2,\dots ,o_T)\\ \text{过程:}& \end{array}$$

$$\begin{array}{rl}1:& 初始化\\ & \\ & \begin{array}{cc}{\delta }_1(i)={\pi }_i{b}_i(o_1),& 1\le i\le N\\ {\psi }_1(i)=0,& 1\le i\le N\end{array}\\ & \\ 2:& 递推。对t=2,3,\dots ,T\\ & \\ & \begin{array}{cc}{\delta }_t(i)=\underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)a_{ji}]b_i(o_t),& 1\le i\le N\\ {\psi }_t(i)=\mathrm{a}\mathrm{r}\mathrm{g}\underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)a_{ji}],& 1\le i\le N\end{array}\\ & \\ 3:& 终止\\ & \\ & \begin{array}{c}{P}^{\ast }=\underset{1\le i\le N}{\max }{\delta }_T(i)\\ s_T^{\ast }=\mathrm{a}\mathrm{r}\mathrm{g}\underset{1\le j\le N}{\max }[{\delta }_T(i)]\end{array}\\ & \\ 4:& 最优路径回溯。对t=T-1,T-2,\dots ,1\\ & \\ & \begin{array}{cc}& s_t^{\ast }={\psi }_{t+1}(s_{t+1}^{\ast })\end{array}\\ & \\ & 求得最优路径S^{\ast }=(s_1^{\ast },s_2^{\ast },\dots ,s_T^{\ast })\end{array}$$

$$\begin{array}{lcccccc}\text{输出:}最优路径S^{\ast }=(s_1^{\ast },s_2^{\ast },\dots ,s_T^{\ast })& & & & & & \end{array}$$

算法 2    维特比算法

上面对维特比算法的介绍还是比较抽象，配合下面的例子来直观理解维特比算法的过程。

继续采用上面的例子，模型 $\lambda =(A,B,\pi )$，
$$A=\left[\begin{array}{ccc}0.5& 0.2& 0.3\\ 0.3& 0.5& 0.2\\ 0.2& 0.3& 0.5\end{array}\right],B=\left[\begin{array}{cc}0.5& 0.5\\ 0.4& 0.6\\ 0.7& 0.3\end{array}\right],\pi =\left[\begin{array}{c}0.2\\ 0.4\\ 0.4\end{array}\right]$$
已知观测序列 $O=($红$,$ 白$,$ 红$)$，试求最优状态序列，即最优路径 $S^{\ast }=(s_1^{\ast },s_2^{\ast },s_3^{\ast })$。

如图 $6$ 所示，要在所有可能的路径中选择一条最优路径，按照以下步骤处理：

图 6    求最优路径

从图 $6$ 中可以看出树型结构，$\psi$ 保存每个结点的父结点。由于要从时刻 $t=1$ 中选出一个结点作为根结点建树，所以时刻 $t=1$ 对应的三个结点是没有父结点的，即 $\psi =0$。

初始化。在 $t=1$ 时，对每一个状态 $q_i$，$i=1,2,3$，求状态为 $q_i$ 观测 $o_1$ 为红的概率，记该概率为 ${\delta }_1(i)$，则
$${\delta }_1(i)={\pi }_i{b}_i(o_1)={\pi }_i{b}_i(红),i=1,2,3$$
代入实际数据
$$\begin{gathered} {\delta }_1(1)=0.2\times 0.5=0.10 \\ {\delta }_1(2)=0.4\times 0.4=0.16 \\ {\delta }_1(3)=0.4\times 0.7=0.28 \end{gathered}$$
记 ${\psi }_1(i)=0$，$i=1,2,3$。

在 $t=2$ 时，对每个状态 $q_i$，$i=1,2,3$，求在 $t=1$ 时状态为 $q_j$ 观测为红并在 $t=2$ 时状态为 $q_i$ 观测 $o_2$ 为白的路径的最大概率，记此最大概率为 ${\delta }_2(i)$，则
$${\delta }_2(i)=\underset{1\le j\le 3}{\max }[{\delta }_1(j)a_{ji}]b_i(o_2)$$
同时，对每个状态 $q_i$，$i=1,2,3$，记录概率最大路径的前一个状态 $q_j$：
$${\psi }_2(i)=\mathrm{a}\mathrm{r}\mathrm{g}\underset{1\le j\le 3}{\max }[{\delta }_1(j)a_{ji}],i=1,2,3$$
计算：
$$\begin{array}{rl}{\delta }_2(1)& =\underset{1\le j\le 3}{\max }[{\delta }_1(j)a_{j1}]b_1(o_2)\\ & =\underset{j}{\max }\{0.10\times 0.5,0.16\times 0.3,0.28\times 0.2\}\times 0.5\\ & =0.028\\ {\psi }_2(1)& =3\\ & \\ {\delta }_2(2)& =\underset{1\le j\le 3}{\max }[{\delta }_1(j)a_{j2}]b_2(o_2)\\ & =\underset{j}{\max }\{0.10\times 0.2,0.16\times 0.5,0.28\times 0.3\}\times 0.6\\ & =0.0504\\ {\psi }_2(2)& =3\\ & \\ {\delta }_2(3)& =\underset{1\le j\le 3}{\max }[{\delta }_1(j)a_{j3}]b_3(o_2)\\ & =\underset{j}{\max }\{0.10\times 0.3,0.16\times 0.2,0.28\times 0.5\}\times 0.3\\ & =0.042\\ {\psi }_2(3)& =3\end{array}$$
同样，在 $t=3$ 时，
$$\begin{array}{rl}{\delta }_3(i)& =\underset{1\le j\le 3}{\max }[{\delta }_2(j)a_{ji}]b_i(o_3)\\ {\psi }_3(i)& =\mathrm{a}\mathrm{r}\mathrm{g}\underset{1\le j\le 3}{\max }[{\delta }_2(j)a_{ji}]\\ & \\ {\delta }_3(1)& =0.00756\\ {\psi }_3(1)& =2\\ {\delta }_3(2)& =0.01008\\ {\psi }_3(2)& =2\\ {\delta }_3(3)& =0.0147\\ {\psi }_3(3)& =3\end{array}$$
以 $P^{\ast }$ 表示最优路径的概率，则
$$P^{\ast }=\underset{1\le i\le 3}{\max }{\delta }_3(i)=0.0147$$
最优路径的终点是 $s_3^{\ast }$：
$$s_3^{\ast }=\mathrm{a}\mathrm{r}\mathrm{g}\underset{i}{\max }[{\delta }_3(i)]=3$$
由最优路径的终点 $s_3^{\ast }$，逆向找到 $s_2^{\ast }$ 和 $s_1^{\ast }$。在 $t=2$ 时，$s_2^{\ast }={\psi }_3(s_3^{\ast })={\psi }_3(3)=3$；在 $t=1$ 时，$s_1^{\ast }={\psi }_2(s_2^{\ast })={\psi }_2(3)=3$。于是求得最优路径，即最优状态序列 $S^{\ast }=(s_1^{\ast },s_2^{\ast },s_3^{\ast })=(3,3,3)$。