【10.1算法理论部分（4）预测问题（近似算法和维特比算法）】Hidden Markov Algorithm——李航《统计学习方法》公式推导

10.4预测算法（解决Decoding：$\hat{S}=argma{x}_{S}P(S|O,\lambda )$）

下面介绍HMM预测的两种算法：近似算法与维特比算法（VIterbi algorithm）。

10.4.1 近似算法

近似算法思想：在每个时刻 t 选择在该时刻最有可能出现的状态$i_t^{\ast }$，从而得到一个状态序列$S=(s_1^{\ast },s_2^{\ast },\cdot \cdot \cdot ,s_T^{\ast })$，将它作为预测的结果。具体算法如下：
给定隐马尔可夫模型 $\lambda$ 和观测序列 O，在时刻 t 处于状态 $q_i$ 的概率 ${\gamma }_t(i)$ 是
$${\gamma }_t(i)=\frac{{\alpha }_t(i){\beta }_t(i)}{P(O|\lambda )}=\frac{{\alpha }_t(i){\beta }_t(i)}{{\sum }_{j=1}^N{\alpha }_t(j){\beta }_t(j)}----(10.42)$$
每一个时刻 t 最有可能的状态 $s_t^{\ast }$ 是
$$s_t^{\ast }=argma{x}_{1⩽i⩽N}\left[{\gamma }_t(i)\right],t=1,2,\cdot \cdot \cdot ,T----(10.43)$$
从而得到状态序列$S=(s_1^{\ast },s_2^{\ast },\cdot \cdot \cdot ,s_T^{\ast })$.

近似算法的优点是计算简单，其缺点是不能保证预测的状态序列整体是最有可能的状态序列，因为预测的序列可能有实际不发生的部分，也即可能存在状态转移概率$a_{i^{\ast }{j}^{\ast }}=0$的相邻状态$i^{\ast }$和$j^{\ast }$出现。尽管如此，近似算法仍然是有用的。
这个地方好好想一下，要是状态3和状态4之间的转移概率为0，但是状态3和状态4分别是t时刻和t+1时刻求得的最有可能的状态，那这里近似算法的出来的序列不就不合理了嘛。

10.4.2 维特比算法（VIterbi algorithm）

维特比（Viterbi）算法实际是用动态规划解隐马尔可夫模型预测问题，即用动态规划求概率最大路径，这时一条路径对应着一个状态序列。具体算法如下：
首先定义一个路径最大概率$\delta$，所以定义在 t 时刻状态为 i 的所有单个路径中概率的最大值为：
$${\delta }_t(i)=\underset{s_1,s_2,\cdot \cdot \cdot ,s_{t-1}}{\max }P(s_t=q_i,s_{t-1},\cdot \cdot \cdot ,s_1,o_t,\cdot \cdot \cdot ,o_1|\lambda ),i=1,2,\cdot \cdot \cdot ,N----(10.44)$$
其实上面的话和公式可以用下面这张图很容易解释，就是说现在 t 时刻在状态$q_T$，那么我就要求 1~t-1 时刻中可以到达 t 时刻的状态$q_T$的所有路径中该路最大的那条路径。

在得到了${\delta }_t(i)$之后，由于我们最终要求解这条路径，所以要想到用递推的方法去找${\delta }_{t+1}(i)$和${\delta }_t(j)$之间的关系，推导得到关系如下：
$${\delta }_{t+1}(i)=\underset{1⩽j⩽N}{\max }\left[{\delta }_t(j)a_{ji}\right]b_{o_{t+1}}(i),i=1,2,\cdot \cdot \cdot ,N;t=1,2,\cdot \cdot \cdot ,T-1----(10.45)$$
以下是（10.45）的详细公式推导：

${\delta }_{t+1}(i)=\underset{s_1,s_2,\cdot \cdot \cdot ,s_t}{\max }P(s_{t+1}=q_i,s_t,\cdot \cdot \cdot ,s_1,o_{t+1},\cdot \cdot \cdot ,o_1|\lambda )$
$=\underset{s_1,s_2,\cdot \cdot \cdot ,s_t}{\max }{\sum }_{j=1}^{N}P(s_{t+1}=q_i,s_t=q_j,\cdot \cdot \cdot ,s_1,o_{t+1},\cdot \cdot \cdot ,o_1|\lambda )$
$=\underset{s_1,s_2,\cdot \cdot \cdot ,s_t}{\max }{\sum }_{j=1}^{N}P(s_{t+1}=q_i,s_t=q_j,\cdot \cdot \cdot ,s_1,o_t,\cdot \cdot \cdot ,o_1|\lambda )P(o_{t+1}|s_{t+1}=q_i,s_t=q_j,\cdot \cdot \cdot ,s_1,o_t,\cdot \cdot \cdot ,o_1,\lambda )$
$=\underset{s_1,s_2,\cdot \cdot \cdot ,s_t}{\max }{\sum }_{j=1}^{N}P(s_{t+1}=q_i,s_t=q_j,\cdot \cdot \cdot ,s_1,o_t,\cdot \cdot \cdot ,o_1|\lambda )P(o_{t+1}|s_{t+1}=q_i,\lambda )$
$=\underset{s_1,s_2,\cdot \cdot \cdot ,s_t}{\max }{\sum }_{j=1}^{N}P(s_t=q_j,\cdot \cdot \cdot ,s_1,o_t,\cdot \cdot \cdot ,o_1|\lambda )P(s_{t+1}=q_i|s_t=q_j,\cdot \cdot \cdot ,s_1,o_t,\cdot \cdot \cdot ,o_1,\lambda )P(o_{t+1}|s_{t+1}=q_i,\lambda )$
$=\underset{s_1,s_2,\cdot \cdot \cdot ,s_t}{\max }{\sum }_{j=1}^{N}P(s_t=q_j,\cdot \cdot \cdot ,s_1,o_t,\cdot \cdot \cdot ,o_1|\lambda )P(s_{t+1}=q_i|s_t=q_j,\lambda )P(o_{t+1}|s_{t+1}=q_i,\lambda )$
$=\underset{s_t=q_j}{\max }{\sum }_{j=1}^N{\delta }_t(j)a_{ji}{b}_{o_{t+1}}(i)$
$=\underset{1⩽j⩽N}{\max }\left[{\delta }_t(j)a_{ji}\right]b_{o_{t+1}}(i)$

但是你会发现有一个问题就是我们的${\delta }_{t+1}(i)$只是一个概率值，并没有储存这个最大概率的路径，所以我们要再定义一个变量 $\psi$ 用来存储这条概率最大的路径：
$${\psi }_t(i)=arg\underset{1⩽j⩽N}{\max }\left[{\delta }_{t-1}(j)a_{ji}\right]$$
这里由于$b_{o_{t+1}}(i)$在第 t 个时刻是一个定值，所以在这个式子中是记录概率最大路径的前一个状态 j并把这个值赋值给${\psi }_t(i)$

算法10.5（维特比算法）
输入：模型 $\lambda =(A,B,\pi )$和观测$O=(o_1,o_2,\cdot \cdot \cdot ,o_T)$；
输出：最优路径$I^{\ast }=(s_1^{\ast },s_2^{\ast },\cdot \cdot \cdot ,s_T^{\ast })$.

1. 初始化
   $${\delta }_1(i)={\pi }_i{b}_{s1}(o_1),i=1,2,\cdot \cdot \cdot ,N$$
   $${\psi }_1(i)=0,i=1,2,\cdot \cdot \cdot ,N$$
2. 递推。对$t=2,3,\cdot \cdot \cdot ,T$
   $${\delta }_t(i)=\underset{1⩽j⩽N}{\max }\left[{\delta }_{t-1}(j)a_{ji}\right]b_{o_{t+1}}(i),i=1,2,\cdot \cdot \cdot ,N$$
   $${\psi }_t(i)=arg\underset{1⩽j⩽N}{\max }\left[{\delta }_{t-1}(j)a_{ji}\right],i=1,2,\cdot \cdot \cdot ,N$$
3. 终止
   $$P^{\ast }=\underset{1⩽j⩽N}{\max }{\delta }_T(i)$$
   $$i_T^{\ast }=arg\underset{1⩽j⩽N}{\max }\left[{\delta }_T(i)\right]$$
4. 最优路径回溯。对 $t=T-1,T-2,\cdot \cdot \cdot ,1$
   $$i_t^{\ast }={\psi }_{t+1}(i_{t+1}^{\ast })$$
   最终求得最优路径$I^{\ast }=(s_1^{\ast },s_2^{\ast },\cdot \cdot \cdot ,s_T^{\ast })$.
   又讲了一大堆的理论，快看看书上例10.3，可以帮助你快速消化这些理论

参考文献

以下是HMM系列文章的参考文献：

1. 李航——《统计学习方法》
2. YouTube——shuhuai008的视频课程HMM
3. YouTube——徐亦达机器学习HMM、EM
4. *[https://www.huaxiaozhuan.com/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0/chapters/15_HMM.html]：隐马尔可夫模型
5. [https://sm1les.com/2019/04/10/hidden-markov-model/]：隐马尔可夫模型（HMM）及其三个基本问题
6. [https://www.cnblogs.com/skyme/p/4651331.html]：一文搞懂HMM（隐马尔可夫模型）
7. [https://www.zhihu.com/question/55974064]：南屏晚钟的解答

感谢以上作者对本文的贡献，如有侵权联系后删除相应内容。