【自然语言处理】隐马尔科夫模型【Ⅵ】精度问题

有任何的书写错误、排版错误、概念错误等，希望大家包含指正。

由于字数限制，分成六篇博客。
【自然语言处理】隐马尔可夫模型【Ⅰ】马尔可夫模型
【自然语言处理】隐马尔科夫模型【Ⅱ】隐马尔科夫模型概述
【自然语言处理】隐马尔科夫模型【Ⅲ】估计问题
【自然语言处理】隐马尔科夫模型【Ⅳ】学习问题
【自然语言处理】隐马尔科夫模型【Ⅴ】解码问题
【自然语言处理】隐马尔科夫模型【Ⅵ】精度问题

2.6. 精度问题

在具体实践中，会出现精度损失的问题。结合式 $(8)$ 和图 $2$ 考虑 ${\alpha }_t(i)$，可以看出在进行递推时会存在连续乘以小于 $1$ 的概率的情况，这导致递推过程中计算出的 ${\alpha }_t(i)$ 非常小，以至于超出计算机存储的精度范围（甚至是双精度）。更为直观地，从上面计算前向概率的例子中，可以看到随着 $t$ 的增大，${\alpha }_t(i)$ 开始趋于 $0$。${\beta }_t(i)$ 也会出现类似的问题。在隐马尔可夫模型的论文中，作者提出通过放大（scaling）或取对数的方法来解决该问题。

在估计问题、学习问题和解码问题中都可能出现精度问题。下面将讨论如何在解决三个问题的同时保证数据精度。

2.6.1. 估计问题

对于前向概率，首先引入两个变量 ${\bar{\alpha }}_t(i)$ 和 ${\hat{\alpha }}_t(i)$。${\hat{\alpha }}_t(i)$ 为 ${\bar{\alpha }}_t(i)$ 放大后的值，${\bar{\alpha }}_t(i)$ 由 ${\hat{\alpha }}_{t-1}(j),1\le j\le N$ 计算得到。

定义放大系数：
$$c_t=\frac{1}{\sum _{i=1}^N{\bar{\alpha }}_t(i)},1\le t\le T$$
可见，每个时刻的放大系数是不同的，而且同一时刻使用相同的放大系数。

令 ${\bar{\alpha }}_1(i)={\alpha }_1(i)$，${\bar{\alpha }}_t(i)$ 和 ${\hat{\alpha }}_t(i)$ 满足如下两个递推关系：
$${\bar{\alpha }}_t(i)=\left[\sum _{j=1}^N{\hat{\alpha }}_{t-1}(j)a_{ji}\right]b_i(O_t),2\le t\le T\text{\hspace{1em}(27)}$$

$${\hat{\alpha }}_t(i)=c_t{\bar{\alpha }}_t(i),1\le t\le T\text{\hspace{1em}(28)}$$

式 $(27)$ 关于从 ${\hat{\alpha }}_{t-1}(j)$ 到 ${\bar{\alpha }}_t(i)$ 的递推关系与式 $(8)$ 的递推关系一致；式 $(28)$ 表明从 ${\bar{\alpha }}_t(i)$ 到 ${\hat{\alpha }}_t(i)$ 的递推关系仅仅是对 ${\bar{\alpha }}_t(i)$ 进行缩放，而且满足
$$\sum _{i=1}^N{\hat{\alpha }}_t(i)=1,1\le t\le T$$
特别地，当 $t=T$ 时，
$$\sum _{i=1}^N{\hat{\alpha }}_T(i)=1\text{\hspace{1em}(29)}$$
通过递推关系式 $(27)$ 和 $(28)$，我们还可以得到 ${\hat{\alpha }}_t(i)$ 与 ${\alpha }_t(i)$ 的关系：
$${\hat{\alpha }}_t(i)=\left[\prod _{\tau =1}^t{c}_{\tau }\right]{\alpha }_t(i)$$
方便起见，令
$$C_t=\prod _{\tau =1}^t{c}_{\tau }$$
则
$${\hat{\alpha }}_t(i)=C_t{\alpha }_t(i)\text{\hspace{1em}(30)}$$
推导如下。利用递推关系式 $(27)$ 和 $(28)$ 交替重复迭代
$$\begin{array}{rl}{\hat{\alpha }}_t(i)& =c_t{\bar{\alpha }}_t(i)\\ & =c_t\left[\sum _{j=1}^N{\hat{\alpha }}_{t-1}(j)a_{ji}{b}_i(o_t)\right]\\ & =c_t\left[\sum _{j=1}^N{c}_{t-1}{\bar{\alpha }}_{t-1}(j)a_{ji}{b}_i(o_t)\right]\\ & =c_t{c}_{t-1}\left[\sum _{j=1}^N{\bar{\alpha }}_{t-1}(j)a_{ji}{b}_i(o_t)\right]\\ & =c_t{c}_{t-1}\left[\sum _{j=1}^N\left[\sum _{k=1}^N{\hat{\alpha }}_{t-2}(k)a_{kj}{b}_j(o_{t-1})\right]a_{ji}{b}_i(o_t)\right]\\ & =c_t{c}_{t-1}\left[\sum _{j=1}^N\left[\sum _{k=1}^N{c}_{t-2}{\bar{\alpha }}_{t-2}(k)a_{kj}{b}_j(o_{t-1})\right]a_{ji}{b}_i(o_t)\right]\\ & =c_t{c}_{t-1}{c}_{t-2}\left[\sum _{j=1}^N\left[\sum _{k=1}^N{\bar{\alpha }}_{t-2}(k)a_{kj}{b}_j(o_{t-1})\right]a_{ji}{b}_i(o_t)\right]\\ & =\dots \\ & =c_t{c}_{t-1}\dots c_1\left[\sum _{j=1}^N\left[\sum _{k=1}^N\left[\dots \left[\sum _{n=1}^N{\bar{\alpha }}_1(n)a_{nm}{b}_m(o_2)\right]\dots \right]a_{kj}{b}_j(o_{t-1})\right]a_{ji}{b}_i(o_t)\right]\\ & =c_t{c}_{t-1}\dots c_1\left[\sum _{j=1}^N\left[\sum _{k=1}^N\left[\dots \left[\sum _{n=1}^N{\alpha }_1(n)a_{nm}{b}_m(o_2)\right]\dots \right]a_{kj}{b}_j(o_{t-1})\right]a_{ji}{b}_i(o_t)\right]\\ & =c_t{c}_{t-1}\dots c_1\left[\sum _{j=1}^N\left[\sum _{k=1}^N[\dots [{\alpha }_2(m)]\dots ]a_{kj}{b}_j(o_{t-1})\right]a_{ji}{b}_i(o_t)\right]\\ & =c_t{c}_{t-1}\dots c_1\left[\sum _{j=1}^N\left[\sum _{k=1}^N{\alpha }_{t-2}(k)a_{kj}{b}_j(o_{t-1})\right]a_{ji}{b}_i(o_t)\right]\\ & =c_t{c}_{t-1}\dots c_1\left[\sum _{j=1}^N{\alpha }_{t-1}(j)a_{ji}{b}_i(o_t)\right]\\ & =c_t{c}_{t-1}\dots c_1{\alpha }_t(i)\\ & =C_t{\alpha }_t(i)\end{array}$$
如此得到式 $(30)$。

对于后向概率，将其递推公式 $(11)$ 与前向概率的递推公式 $(8)$ 对比可知，后向概率与前向概率的数量级比较接近。放大方法本质是解决精度超出范围的问题，并不在意具体的放大系数，使用与前向概率相同的放大系数可以把后向概率放大到有效范围内，故后向概率采用和前向概率相同的放大系数 $c_t$。

另外，${\bar{\beta }}_t(i)$ 和 ${\hat{\beta }}_t(i)$ 满足与放大后前向概率类似的递推关系：
$$\begin{gathered} {\bar{\beta }}_t(i)=\sum _{j=1}^N{b}_j(o_{t+1}){\hat{\beta }}_{t+1}(j)a_{ij},1\le t\le T-1 \\ {\hat{\beta }}_t(i)=c_t{\bar{\beta }}_t(i),1\le t\le T \end{gathered}$$
其中，前者与式 $(11)$ 一致，后者与式 $(28)$ 类似。

同样是使用这两个递推关系，类比式 $(30)$ 的推导，可得
$${\hat{\beta }}_t(i)=\left[\prod _{\tau =1}^T{c}_{\tau }\right]{\beta }_t(i)$$
方便起见，令
$$D_t=\prod _{\tau =1}^T{c}_{\tau }$$
则
$${\hat{\beta }}_t(i)=D_t{\beta }_t(i)\text{\hspace{1em}(31)}$$

注意区别多样本训练模型时样本数量 $D$ 和放大系数之积 $D_t$。

在讨论精度问题之前，得到的计算期望或概率的公式采用的都是未放大的前向概率 ${\alpha }_t(i)$ 和后向概率 ${\beta }_t(i)$，但是采用了放大方法后，我们保存的是放大后的前向概率 ${\hat{\alpha }}_t(i)$（和 ${\bar{\alpha }}_t(i)$）和后向概率 ${\hat{\beta }}_t(i)$（和 ${\bar{\beta }}_t(i)$），而不是 ${\alpha }_t(i)$ 和 ${\beta }_t(i)$，显然这些公式无法直接使用。因此，我们希望找到放大前后前向概率和后向概率的直接关系，即 ${\alpha }_t(i)$ 与 ${\hat{\alpha }}_t(i)$（或 ${\bar{\alpha }}_t(i)$）的关系以及 ${\beta }_t(i)$ 与 ${\hat{\beta }}_t(i)$（或 ${\bar{\beta }}_t(i)$）的关系，从而得到利用 ${\hat{\alpha }}_t(i)$（或 ${\bar{\alpha }}_t(i)$）和 ${\hat{\beta }}_t(i)$（或 ${\bar{\beta }}_t(i)$）直接计算这些期望或概率的公式。

上面提到，估计问题是关于计算 $P(O\mid \lambda )$ 的问题。在前向算法中，可以通过 $P(O\mid \lambda )=\sum _{i=1}^N{\alpha }_T(i)$ 计算 $P(O\mid \lambda )$。根据式 $(29)$，利用放大前后前向概率的关系式 $(30)$，可得
$$P(O\mid \lambda )=\sum _{i=1}^N{\alpha }_T(i)=\sum _{i=1}^N\frac{{\hat{\alpha }}_T(i)}{C_T}=\frac{1}{C_T}\text{\hspace{1em}(32)}$$
其中，$C_T$ 与 ${\bar{\alpha }}_t(i),1\le t\le T$ 有关。如此便确定了采用放大方法 $P(O\mid \lambda )$ 的计算公式。

2.6.2. 学习问题

学习问题是指通过 Baum-Welch 算法学习模型参数 $A,B,\pi$。式 $(22)$ 指明 $a_{ij}$ 关于 ${\alpha }_t(i)$ 和 ${\beta }_t(i)$ 的计算公式
$$a_{ij}=\frac{\sum _{d=1}^D\frac{1}{P_d}\sum _{t=1}^{T-1}{\alpha }_t^{(d)}(i)a_{ij}{b}_j(o_{t+1}^{(d)}){\beta }_{t+1}^{(d)}(j)}{\sum _{d=1}^D\frac{1}{P_d}\sum _{t=1}^{T-1}{\alpha }_t^{(d)}(i){\beta }_t^{(d)}(i)}$$
根据式 $(30)$ 和式 $(31)$ 可得 $a_{ij}$ 关于 ${\hat{\alpha }}_t(i)$（或 ${\bar{\alpha }}_t(i)$） 和 ${\hat{\beta }}_t(i)$（或 ${\bar{\beta }}_t(i)$）的计算公式
$$\begin{array}{rl}{a}_{ij}& =\frac{\sum _{d=1}^D\frac{1}{P_d}\sum _{t=1}^{T-1}\frac{{\hat{\alpha }}_t^{(d)}(i)}{C_t^{(d)}}{a}_{ij}{b}_j(o_{t+1}^{(d)})\frac{{\hat{\beta }}_{t+1}^{(d)}(j)}{D_{t+1}^{(d)}}}{\sum _{d=1}^D\frac{1}{P_d}\sum _{t=1}^{T-1}\frac{{\hat{\alpha }}_t^{(d)}(i)}{C_t^{(d)}}\frac{{\hat{\beta }}_t^{(d)}(i)}{D_t^{(d)}}}\\ & =\frac{\sum _{d=1}^D\sum _{t=1}^{T-1}\frac{1}{P_d{C}_t^{(d)}{D}_{t+1}^{(d)}}{\hat{\alpha }}_t^{(d)}(i)a_{ij}{b}_j(o_{t+1}^{(d)}){\hat{\beta }}_{t+1}^{(d)}(j)}{\sum _{d=1}^D\sum _{t=1}^{T-1}\frac{1}{P_d{C}_t^{(d)}{D}_t^{(d)}}{\hat{\alpha }}_t^{(d)}(i){\hat{\beta }}_t^{(d)}(i)}\end{array}$$
其中，$C_t^{(d)}{D}_{t+1}^{(d)}=C_T^{(d)}$，$C_t^{(d)}{D}_t^{(d)}=C_T^{(d)}{c}_t^{(d)}$，根据式 $(32)$ 可知 $P(O^{(d)}\mid \lambda )C_T^{(d)}=1$，故上式可化为
$$\begin{array}{rl}{a}_{ij}& =\frac{\sum _{d=1}^D\sum _{t=1}^{T-1}\frac{1}{P_d{C}_T^{(d)}}{\hat{\alpha }}_t^{(d)}(i)a_{ij}{b}_j(o_{t+1}^{(d)}){\hat{\beta }}_{t+1}^{(d)}(j)}{\sum _{d=1}^D\sum _{t=1}^{T-1}\frac{1}{P_d{C}_T^{(d)}}\frac{1}{c_t^{(d)}}{\hat{\alpha }}_t^{(d)}(i){\hat{\beta }}_t^{(d)}(i)}\\ & =\frac{\sum _{d=1}^D\sum _{t=1}^{T-1}{\hat{\alpha }}_t^{(d)}(i)a_{ij}{b}_j(o_{t+1}^{(d)}){\hat{\beta }}_{t+1}^{(d)}(j)}{\sum _{d=1}^D\sum _{t=1}^{T-1}\frac{1}{c_t^{(d)}}{\hat{\alpha }}_t^{(d)}(i){\hat{\beta }}_t^{(d)}(i)}\\ & =\frac{\sum _{d=1}^D\sum _{t=1}^{T-1}{\hat{\alpha }}_t^{(d)}(i)a_{ij}{b}_j(o_{t+1}^{(d)}){\hat{\beta }}_{t+1}^{(d)}(j)}{\sum _{d=1}^D\sum _{t=1}^{T-1}{\hat{\alpha }}_t^{(d)}(i){\hat{\beta }}_t^{(d)}(i)/c_t^{(d)}}\end{array}\text{\hspace{1em}(33)}$$
类似地，根据式 $(23)$ 可以得到 $b_j(k)$ 关于 ${\hat{\alpha }}_t(i)$（或 ${\bar{\alpha }}_t(i)$） 和 ${\hat{\beta }}_t(i)$（或 ${\bar{\beta }}_t(i)$）的计算公式
$$b_j(k)=\frac{\sum _{d=1}^D\sum _{t=1,o_t^{(d)}=v_k}^T{\hat{\alpha }}_t^{(d)}(i){\hat{\beta }}_t^{(d)}(i)}{\sum _{d=1}^D\sum _{t=1}^T{\hat{\alpha }}_t^{(d)}(i){\hat{\beta }}_t^{(d)}(i)}\text{\hspace{1em}(34)}$$
根据式 $(21)$ 可以得到 ${\pi }_i$ 关于 ${\hat{\alpha }}_t(i)$（或 ${\bar{\alpha }}_t(i)$） 和 ${\hat{\beta }}_t(i)$（或 ${\bar{\beta }}_t(i)$）的计算公式
$${\pi }_i=\frac{1}{D}\sum _{d=1}^D\frac{{\hat{\alpha }}_1^{(d)}(i){\hat{\beta }}_1^{(d)}(i)}{c_1^{(d)}}\text{\hspace{1em}(35)}$$
在采用了放大方法的 Baum-Welch 算法中，使用式 $(33)\sim (35)$ 更新模型参数。

2.6.3. 解码问题

维特比算法的目标是找到最优路径，并不要求准确求出每条路径的概率，只要能够正确比较路径概率大小即可。因此，考虑到维特比算法的递推公式的形式以及放大方法较为复杂，我们采用取对数的方法确保数据在有效范围内。

对式 $(24)$ 取对数，定义 ${\Delta }_t(i)=\log {\delta }_t(i)$
$$\begin{array}{rl}{\Delta }_t(i)& =\log \underset{s_1,s_2,\dots ,s_{t-1}}{\max }P(o_t,o_{t-1},\dots ,o_1,s_t=q_i,s_{t-1},\dots ,s_1\mid \lambda )\\ & =\underset{s_1,s_2,\dots ,s_{t-1}}{\max }\log P(o_t,o_{t-1},\dots ,o_1,s_t=q_i,s_{t-1},\dots ,s_1\mid \lambda )\end{array}$$
初始值
$${\Delta }_1(i)=\log {\delta }_1(i)=\log ({\pi }_i)+\log b_i(o_1)$$
变量 $\Delta$ 的递推公式
$${\Delta }_t(i)=\underset{1\le j\le N}{\max }[{\Delta }_{t-1}(j)+\log a_{ji}]+\log b_i(o_t)$$
保存路径的变量 $\Psi$ 的初始化和递推公式如下
$$\begin{gathered} {\Psi }_1(i)=0,1\le i\le N \\ {\Psi }_t(i)=\mathrm{a}\mathrm{r}\mathrm{g}\underset{1\le j\le N}{\max }[{\Delta }_{t-1}(j)+\log a_{ji}],1\le i\le N \end{gathered}$$
最优路径的概率 $P^{\ast }$ 满足 $\log P^{\ast }=\underset{1\le i\le N}{\max }{\Delta }_T(i)$；最优路径回溯过程不变。

可见，我们不仅可以找到最优路径，而且计算出了正确的最优路径概率，另外，取对数的方法使得计算量大大减少并且缓解了精度问题。

REF

[1]《统计学习方法（第二版）》李航著

[2]《机器学习》周志华著

[3]《统计自然语言处理（第二版）》宗成庆著

[4] 隐马尔科夫模型HMM（三）鲍姆-韦尔奇算法求解HMM参数 - 博客园

[5] HMM经典介绍论文【Rabiner 1989】翻译（十六）- CSDN

[6] HMM经典介绍论文【Rabiner 1989】翻译（十七）——多观测序列 - CSDN

[7] 机器学习-白板推导系列(十四)-隐马尔可夫模型HMM（Hidden Markov Model）- bilibili

[8] 机器学习-白板推导系列(十四)-隐马尔可夫模型HMM（Hidden Markov Model）笔记 - 知乎

[9] 【机器学习】贝叶斯分类器【下】- CSDN

[10] 【机器学习】EM 算法 - CSDN

[11] 概率图模型 - 知乎