【自然语言处理】隐马尔科夫模型【Ⅱ】隐马尔科夫模型概述

有任何的书写错误、排版错误、概念错误等，希望大家包含指正。

由于字数限制，分成六篇博客。
【自然语言处理】隐马尔可夫模型【Ⅰ】马尔可夫模型
【自然语言处理】隐马尔科夫模型【Ⅱ】隐马尔科夫模型概述
【自然语言处理】隐马尔科夫模型【Ⅲ】估计问题
【自然语言处理】隐马尔科夫模型【Ⅳ】学习问题
【自然语言处理】隐马尔科夫模型【Ⅴ】解码问题
【自然语言处理】隐马尔科夫模型【Ⅵ】精度问题

2. 隐马尔可夫模型

2.1. 模型定义

在马尔可夫模型中，每个状态代表了一个可观察的事件，所以，马尔可夫模型有时又称作可视马尔可夫模型（visible Markov model，VMM），这在某种程度上限制了模型的适应性。隐马尔可夫模型（hidden Markov model，HMM）是概率图模型中的一种有向图模型。隐马尔科夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测从而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列，称为状态序列（state sequence）；每个状态生成一个观测，而由此产生的观测的随机序列，称为观测序列（observation sequence）。序列的每一个位置又可以看作是一个时刻。图 $1$ 说明隐马尔可夫模型的基本原理。

图 1    HMM 图解

我们可以通过如下例子来说明 HMM 的含义。假定一暗室中有 $N$ 个盒子，每个盒子中有 $M$ 种不同颜色的球。一个实验员根据某一概率分布随机地选取一个初始盒子，从中根据不同颜色的球的概率分布，随机地取出一个球，并向室外的人报告该球的颜色。将球放回原盒子中，再根据盒子的概率分布选择另一个盒子，根据不同颜色的球的概率分布从中随机选择另外一个球。重复进行这个过程。对于暗室外边的人来说，可观察的过程只是不同颜色的球的序列，而盒子的序列是不可观察的。在这个过程中，每个盒子对应于 HMM 中的（隐）状态，球的颜色对应于 HMM 中状态的输出符号，从一个盒子转向另一个盒子对应于状态转换，从盒子中取出球的颜色对应于从一个状态输出的观测符号。

通过上例可以看出，隐马尔可夫模型由初始概率分布、状态转移概率分布以及观测概率分布确定，这三部分中隐含了模型中可能的状态数和可能的观测数。隐马尔可夫模型的形式定义如下：

设 $Q$ 是所有可能的状态的集合，$V$ 是所有可能的观测的集合：
$$Q=\{q_1,q_2,\dots ,q_N\},V=\{v_1,v_2,\dots ,v_M\}$$
其中，$N$ 是可能的状态数，$M$ 是可能的观测数。

$S$ 是长度为 $T$ 的状态序列，$O$ 是对应的观测序列：
$$S=(s_1,s_2,\dots ,s_T),O=(o_1,o_2,\dots ,o_T)$$

注意区分 $Q$ 和 $S$、$V$ 和 $O$。

$Q$ 和 $V$ 为集合，$S$ 和 $O$ 为序列。$s_t$ $(t=1,2,\dots ,T)$ 是时刻 $t$ 的状态符号，对应的取值可以为集合 $Q$ 中的某一个元素。$V$ 和 $O$ 同理。

$A$ 是状态转移概率矩阵：
$$A=[a_{ij}{]}_{N\times N}$$
其中，
$$\begin{array}{l}{a}_{ij}=P(s_{t+1}=q_j\mid s_t=q_i),1\le i,j\le N\\ a_{ij}\ge 0\\ \sum _{j=1}^N{a}_{ij}=1\end{array}$$
表示在时刻 $t$ 处于状态 $q_i$ 的条件下在时刻 $t+1$ 转移到状态 $q_j$ 的概率。

$B$ 是观测概率矩阵：
$$B=[b_j(k){]}_{N\times M}$$
其中，
$$\begin{array}{l}{b}_j(k)=P(o_t=v_k\mid s_t=q_j),1\le k\le M;1\le j\le N\\ b_j(k)\ge 0\\ \sum _{k=1}^M{b}_j(k)=1\end{array}$$
是在时刻 $t$ 处于状态 $q_j$ 的条件下生成观测 $v_k$ 的概率。

$\pi$ 是初始状态概率向量：
$$\pi =({\pi }_i)$$
其中，
$$\begin{array}{l}{\pi }_i=P(s_1=q_i),1\le i\le N\\ {\pi }_i\ge 0\\ \sum _{i=1}^N{\pi }_i=1\end{array}$$
是时刻 $t=1$ 处于状态 $q_i$ 的概率。

隐马尔可夫模型由初始状态概率向量 $\pi$、状态转移概率矩阵 $A$ 和观测概率矩阵 $B$ 决定。$\pi$ 和 $A$ 决定状态序列，$B$ 决定观测序列。因此，隐马尔可夫模型入可以用三元符号表示，即
$$\lambda =(A,B,\pi )$$
状态转移概率矩阵 $A$ 与初始状态概率向量 $\pi$ 确定了隐藏的马尔可夫链，生成不可观测的状态序列。观测概率矩阵 $B$ 确定了如何从状态生成观测，与状态序列综合确定了如何产生观测序列。

注意，在一些公式的推导中，我们往往不在意时刻 $t$ 的状态 $s_t$ 具体取值是 $q_i$ 还是 $q_j$，亦或是观测 $o_t$ 具体取值是 $v_i$ 还是 $v_j$。因此，为了表示简洁，对于上面的 $a_{ij}$、$b_j(k)$ 和 ${\pi }_i$ 的下标可能会用 $S$ 中的符号代替，比如 $a_{s_t{s}_{t+1}}$、$b_{s_t}(k)$、${\pi }_{s_1}$ 等；另外，出于同样的考虑，对于 $b_j(k)$ 我们将不再使用 $k$，而是直接使用对应时刻的观测符号表示，即 $b_j(o_t)$。而且，观测集合 $V$ 将不会在下面的任何公式或推导中出现。

从定义可知，隐马尔可夫模型作了两个基本假设：

1. 齐次马尔可夫性假设，即假设隐藏的马尔可夫链在任意时刻 $t$ 的状态只依赖于其前一时刻的状态，与其他时刻的状态及观测无关，也与时刻 $t$ 无关：
   $$P(s_t\mid o_{t-1},o_{t-2},\dots ,o_1,s_{t-1},s_{t-2},\dots ,s_1)=P(s_t\mid s_{t-1}),1\le t\le T$$

   齐次：状态转移的概率分布与时刻无关，即 $P(s_{t+1}=q_j\mid s_t=q_i)=P(s_t=q_j\mid s_{t-1}=q_i)=\dots$；
   一阶：完整的名称应该为“齐次一阶马尔可夫性假设”，一阶马尔可夫性为当前时刻的状态仅与前一个时刻的状态有关。

2. 观测独立性假设，即假设任意时刻的观测只依赖于该时刻的马尔可夫链的状态，与其他观测及状态无关：
   $$P(o_t\mid o_T,o_{T-1},\dots ,o_{t+1},o_{t-1},\dots ,o_1,s_T,s_{T-1},\dots ,s_1)=P(o_t\mid s_t)$$

隐马尔可夫模型可以用于标注，这时状态对应着标记。标注问题是给定观测的序列预测其对应的标记序列。可以假设标注问题的数据是由隐马尔可夫模型生成的。这样我们可以利用隐马尔可夫模型的学习与预测算法进行标注。

依然是以上面提到的“盒子与球模型”为例，理解一下具体的 HMM。

假设有 $4$ 个盒子，每个盒子里都装有红、白两种颜色的球，盒子里的红、白球数由下表列出。

	盒      子
	1	2	3	4
红球数	5	3	6	8
白球数	5	7	4	2

按照下面的方法抽球，产生一个球的颜色的观测序列：

• 开始，从 $4$ 个盒子里以等概率随机选取 $1$ 个盒子，从这个盒子里随机抽出 $1$ 个球，记录其颜色后，放回；
• 然后，从当前盒子随机转移到下一个盒子，规则是：如果当前盒子是盒子 $1$，那么下一盒子一定是盒子 $2$；如果当前是盒子 $2$ 或 $3$，那么分别以概率 $0.4$ 和 $0.6$ 转移到左边或右边的盒子；如果当前是盒子 $4$，那么各以 $0.5$ 的概率停留在盒子 $4$ 或转移到盒子 $3$；
• 确定转移的盒子后，再从这个盒子里随机抽出 $1$ 个球，记录其颜色，放回；
• 如此下去，重复进行 $5$ 次，得到一个球的颜色的观测序列：$O=($红$,$ 红$,$ 白$,$ 白$,$ 红$)$。

在这个过程中，观察者只能观测到球的颜色的序列，观测不到球是从哪个盒子取出的，即观测不到盒子的序列。

在这个例子中有两个随机序列，一个是盒子的序列（状态序列），一个是球的颜色的观测序列（观测序列）。前者是隐藏的，只有后者是可观测的。这是一个隐马尔可夫模型的例子。根据所给条件，可以明确状态集合、观测集合、序列长度以及模型的三要素。

盒子对应状态，状态的集合是：
$$Q=\{盒子1,盒子2,盒子3,盒子4\},N=4$$
球的颜色对应观测，观测的集合是：
$$V=\{红,白\},M=2$$
状态序列和观测序列长度 $T=5$。

初始概率分布为
$$\pi =(0.25,0.25,0.25,0.25{)}^T$$
状态转移概率分布为
$$A=\left[\begin{array}{cccc}0& 1& 0& 0\\ 0.4& 0& 0.6& 0\\ 0& 0.4& 0& 0.6\\ 0& 0& 0.5& 0.5\end{array}\right]$$
观测概分布为
$$B=\left[\begin{array}{cc}0.5& 0.5\\ 0.3& 0.7\\ 0.6& 0.4\\ 0.8& 0.2\end{array}\right]$$

2.2. 三个基本问题

1. 估计（Evaluation）问题。给定模型 $\lambda =(A,B,\pi )$ 和观测序列 $O=(o_1,o_2,\dots ,o_T)$，计算在模型参数 $\lambda$ 下观测序列 $O$ 出现的概率 $P(O\mid \lambda )$。换言之，如何评估模型与观测序列之间的匹配程度？
2. 学习（learning）问题。已知观测序列 $O=(o_1,o_2,\dots ,o_T)$，估计模型 $\lambda =(A,B,\pi )$ 参数，使得在该模型下观测序列概率 $P(O\mid \lambda )$ 最大。换言之，如何训练模型使其能最好地描述观测序列？即用极大似然估计的方法估计参数。
3. 解码（decoding）问题。已知模型 $\lambda =(A,B,\pi )$ 和观测序列 $O=(o_1,o_2,\dots ,o_T)$，求对给定观测序列条件概率 $P(S\mid O)$ 最大的状态序列 $S=(s_1,s_2,\dots ,s_T)$。换言之，如何根据给定的观测序列推断出最有可能对应的状态序列？

这三个问题的解决是隐马尔可夫模型得以广泛使用的前提。问题一和问题二本质上都是在讨论模型训练，问题一的解决为问题二中的极大似然估计提供了计算上的支持，无法计算出 $P(O\mid \lambda )$ 就无法进行极大似然估计。另外，观察问题一和问题二，问题一中需要已知模型参数 $\lambda$，问题二的输出结果为模型参数 $\lambda$，这显然要通过迭代的方式优化模型参数。问题三则将模型推向应用，在分词标注、机器翻译等具体问题上，问题三输出的状态序列就是我们想要的结果。

这里之所以称为解码问题，而非预测问题，是因为预测问题倾向于根据前面时刻的状态或观测来推断当前时刻的状态或观测，这与解码问题是不同的。