HMM隐马尔可夫模型 评估观察序列概率

隐马尔可夫模型

定义

隐马尔科夫模型(Hidden Markov Model, HMM)是建模序列数据的图模型

在HMM模型存在隐藏状态$\{\dots ,x(t-1),x(t),x(t+1),\dots \}$，以及观测状态$\{\dots ,y(t-1),y(t),y(t+1),\dots \}$

设$Q$为所有隐藏状态的集合，$V$为所有观测状态的集合，即
$$Q=\{q_1,q_2,\dots ,q_N\},V=\{v_1,v_2,\dots v_M\}$$
设存在长度为$T$的序列，其中$I$对应的状态序列，$Q$是对应的观察序列
$$I=\{i_1,i_2,\dots ,i_T\},O=\{o_1,o_2,\dots o_T\}{i}_t\in Q,o_t\in V$$
其中HMM满足齐次马尔科夫链假设，即即任意时刻的隐藏状态只依赖于它前一个隐藏状态，一般来说, 给定状态$q_t$，对于时刻$s<t$ 和$t<u$， 则$q_s$与$q_u$相互独立。同时满足观测独立性假设。即任意时刻的观察状态只仅仅依赖于当前时刻的隐藏状态，即给定状态$q_t$，对于输出状态$v_s$与$v_u$也相互独立

定义在$t$时刻隐藏状态为$i_t=q_j$到$t+1$时刻隐藏状态为$i_{t+1}=q_i$的转移概率为$a_{ij}$，即
$$a_{ij}=P(i_{t+1}=q_j|i_t=q_i)$$
同时$a_{ij}$可以组成马尔科夫链的状态转移矩阵$A$
$$A={\left[\begin{array}{c}{a}_{ij}\end{array}\right]}_{N\times N}$$
定义在$t$时刻隐藏状态为$i_t=q_j$观测到$o_{t+1}=v_k$的概率为$b_j(k)$，即
$$b_j(k)=P(o_t=v_k|i_t=q_j)$$
同时$b_j(k)$可以组成马尔科夫链的观测概率矩阵$B$
$$B={\left[b_j(k)\right]}_{N\times M}$$
并定义在$t=1$时刻的隐藏状态概率分布$\Pi$
$$\Pi ={\left[\pi (i)\right]}_N\text{其中 }\pi (i)=P(i_1=q_i)$$
可知一个HMM模型可以由隐藏状态初始概率分布 $\Pi$ , 状态转移概率矩阵 $A$ 和观测状态概率矩阵 $B$ 决定。$\Pi ,A$ 决定状态序列，$B$ 决定观测序列。因此，HMM模型可以由一个三元组$\lambda$表示如下： $\lambda =(A,B,\Pi )$

直接计算

当给定模型HMM模型$\lambda =(A,B,\Pi )$和观测序列$O=\{o_1,o_2,\dots o_T\}$，求观测序列$O$在HMM中出现的概率$P(O|\lambda )$

计算$I=\{i_1,i_2,\dots ,i_T\}$出现的概率
$$P(I|\lambda )={\pi }_{i_1}{a}_{i_1{i}_2}{a}_{i_2{i}_3}\cdots a_{i_{T-1}{i}_T}$$
其中观测序列$O=\{o_1,o_2,\dots o_T\}$在$I=\{i_1,i_2,\dots ,i_T\}$情况下出现的概率
$$P(O|I,\lambda )=b_{i_1}(o_1)b_{i_2}(o_2).\dots b_{i_T}(o_T)$$
根据联合概率公式可得
$$P(O,I|\lambda )=P(I|\lambda )P(O|I,\lambda )={\pi }_{i_1}{b}_{i_1}(o_1)a_{i_1{i}_2}{b}_{i_2}(o_2)\dots a_{i_{T-1}{i}_T}{b}_{i_T}(o_T)$$
然后计算边缘概率
$$P(O|\lambda )=\sum _{I}P(O,I|\lambda )=\sum _{i_1,i_2,..,i_T}{\pi }_{i_1}{b}_{i_1}(o_1)a_{i_1,i_2}{b}_{i_2}(o_2)\dots a_{i_{T-1}{i}_T}{b}_{i_T}(o_T)$$
虽然直接计算方法有效，但是如果隐藏状态数$N$ 非常多，此时预测状态有$N^T$ 种组合，算法的时间复杂度是 $O(T{N}^T)$ 阶的。因此对于一些隐藏状态数极少的模型，我们可以直接计算来得到观测序列出现的概率，但是如果隐藏状态多，则上述算法太耗时，我们需要寻找其他简洁的算法。

前向计算

前向概率：时刻$t$部分观测序列为$O=\{o_1,o_2,\dots o_t\}$ ，且隐藏状态为$q_i$的概率为
$${\alpha }_t(i)=P(o_1,o_2,\dots o_t,i_t=q_i|\lambda )$$
可得时刻$t$部分观测序列为$O=\{o_1,o_2,\dots o_t\}$ ，隐藏状态为$q_j$且$t+1$时刻隐藏状态为$q_i$的概率为${\alpha }_t(j)a_{ji}$，可推出时刻$t$部分观测序列为$O=\{o_1,o_2,\dots o_t\}$ ，且$t+1$时刻隐藏状态为$q_i$的概率为${\sum }_{j=1}^N{\alpha }_t(j)a_{ji}$，若$t+1$时刻的观测状态为$o_{t+1}$，则可以得到$t+1$时刻观测序列为$O=\{o_1,o_2,\dots o_{t+1}\}$且$t+1$时刻隐藏状态为$q_i$的概率为：
$${\alpha }_{t+1}\left(i\right)=\left[\sum _{j=1}^N{\alpha }_t(j)a_{ji}\right]b_i(o_{t+1})$$
由此得到了从前向概率的递推表达式

算法描述

输入：HMM模型$\lambda =(A,B,\Pi )$ ,观测序列$O=(o_1,o_2,\dots o_T)$
输出：观测序列概率 $P(O|\lambda )$。

1. 初值

$$\begin{array}{r}{\alpha }_1(i)={\pi }_i{b}_i(o_1),i=1,2,\cdots ,N\end{array}$$

2. 递推 对$t=1,2,\cdots ,T-1$

$${\alpha }_{t+1}\left(i\right)=\left[\sum _{j=1}^N{\alpha }_t(j)a_{ji}\right]b_i(o_{t+1}),i=1,2,\dots ,N$$

3. 终止

$$P(O|\lambda )=\sum _{i=1}^N{\alpha }_T(i)$$

算法时间复杂度是$O(T{N}^2)$

后向计算

后向概率：时刻$t+1$到最后时刻$T$的部分观测序列为$\{o_{t+1},o_{t+2},\dots o_T\}$ ，且时刻$t$的隐藏状态为$q_i$的概率为
$${\beta }_t(i)=P(o_{t+1},o_{t+2},\dots o_T|i_t=q_i,\lambda )$$
可得$t+2$到最后时刻$T$观测状态为$\{o_{t+2},o_{t+3},\dots o_T\}$，$t$时刻隐藏状态为$q_i$，$t+1$时刻隐藏状态为$q_j$的概率为$a_{ij}{\beta }_{t+1}(j)$，当$t+1$时刻观测到的状态$o_{t+1}$，此时概率为$a_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)$，可得时刻$t$到最后时刻$T$的部分观测序列为$\{o_{t+1},o_{t+2},\dots o_T\}$ ，且时刻$t$的隐藏状态为$q_i$的概率为
$$\sum _{j=1}^N{a}_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)$$
算法描述

输入：HMM模型$\lambda =(A,B,\Pi )$ ,观测序列$O=(o_1,o_2,\dots o_T)$
输出：观测序列概率$P(O|\lambda )$

1. 初始化时刻$T$的各个隐藏状态后向概率：

$${\beta }_T(i)=1,i=1,2,\dots N$$

2. 递推时刻$T-1,T-2,\dots 1$ 时刻的后向概率：

$${\beta }_t(i)=\sum _{j=1}^N{a}_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j),i=1,2,\dots N$$

3. 计算最终结果：

$$P(O|\lambda )=\sum _{i=1}^N{\pi }_i{b}_i(o_1){\beta }_1(i)$$

算法时间复杂度是$O(T{N}^2)$