统计学习方法-隐马尔可夫模型（HMM）-读书笔记

1、前言

隐马尔科夫模型(hidden Markov model,HMM)是用于标注问题的统计学习模型，描述由隐藏的马尔可夫链随机生成观测序列的过程，属于生成模型。隐马尔科夫模型在语音识别、自然语言处理、生物信息、模式识别等领域都有着广泛的应用。

2、隐马尔可夫模型

2.1隐马尔科夫模型的定义

隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测从而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的转台序列称为状态序列(state sequence)；每个状态生成一个观测，由此产生观测的随机序列，称为观测序列。
隐马尔可夫模型由初始概率向量$\pi$，状态转移概率矩阵A和观测概率矩阵B决定。$\pi$和A决定状态序列，B决定观测序列。HMM模型$\lambda$可以用三元符号表示即$\lambda =(A,B,\pi )$,三者称为HMM模型的三要素。
设Q是所有可能的状态的集合，V是所有可能的观测的集合，观测状态v可见，状态q不可见。I是长度为T的状态序列，O是对应的观测序列
1、定义状态转移概率矩阵A如下：
$$A=[a_{ij}{]}_{N\ast N}$$
其中$a_{ij}=P(i_{t+1}=q_j|i_t=q_i)$,是在时刻t处于状态qi的条件下在时刻t+1转移到状态qj的概率。
2、观测概率矩阵B定义如下
$$B=[b_j(k){]}_{N\ast M}$$
其中，$b_j(k)=P(o_t=v_k|i_t=q_j)$,是在时刻t处于状态qj的条件下生成观测vk的概率。
3、$\pi$是初始概率向量。

2.2 HMM的两个假设

1、齐次马尔可夫性假设。即隐藏的马尔可夫链在任意时刻t的状态只与前一时刻的状态有关，与其他时刻的状态及观测无关，也与时刻t无关。
2、观测独立性假设。即任意时刻的观测只和该时刻的马尔可夫链的状态有关，与其他观测及状态无关。

3、HMM的三个基本问题

3.1概率计算问题

给定模型$\lambda =(A,B,\pi )$和观测序列O，计算在模型$\lambda$下观测序列O出现的概率$P(o|\lambda )$

3.11直接计算法

列举所有长度为T的状态序列I，然后求出I与观测序列O的联合概率，最后再对所有可能的状态序列求和。
$$P(O,I|\lambda )=\sum _{I}P(O|I,\lambda )P(I|\lambda )$$
总体时间复杂度是**$O(T{N}^T)$**

3.12前向算法

**前向概率：**定义给定隐马尔可夫模型$\lambda$，定义到时刻t为止的观测序列为o1,o2,ot且状态为qi的概率为前向概率，记作
$${\alpha }_t(i)=P(o_1,o_2,...o_t,i_t=q_i|\lambda )$$

输入：模型$\lambda$，观测序列O
输出：观测序列概率$P(O|\lambda )$
（1）初值
$${\alpha }_1(i)={\pi }_i{b}_i(o_1)$$
(2) 递推
$${\alpha }_{t+1}(i)=[\sum _{j=1}^N{\alpha }_t(j)a_{ji}]b_i(o_{t+1})$$
(3)终止
$$P(O|\lambda )=\sum _{i=1}^N{\alpha }_T(i)$$
总体时间复杂度是**$O(N^{2}T)$**

3.13后向算法

**后向概率：**定义给定HMM模型$\lambda$，定义在时刻t状态为qi的条件下，从t+1到T的部分观测序列为ot+1,ot+2的概率为后向概率，记作
$${\beta }_t(i)=P(o_{t+1},o_{t+2},o_T|i_t=q_i,\lambda )$$
输入：模型$\lambda$，观测序列O
输出：观测序列概率$P(O|\lambda )$
（1）初值
$${\beta }_T(i)=1$$
根据定义，从T+1到T的部分观测序列其实不存在，所以硬性规定这个值是1
（2）递推
对t=T-1,T-2…1
$${\beta }_t(i)=\sum _{j=1}^N{a}_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)$$
（3）终止
$$P(O|\lambda )=\sum _{i=1}^N{\pi }_i{b}_i(o_1){\beta }_1(i)$$

3.2学习算法

已知观测序列O，估计模型$\lambda$参数，使得在该模型下观测序列概率$P(O|\lambda )$最大。

3.21监督学习方法

使用极大似然估计进行估计HMM的参数。
1、转移概率aij的估计
设样本中时刻t处于状态i时刻t+1转移到状态j的频数为Aij,那么状态转移概率aij的估计是
$${\hat{a}}_{ij}=\frac{A_{ij}}{{\sum }_{j=1}^N{A}_{ij}}$$
2、观测概率bj(K)的估计
设样本中状态为j并观测为k的频数是B_{jk}，那么状态为j观测为k的概率的估计是
$${\hat{b}}_j(k)=\frac{B_{jk}}{{\sum }_{k=1}^M{B}_{jk}}$$

3.22无监督学习方法-Baum-Welch算法

将观测序列数据看作观测数据O，状态序列数据看作不可观测的隐数据I，首先确定完全数据的对数似然函数KaTeX parse error: Undefined control sequence: \logP at position 1: \̲l̲o̲g̲P̲(O,I|\lambda),
由EM算法实现，求Q函数
$$Q(\lambda ,\hat{\lambda })=\sum _I\log {\pi }_{i1}P(O,I|\lambda )+\sum _I(\sum _{t=1}^{T-1}\log a_{i_t{i}_{t+1}})P(O,I|\lambda )+\sum _I(\sum _{t=1}^T\log b_{i_t}(o_t))P(O,I|\lambda )$$
EM算法M步，极大化Q函数，求模型参数A,B，$\pi$
用拉格朗日乘子法极大化Q函数求模型参数
$$a_{ij}=\frac{{\sum }_{t=1}^{T-1}P(O,i_t=i,i_{t+1}=j|\lambda )}{{\sum }_{t=1}^{T-1}P(O,i_t=i|\lambda )}$$

$$b_j(k)=\frac{{\sum }_{t=1}^{T}P(O,i_t=j|\lambda )I(o_t=v_k)}{{\sum }_{t=1}^{T}P(O,i_t=j|\lambda )}$$

$${\pi }_i=\frac{P(O,i_1=i|\lambda )}{P(O|\lambda )}$$

3.3预测算法

也称解码问题，已知模型$\lambda$和观测序列O，求对给定观测序列条件概率P（I|O）最大的状态序列I。

3.31近似算法

在每个时刻t选择在该时刻最有可能出现的状态，从而得到一个状态序列作为预测的结果，优点是计算简单，缺点是不能保证状态序列整体是最有可能的状态序列。（贪心的思想）

3.32维比特算法

动态规划的思想
递推地计算各部分路径的最大概率，存储状态转移过程中概率最大路径的前一个状态j，每一次状态更新记录概率值，最终求出最优路径概率。