隐马尔科夫模型HMM及其具体应用

隐马尔科夫模型HMM及其具体应用

一、隐马尔科夫模型（HMM）

1. 定义
   隐马尔可夫模型（Hidden Markov Model，HMM）是统计模型，它用来描述一个含有隐含未知参数的马尔可夫过程。
   其难点是从可观察的参数中确定该过程的隐含参数。然后利用这些参数来作进一步的分析，例如模式识别。
   是在被建模的系统被认为是一个马尔可夫过程与未观测到的（隐藏的）的状态的统计马尔可夫模型。

2. 基本理论
   隐马尔可夫模型是马尔可夫链的一种，它的状态不能直接观察到，但能通过观测向量序列观察到，每个观测向量都是通过某些概率密度分布表现为各种状态，每一个观测向量是由一个具有相应概率密度分布的状态序列产生。所以，隐马尔可夫模型是一个双重随机过程----具有一定状态数的隐马尔可夫链和显示随机函数集。自20世纪80年代以来，HMM被应用于语音识别，取得重大成功。到了90年代，HMM还被引入计算机文字识别和移动通信核心技术“多用户的检测”。HMM在生物信息科学、故障诊断等领域也开始得到应用

3. 基本概述
   在简单的马尔可夫模型（如马尔可夫链），所述状态是直接可见的观察者，因此状态转移概率是唯一的参数。在隐马尔可夫模型中，状态是不直接可见的，但输出依赖于该状态下，是可见的。每个状态通过可能的输出记号有了可能的概率分布。因此，通过一个HMM产生标记序列提供了有关状态的一些序列的信息。注意，“隐藏”指的是，该模型经其传递的状态序列，而不是模型的参数；即使这些参数是精确已知的，我们仍把该模型称为一个“隐藏”的马尔可夫模型。隐马尔可夫模型以它在时间上的模式识别所知，如语音，手写，手势识别，词类的标记，乐谱，局部放电和生物信息学应用。
   隐马尔可夫模型可以被认为是一个概括的混合模型中的隐藏变量（或变量），它控制的混合成分被选择为每个观察，通过马尔可夫过程而不是相互独立相关。最近，隐马尔可夫模型已推广到两两马尔可夫模型和三重态马尔可夫模型，允许更复杂的数据结构的考虑和非平稳数据建模。

4. 基本算法
   针对以下三个问题，人们提出了相应的算法
   *1 评估问题： 前向算法
   *2 解码问题： Viterbi算法
   *3 学习问题： Baum-Welch算法(向前向后算法)

5. 模型表达
   隐马尔可夫模型（HMM）可以用五个元素来描述，包括2个状态集合和3个概率矩阵：
   （1） 隐含状态 S
   这些状态之间满足马尔可夫性质，是马尔可夫模型中实际所隐含的状态。这些状态通常无法通过直接观测而得到。（例如S1、S2、S3等等)
   （2） 可观测状态 O
   在模型中与隐含状态相关联，可通过直接观测而得到。(例如O1、O2、O3等等，可观测状态的数目不一定要和隐含状态的数目一致。）
   （3）初始状态概率矩阵 π
   表示隐含状态在初始时刻t=1的概率矩阵，(例如t=1时，P(S1)=p1、P(S2)=P2、P(S3)=p3，则初始状态概率矩阵 π=[ p1 p2 p3 ].
   （4） 隐含状态转移概率矩阵 A。
   描述了HMM模型中各个状态之间的转移概率。
   其中Aij = P( Sj | Si ),1≤i,j≤N.
   表示在 t 时刻、状态为 Si 的条件下，在 t+1 时刻状态是 Sj 的概率。
   （5）观测状态转移概率矩阵 B （英文名为Confusion Matrix，直译为混淆矩阵不太易于从字面理解）。
   令N代表隐含状态数目，M代表可观测状态数目，则：
   Bij = P( Oi | Sj ), 1≤i≤M,1≤j≤N.
   表示在 t 时刻、隐含状态是 Sj 条件下，观察状态为 Oi 的概率。
   总结：一般的，可以用λ=(A,B,π)三元组来简洁的表示一个隐马尔可夫模型。隐马尔可夫模型实际上是标准马尔可夫模型的扩展，添加了可观测状态集合和这些状态与隐含状态之间的概率关系。

二、隐马尔科夫模型（HMM）的具体应用

1. HMM在语音中的应用
   （1）根据一些特征对部分语意块进行词语切分，然后计算各个词语或语义块的输出概率。
   （2）在给定的HMM模型下，用韦特比算法进行计算，求出状态序列，即语义块相关联的域，然后按关联结果抽取各语义项。

相对于语音的概率密度分布表示法，隐马尔科夫模型更能反映出语音的动态时序变化特性，特别是在建模过程中，可以有效结合语音的山下文相关性约束。

2. HMM在人脸识别中的应用
   HMM是用概率统计的方法来进行时序数据识别模拟的分类器。最早将HMM应用于人脸识别的文献根据人脸由上至下各个区域具有自然不变的顺序这一相似共性，即可用一个1D-HMM表示人脸。根据人脸水平方向也就有相对稳定的空间结构，因此可将沿垂直方向划分的状态分别扩充为一个1D-HMM，共同组成了2D-HMM。
   此方法显示出了较高的识别率，对姿态和环境的变化也具有较好的鲁棒性。
3. HMM在人脸表情识别中的应用
   人脸表情识别的任务就在于通过表情图像来分析和建立HMM，对表情进行训练和识别。

此文章部分引用于文献 湖南科技学院学报 文章编号：1673-2219（2009）04-0042-03