隐马尔可夫模型HMM (机器学习模型)

隐马尔科夫模型,Hidden Markov Model,简称HMM,是一个比较经典的机器学习模型。

它在语言识别,自然语言处理,模式识别等领域得到广泛的应用。当然,随着目前深度学习的崛起,尤其是RNN, LSTM等神经网络序列模型的火热,HMM的地位有所下降。

隐马尔可夫模型 (Hidden Markov Model) 是一种统计模型,用来描述一个含有隐含未知参数的马尔可夫过程。它是结构最简单的动态贝叶斯网,这是一种著名的有向图模型。

 

 

在马尔可夫模型中,我们知道,想推算天气只需要根据前一天的概率转换图来推算就行了

而隐马尔可夫模型中,我们还是想推算天气,如果我们并不知道今天的天气属于什么状况,我们只知道今明后三天的水藻的干燥湿润状态,因为水藻的状态和天气有关,我们想要通过水藻来推测这三天的真正的天气会是什么,这个时候就用Hidden Markov 模型来描述。

隐马尔可夫模型HMM (机器学习模型)_第1张图片

我们想推算的东西,并不能直接观测到,而是根据另一种我们可见的观测的东西去推算

 

例二

 假设我们有3个盒子,每个盒子里都有红色和白色两种球,这三个盒子里球的数量分别是:

隐马尔可夫模型HMM (机器学习模型)_第2张图片

    按照下面的方法从盒子里抽球,开始的时候,从第一个盒子抽球的概率是0.2,从第二个盒子抽球的概率是0.4,从第三个盒子抽球的概率是0.4。以这个概率抽一次球后,将球放回。然后从当前盒子转移到下一个盒子进行抽球。规则是:如果当前抽球的盒子是第一个盒子,则以0.5的概率仍然留在第一个盒子继续抽球,以0.2的概率去第二个盒子抽球,以0.3的概率去第三个盒子抽球。如果当前抽球的盒子是第二个盒子,则以0.5的概率仍然留在第二个盒子继续抽球,以0.3的概率去第一个盒子抽球,以0.2的概率去第三个盒子抽球。如果当前抽球的盒子是第三个盒子,则以0.5的概率仍然留在第三个盒子继续抽球,以0.2的概率去第一个盒子抽球,以0.3的概率去第二个盒子抽球。如此下去,直到重复三次,得到一个球的颜色的观测序列:

                                                                     O={红,白,红}

    注意在这个过程中,观察者只能看到球的颜色序列,却不能看到球是从哪个盒子里取出的。

    那么按照我们上一节HMM模型的定义,我们的观察集合是:

                                                                   V={红,白},M=2

    我们的状态集合是:

                                                        Q={盒子1,盒子2,盒子3},N=3

    而观察序列和状态序列的长度为3.

    初始状态分布为:

                                                                  Π=(0.2,0.4,0.4)T

    状态转移概率分布矩阵为:

     观测状态概率矩阵为:

https://www.cnblogs.com/pinard/p/6945257.html

 

你可能感兴趣的:(隐马尔可夫模型)