隐马尔可夫模型

定义

隐马尔可夫模型是关于时序的概率模型,描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列,再由各个状态生成一个观测而产生观测随机序列的过程。

举例


隐马尔可夫模型_第1张图片

如图所示,三种骰子对应各自可能产生的结果。

每次随机抽取1个骰子投掷进行观测,比如抽取3次,抽取顺序依次为D4,D6,D8(不可观测),投掷结果为3,5,6。根据定义,D4,D6,D8为隐含状态序列,3,5,6为观测序列。

状态变迁图


隐马尔可夫模型_第2张图片

HMM模型


隐马尔可夫模型_第3张图片

概率计算算法

1.前向概率和后向概率

1)前向概率:给定隠马尔科夫模型 λ ,在时刻 t ,观测序列为O1,O2,...Ot, t 时刻的状态为 qi 的概率。

2)后向概率:给定隠马尔科夫模型λ ,在时刻 t 状态为 qi 的条件下,从t+1到T的观测序列为Ot+1,Ot+2,...OT 的概率。



2.前向算法


隐马尔可夫模型_第4张图片

步骤1:t=1时,状态为i的前向概率,初始状态为i的概率和状态i下产生观测O1的概率的乘积。

步骤2:t+1时刻的前向概率为,t时刻的所有可能状态(j)的前向概率乘以该状态下一时刻(t+1)转换为状态(i)的概率,即为t+1时刻为状态i的概率(该概率包含t时刻的前向概率,所以此时观测序列为O1,O2,...Ot),再乘以t+1时刻观测为Ot+1的概率。

步骤3:T时刻观测序列为O1,O2,...OT,所有可能状态(i)的前向概率。

3.后向算法


隐马尔可夫模型_第5张图片

步骤1:对最终时刻T所有状态i,规定后向概率为1。

步骤2:t时刻状态为i的后向概率定义为,t时刻状态为i且观测序列为Ot+1,Ot+2,...OT 的概率,即t时刻状态为i,t+1时刻状态为所有可能状态j,计算i状态到j状态的转移概率,乘以j状态产生观测为Ot+1的概率,再乘以t+1时刻状态为j的后向概率(此时观测为Ot+2,...OT)。

步骤3:初始状态为i的概率,乘以该状态产生观测O1的概率,再乘以t=1时的后向概率(观测序列为O2,O3,...OT 的概率),最后对所有可能的状态i求和。

你可能感兴趣的:(隐马尔可夫模型)