人工智能里的数学修炼 | 隐马尔可夫模型：基于EM的鲍姆-韦尔奇算法求解模型参数

人工智能里的数学修炼 | 概率图模型 ： 隐马尔可夫模型
人工智能里的数学修炼 | 隐马尔可夫模型：前向后向算法
人工智能里的数学修炼 | 隐马尔可夫模型 ： 维特比(Viterbi)算法解码隐藏状态序列
人工智能里的数学修炼 | 隐马尔可夫模型：基于EM的鲍姆-韦尔奇算法求解模型参数

隐马尔可夫模型的参数为$\lambda =\{A,B,\pi \}$, 对余其参数的求解，可以分为两种情况。

第一种情况较为简单，就是我们已知长度为$T$的观测序列和对应的隐藏状态序列，即$\{(O,I)\}$是已知的，此时我们可以很容易的用最大似然来求解模型参数。

第二种情况较为复杂，很多时候，我们无法得到隐马尔可夫模型观察序列对应的隐藏序列，即只有$\{O\}$是已知的，此时，我们就需要采用到鲍姆-韦尔奇算法，其实本质上也就是就是EM算法

一、鲍姆-韦尔奇算法原理

鲍姆-韦尔奇算法在每一次迭代中，都分为E和M两步，在E步，我们需要基于联合分布$P(O,I|\lambda )$和条件概率$P(I|O,\bar{\lambda })$的算出期望$Q$（其中$\bar{\lambda }$为当前迭代中模型参数），然后在M步中极大化这个期望，获得更新的模型参数$\lambda$。通过不停的EM迭代，使得模型参数收敛

• E步的期望表达式为：
  $$Q=\sum _{I}P(I|O,\bar{\lambda })logP(O,I|\lambda )$$
• 在M步我们极大化上式，然后得到更新后的模型参数如下：
  $$\bar{\lambda }=argma{x}_{\bar{\lambda }}\sum _{I}P(I|O,\bar{\lambda })logP(O,I|\lambda )$$通过，E步和M步不断的迭代，我们可以得到收敛的参数$\bar{\lambda }$。
  上面的式子可能有些地方不知道该如何计算，接下来讲解，具体的推导和计算方法

二、鲍姆-韦尔奇算法的推导

输入：长度为$T$的观测序列$O=\{(o_1),(o_2),...,(o_T)\}$，所有的可能的状态集合$q_1,q_2,...,q_N$, 所有可能的观测集合$v_1,v_2,...,v_M$
未知：隐藏的状态序列$I=\{(i_1),(i_2),...,(i_T)\}$
目标: $\lambda =\{A,B,\pi \}$

对于鲍姆-韦尔奇算法的E步，我们需要首先计算联合分布$P(O,I|\lambda )$如下：
$$P(O,I|\lambda )={\pi }_{i1}{b}_{i1}(o_1)a_{i1i2}{b}_{i2}(o_2)a_{i2i3}...b_{i(T-1)}(o_{T-1})a_{i(T-1)i(T)}{b}_{iT}(o_T)$$因为条件概率$P(I|O,\bar{\lambda })=\frac{P(O,I|\lambda )}{P(O,\lambda )}$且$P(O,\lambda )$是一个参数, 期望Q可以简化为
$$Q=\sum _{I}P(O,I|\bar{\lambda })logP(O,I|\lambda )$$将$P(O,I|\lambda )$带入上式，我们有
$$Q=\sum _{I}P(O,I|\bar{\lambda })log{\pi }_i+\sum _I(\sum _t^{T}log{b}_{it}(o_t))P(O,I|\bar{\lambda })+\sum _I(\sum _t^{T-1}log{a}_{iti(t+1)})P(O,I|\bar{\lambda })$$

接下来对于对于鲍姆-韦尔奇算法的M步，我们需要极大化Q，这要求对Q的三个子式子分别求导，可以得到
$${\bar{\pi }}_i={\gamma }_1(i)$$其中${\gamma }_t(i)=P(i_t=q_i|O,\lambda )=\frac{P(i_t=q_i,O|\lambda )}{P(O|\lambda ))}$表示在观测序列$O$给定的条件下，时刻$t$处于状态$q_i$的概率。
$${\bar{a}}_{ij}=\frac{{\sum }_{t=1}^{T-1}{\xi }_t(i,j)}{{\sum }_{t=1}^T{\gamma }_t(i)}$$这里${\xi }_t(i,j)=P(i_t=q_i,i_{t+1}=q_j|O,\lambda )$表示在观测序列$O$给定的条件下，时刻$t$处于状态$q_i$且时刻$t+1$处于$q_j$的概率。
$${\bar{b}}_j(k)=\frac{{\sum }_{t-1}^T{\gamma }_t(j)I(o_t=v_k)}{{\sum }_{t=1}^T{\gamma }_t(j)}$$

三、鲍姆-韦尔奇算法的流程

1. 初始化参数$\bar{\lambda }=\{A,B,\pi \}$
2. 更新迭代参数
   $${\bar{\pi }}_i={\gamma }_1(i)$$
   $${\bar{a}}_{ij}=\frac{{\sum }_{t=1}^{T-1}{\xi }_t(i,j)}{{\sum }_{t=1}^T{\gamma }_t(i)}$$
   $${\bar{b}}_j(k)=\frac{{\sum }_{t-1}^T{\gamma }_t(j)I(o_t=v_k)}{{\sum }_{t=1}^T{\gamma }_t(j)}$$
3. 模型收敛，停止迭代