简版

HMM

image.png

参数 = （A，B，pi）

image.png

解决隐马第一个问题：P(O)

image.png

前向-后向算法的核心是构建【递推】

image.png

image.png

image.png

第二个问题：学习

image.png

image.png

无监督：EM
第三个问题：预测
做法：
viterbi算法其实就是多步骤每步多选择模型的最优选择问题，其在每一步的所有选择都保存了前续所有步骤到当前步骤当前选择的最小总代价（或者最大价值）以及当前代价的情况下前继步骤的选择。依次计算完所有步骤后，通过回溯的方法找到最优选择路径。
【原理】

image.png

CRF

image.png

借助H-C定理，引入概率图模型中最大团的概念，使用势函数连乘（非归一化概率连乘）定义出CRF的条件概率基本公式。
在chain-CRF中，所有的最大团都是相邻两个节点。

image.png

image.png

指数带来乘法变加法。

传统的CRF是需要人工定义特征函数的。参数学习得到。

image.png

参数 * 权值 -> 权值向量 * 特征函数得分

再升级到矩阵形式

image.png

矩阵的含义：特定位置的非归一化转移概率

image.png