朴素贝叶斯-逻辑回归-HMM-CRF

朴素贝叶斯-逻辑回归-HMM-CRF之间的关系

（1）朴素贝叶斯（NB）和逻辑回归（LR）的区别：

1）NB条件独立假设成立，所以可以仅通过统计来得到每个特征的权重；

2） LR条件独立假设不成立，所以需要通过梯度下降法，来得到特征之间的耦合关系，进而确定每个特征的权重

（2） HMM和CRF的区别

对于HMM：
1）齐次马尔科夫假设：通俗地说就是 HMM 的任一时刻 t 的某一状态只依赖于其前一时刻的状态，与其它时刻的状态及观测无关，也与时刻 t 无关。
2）观测独立假设：任一时刻的观测只依赖于该时刻的马尔科夫链的状态，与其他观测及状态无关。
对于CRF：
1）假设满足马尔可夫性：当前状态与前一个和后一个状态及观测序列（有线相连的节点）有关，与其他状态无关；
2）无观测独立性假设；
由于限制更少，CRF利用了更多的信息，如观测序列上下文信息，以及观测序列元素本身的特征（是否是数字，是否大写，是否以某字符串开头或结尾）