朴素贝叶斯例题记录

朴素贝叶斯：

朴素：特征的各个维度看做条件独立

大概理解：给定一个样本向量（观测数据），判断这个样本的标签。相当于已知观测数据，求最大的后验概率对应的标签。

posterrior ∝ likelihood * prior

（看看极大似然估计以及EM算法：http://blog.csdn.net/sallyyoung_sh/article/details/54630044

还有EM的一个应用：GMM：http://blog.csdn.net/abcjennifer/article/details/8198352）

  

x:(a1, a2, ..., am)m维特征 

y:(y1, y2, ..., yn)n类标签

      1、设为一个待分类项，而每个a为x的一个特征属性。

      2、有类别集合。

      3、计算。

      4、如果，则。

举个例子（摘自统计学习方法）：

                                                         

极大似然估计求解：

贝叶斯估计求解（λ = 1时，称为拉普拉斯平滑；λ = 0时，称为极大似然估计）：

书中对这两个方法的说明：