3.贝叶斯分类器

贝叶斯定理

设试验 E 的样本空间为 S,A 为 E 的事件,为样本空间 S 的一个划分,且,则有

朴素贝叶斯算法

输入

1. 训练集





2. 实例

输出

算法步骤

1. 先验概率的极大似然估计


2. 条件概率的极大似然估计


3. 朴素贝叶斯法假设：在分类确定的条件下,用于分类的特征是条件独立的

贝叶斯估计(最大后验估计 MAP)

它等价于在的各个取值的频数上赋予了一个正数.
,极大似然估计；,拉普拉斯平滑.

其他朴素贝叶斯分类器

假设了不同的分布.
1. GaussianNB(假设特征的条件概率分布满足高斯分布)

2. MultinomialNB(假设特征的条件概率分布满足多项式分布)


3. BernoulliNB(假设特征的条件概率分布满足二项分布)