朴素贝叶斯NB

朴素贝叶斯NB

  • 1. 朴素贝叶斯公式
  • 2. 朴素贝叶斯实例
  • 3. 拉普拉斯平滑的朴素贝叶斯
    • 3.1 拉普拉斯平滑
    • 3.2 引入拉普拉斯平滑后的公式
  • 4. sklearn.naive_bayes

1. 朴素贝叶斯公式

  • 朴素贝叶斯(Naive Bayes)的"朴素"是假设各个特征之间相互独立
  • 算法简单,计算量小,但损失一定的正确率,常用于文本分类
  • 通过先验概率+数据,得到后验概率,从而确定分类
  • 是一种生成模型,需要找出联合分布P(X,Y),然后求出P(Y|X)=P(X,Y)/P(X)

朴素贝叶斯的核心思想:选择概率最高的一类作为新样本的属类
m a x [ p ( c 1 ∣ x , y ) , p ( c 2 ∣ x , y ) , . . . , p ( c n ∣ x , y ) ] m a x [ p ( c 1 ∣ x , y ) , p ( c 2 ∣ x , y ) , . . . , p ( c n ∣ x , y ) ] m a x [ p ( c 1 ∣ x , y ) , p ( c 2 ∣ x , y ) , . . . , p ( c n ∣ x , y ) ] max[p(c1∣x,y),p(c2∣x,y),...,p(cn∣x,y)]max[p(c1∣x,y),p(c2∣x,y),...,p(cn∣x,y)] max[p(c_1|x,y),p(c_2|x,y),...,p(c_n|x,y)] max[p(c1x,y),p(c2x,y),...,p(cnx,y)]max[p(c1x,y),p(c2x,y),...,p(cnx,y)]max[p(c1x,y),p(c2x,y),...,p(cnx,y)]y=argckmaxP(Y=ck)j=1nP(Xj=

你可能感兴趣的:(机器学习算法)