朴素贝叶斯

朴素贝叶斯

朴素贝叶斯(Naive Bayes ) 是基于贝叶斯定理与特征条件独立假设的分类方法。朴素贝叶斯分类器发源于古典数学理论,有着坚实的数学基础,以及稳定的分类效率。同时,模型所需估计的参数很少,对缺失数据不太敏感,算法也比较简单。

朴素贝叶斯原理

1. 概率公式

朴素贝叶斯_第1张图片

  1. 条件概率:表示事件A在另外一个事件B已经发生条件下的发生概率,P(A|B)
    • 在女神喜欢的条件下,职业是程序员的概率?
      1. 女神喜欢条件下,有 2、3、4、7 共 4 个样本
      2. 4 个样本中,有程序员 3、4 共 2 个样本
      3. 则 P(程序员|喜欢) = 2/4 = 0.5
  2. 联合概率:表示多个条件同时成立的概率,P(AB) = P(A) P(B|A)
    特征条件独立性假设:P(AB) = P(A) P(B)
    • 职业是程序员并且体型匀称的概率?
      1. 数据集中,共有 7 个样本
      2. 职业是程序员有 1、3、4 共 3 个样本,则其概率为:3/7
      3. 在职业是程序员,体型是匀称有 3 共 1 个样本ÿ

你可能感兴趣的:(笔记,讲义,机器学习,概率论,人工智能)