统计学习方法 第四章 朴素贝叶斯法 学习笔记

文章目录

  • 第四章 朴素贝叶斯法
    • 4.1 朴素贝叶斯法的学习与分类
      • 4.1.1 基本方法
      • 4.1.2 后验概率最大化的含义
    • 4.2 朴素贝叶斯法的参数估计
      • 4.2.1 极大似然估计
      • 4.2.2 学习与分类算法
        • 算法 4.1 朴素贝叶斯算法
      • 4.2.3 贝叶斯估计

第四章 朴素贝叶斯法

朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法

4.1 朴素贝叶斯法的学习与分类

4.1.1 基本方法

统计学习方法 第四章 朴素贝叶斯法 学习笔记_第1张图片

统计学习方法 第四章 朴素贝叶斯法 学习笔记_第2张图片
统计学习方法 第四章 朴素贝叶斯法 学习笔记_第3张图片

因为条件之间可能含有某种关联,比如雨天对应的温度可能会低,将其视为独立后,可以把某一个维度拿出来进行计算。

朴素贝叶斯法实际上学习到的是生成数据的机制,属于生成模型

条件独立性假设使朴素贝叶斯法变得简单,但是会牺牲一定的分类准确性。
统计学习方法 第四章 朴素贝叶斯法 学习笔记_第4张图片

因为分母中所有ck都相同,所以可化简为下式

在这里插入图片描述

4.1.2 后验概率最大化的含义

后验概率最大化=经验风险最小化

4.2 朴素贝叶斯法的参数估计

4.2.1 极大似然估计

统计学习方法 第四章 朴素贝叶斯法 学习笔记_第5张图片

4.2.2 学习与分类算法

算法 4.1 朴素贝叶斯算法

统计学习方法 第四章 朴素贝叶斯法 学习笔记_第6张图片

统计学习方法 第四章 朴素贝叶斯法 学习笔记_第7张图片

4.2.3 贝叶斯估计

统计学习方法 第四章 朴素贝叶斯法 学习笔记_第8张图片

你可能感兴趣的:(机器学习,算法,python)