贝叶斯分类

一   ,贝叶斯定理:

后验概率 :  P(H|X)

先验概率 :  P (H)


二 ,朴素贝叶斯分类(已知类标号,假设属性的值条件地独立)

1.用类标号计算出先验概率 P(Ci)

2.对每个不同的属性计算每个属性对应的P(X|Ci)

3.假设属性独立,计算基于类标号的P(X|Ci) (每一个独立相乘)

4.最终求出P(X|Ci)*P(Ci)的最大值


贝叶斯分类_第1张图片

三 .贝叶斯网络(已知类标号,联合概率分布,允许变量子集间定义类条件独立性)

分为两部分:无环图 和 条件概率表

    1. 无环图

   结点表示随机变量,弧表示概率依赖,弧前端是双亲节点,后端是后继,不在弧上的后继称为非后继

 例图:


贝叶斯分类_第2张图片

2. 条件概率表 

例:


贝叶斯分类_第3张图片
贝叶斯分类_第4张图片

四 ,训练贝叶斯信念网络

情况一:如果网络机构已知并且变量是可见的,训练网络直接计算CPT,与朴素贝叶斯涉及的计算概念类似

情况二:变量隐藏条件下,用梯度下降方法训练信念网络


贝叶斯分类_第5张图片

你可能感兴趣的:(贝叶斯分类)