机器学习算法 | 贝叶斯网络

复习本次将用到的知识

  • 相对熵、互信息

朴素贝叶斯

贝叶斯网络的概况

  • 条件概率表参数个数分析
  • 马尔科夫模型

D-separation

  • 条件独立的三种类型
  • Markov Blanket

网络的构建流程

  • 混合(离散+连续)网络:线性高斯模型

Chow-Liu算法:最大权生成树MSWT

机器学习算法 | 贝叶斯网络_第1张图片

贝叶斯很快

SVM训练时间慢, 因为它的损失函数 *点不可导

机器学习算法 | 贝叶斯网络_第2张图片

机器学习算法 | 贝叶斯网络_第3张图片

机器学习算法 | 贝叶斯网络_第4张图片

机器学习算法 | 贝叶斯网络_第5张图片

机器学习算法 | 贝叶斯网络_第6张图片

机器学习算法 | 贝叶斯网络_第7张图片

正文:贝叶斯网络

机器学习算法 | 贝叶斯网络_第8张图片

机器学习算法 | 贝叶斯网络_第9张图片

机器学习算法 | 贝叶斯网络_第10张图片

循环就会很麻烦

机器学习算法 | 贝叶斯网络_第11张图片

箭头仅仅是相关,不独立。并不能表示因果关系

机器学习算法 | 贝叶斯网络_第12张图片

机器学习算法 | 贝叶斯网络_第13张图片

“正常”的贝叶斯网络

这是全连接的,两两都有边

机器学习算法 | 贝叶斯网络_第14张图片

获取上图那样一个概率,如果枚举是 2的5次方,如果存储中间的结果,可以中和空间和时间复杂度

例子:
机器学习算法 | 贝叶斯网络_第15张图片

这个计算所需最小参数数量,会找到规律

再举一个例子:
机器学习算法 | 贝叶斯网络_第16张图片

机器学习算法 | 贝叶斯网络_第17张图片

机器学习算法 | 贝叶斯网络_第18张图片

特殊的贝叶斯网络:马尔科夫模型

机器学习算法 | 贝叶斯网络_第19张图片

机器学习算法 | 贝叶斯网络_第20张图片

机器学习算法 | 贝叶斯网络_第21张图片

条件独立

机器学习算法 | 贝叶斯网络_第22张图片

机器学习算法 | 贝叶斯网络_第23张图片

机器学习算法 | 贝叶斯网络_第24张图片

比如第一个,如果中间的节点知道,得肺结核已知,那么X光情况确定,在这个城市呆的几率
都已经明确,是独立的

机器学习算法 | 贝叶斯网络_第25张图片

机器学习算法 | 贝叶斯网络_第26张图片

HMM

机器学习算法 | 贝叶斯网络_第27张图片

机器学习算法 | 贝叶斯网络_第28张图片

前面的条件独立 head to tail

机器学习算法 | 贝叶斯网络_第29张图片

机器学习算法 | 贝叶斯网络_第30张图片

贝叶斯网络的构建

机器学习算法 | 贝叶斯网络_第31张图片

机器学习算法 | 贝叶斯网络_第32张图片

机器学习算法 | 贝叶斯网络_第33张图片

机器学习算法 | 贝叶斯网络_第34张图片

这样工作量是巨大的,一般是用专家知识拟定。

混合网络

机器学习算法 | 贝叶斯网络_第35张图片

机器学习算法 | 贝叶斯网络_第36张图片

你可能感兴趣的:(ML)