7.5 贝叶斯网

7.5 贝叶斯网

  • 贝叶斯网又叫做信念网,它借助无环图来刻画属性之间的也来关系,并且使用条件概率表来描述属性的联合概率分布

具体来说,一个贝叶斯网B由结构G和参数谁他两部分构成,即B={G,谁他},网络结构G是一个有向无环图,其每个节点对应于一个属性,若两个属性有直接以来关系,则他们由一条边连接起来;参数谁他定量描述了这种依赖关系,假设属性Xi 在G中的父节点集是 Πi,则谁他包含了每个属性的条件概率 谁他xi | Π i =Pb(x i |Π i)

作为一个例子,图7.2给出了西瓜问题的一种贝叶斯网结构和属性“根蒂”的条件概率表,从图中网络结构可以看出来:“色泽”直接依赖于“好瓜”和“甜度”,而“根蒂”直接依赖于甜度,进一步哦操你个条件概率表中可以得到“根蒂”对“甜度”的量化依赖关系,如 P( 硬挺 | 高) =0.1 等

7.5.1 结构

  • 贝叶斯结构有效的表达了属性间的条件独立性,给定父结点集,贝叶斯网假设每个属性与它的非后裔属性独立,于是 B={G,谁他},将属性x1,x2,x3,xd的联合概率分布定义为

    Pb(x1,x2……x5) =P(x1)P(x2)P(x3 |x1) P(x4 |x1,x2)P(x5|x2)

    显然, x3和x4在给定x1的取值时独立,x4和x5在给定x2取值的时候独立,分别简单的记作 x3和 x4独立在x1给定的时候,x4 和x5 在x2给定的额时候独立、

    同父结构 V型结构 顺序结构

    在同父结果后中,给定父节点x1的取值,则x3和x4相互独立,在“顺序”结构中,给定x的取值,则y和z条件独立,V型结构中,也叫做冲撞结构,给定子节点x4的取值,x1和x2必定不独立。奇妙的是,如果x4的取值完全未知,则V型情况下,x1和x2确实相互独立的,我们可以做一个简单的验证。

​ P(x1,x2)= 求和 P(x1,x2,x4)

​ = 求和 P(x4 | x1,x2) * P(x1) * P(x2)

​ = P(x1) *P(x2)

  • 这样的独立性称之为 “边际独立性” 记作 x1 边际独立于 x2

事实上,一个变量的取值的正确与否,能对另外两个变量之间的独立性发生影响,这个现象并非V型结构独特有,例如,在同父结构中,条件独立性 x3 和x4 依赖于x1,但是如果x1的取值未知,则x3和x4就不独立,即x3和x4不是边际独立。则顺序结构中,在x确定的时候y和z独立,但是y和z不是边界独立

为了分析有向图中变量间的条件独立性,可以使用“有向分离”,我们先把有向图转变为一个有向图赚百万内一个无向图

  • 找出有向图中的所有V型结构,在V型结构的两个父节点之间加上一条无向边
  • 将所有有向边改为无向边

由此产生的无向图称为“道德图”,令父节点相连的过程称之为道德化

基于道德图能够直观,迅速的找到变量之间的条件独立性,假定道德图中有变量x,和y和集合变量z={zi},若变量x和y能够在图上焙z分开,则从道德图中将集合变量z去除后,x和y分属于两个连通的分支,则称x和y被z有向分离,x和y在z给定的时候,独立成立。例如,图7.2所对应的道德图如7.4所示,在图中能够容易的找到所有条件独立关系

你可能感兴趣的:(机器学习,数据结构,人工智能,python)