概率图模型笔记(5)——structured CPDs

5.1 overview

5.1.1 提出问题
　　由于现实世界很多诸如变量太多、变量之间存在一些关系等情况，扁平化CPD表示方法行不通
5.1.2 解决模型
　　有例如确定性CPDs、树结构CPDs、逻辑CPDs&一般化、含有OR/AND噪声、线性高斯&一般化

5.2 Tree-Structured CPDs

5.2.1 普通树形CPD
　　树形CPD指叶子节点是CPD，内部节点是变量，变量指向CPD或变量，其边被称为弧，注意，该弧和贝叶斯网络的边不同。
　　例如：变量J依赖于A、S、L，其中，当A取0时J有一定的CPD，若A取1时J依赖于S的选择，若S取1时J有一定的CPD，反之S取0时J依赖于L。
5.2.2 普通树形CPD的独立性
　　如果给定证据所构成的路线不连接到某变量，那这个变量在给定的证据下是与最后的变量(即没有变量依赖的变量)独立。
5.2.3 选择型树形CPD
　　假设变量J依赖于变量L1、L2、C，当C取1时J依赖于L1，反之C取0时依赖于L2，则它们构成了一种带有选择性质的树形CPD，这种特殊的CPD有一些特别的性质。
5.2.4 选择型树形CPD的性质
　　(1)在给定变量C和J时，L1与L2相互独立，但如果只给定J，则L1与L2是不独立的，因为构成了V型共同作用迹。
　　(2)如果给定了C为1，也就可以认为J的CPD依赖于L1并独立于L2，反之亦然。也就是说，可以把C看成是一个选择器，决定J依赖于L1还是L2。
　　(3)这种CPD被称为一个多路复用器CPD。
5.2.5 一个微软操作系统错误检查的例子。
5.2.6 总结
　　树形CPD能有效捕捉变量之间的依赖关系，能有效减少所需建模的变量个数，有广大应用范围。

5.3 Independence of causal influence

5.3.1 Noisy or CPD
　　一个结果依赖多个原因的是否发生，原因之间相互独立，结果不发生的概率是所有原因不发生概率之积，发生概率为1减不发生的概率。
　　更精确的表示方法是给原因设立依赖于原因的中间变量，结果依赖此中间变量，中间变量揭示了原因发生的概率。
　　噪声参数：由特定原因引起结果的概率。
　　注意，也可能会有一些没有原因的变量影响了结果，例如无缘无故的咳嗽，它们也是被结果依赖的二值变量且没有父变量。
5.3.2 广义线性模型
　　将原因发生的变量线性组合起来，最后利用一个sigmoid或其他二值函数来给出结果是否发生。
　　当每个变量的权重越大，原因为真的变量越多，结果越有可能发生。同时增加权重可能会使二值函数变得陡峭。
5.3.3 因果影响的独立性：结果依赖原因是否发生，原因之间相互独立的CPD形式满足因果独立性。
　　可以在结果之前再加入一中间变量，它是原因是否发生变量的函数结果，同时我们也可以利用函数对这个变量进行一些刻画来影响最后的结果。

5.4 Continuous variables

5.4.1 连续变量
　　最常见的情况是，假设一个变量依赖于一些连续变量，且子变量服从均值取决于被依赖变量的线性组合的高斯分布，则称该模型为高斯线性模型。子变量方差不依赖于父变量。
5.4.2 条件高斯分布
　　如果上述假设中的子变量还依赖于一些离散变量，且这些离散变量决定了自变量分布的方差，则称该模型为条件高斯分布。
5.4.3 应用举例
　　(1)机器人移动位置探测：父变量是实际位置，子变量是探测器观测到的位置，观测器结果是均值为机器人实际位置的高斯分布，其方差取决于观测器精度。
　　(2)机器人移动位置预测：在上述模型的基础上引入一个新变量表示其移动轨迹与观测器的夹角，可以得到预测结果是一个中心浓密两边稀疏的香蕉型分布。