Proof of Conditional Independence 条件独立的证明和等式推导

条件独立，即在贝叶斯网的同父结构中：若父节点取值确定了，那么子节点相互之间满足条件独立；若父节点取值未确定，那么子节点之间不独立。即Z=z1时，P(X|Z=z1)=P(X|Y,Z=z1)。

如果等式1: P(X|YZ)=P(X|Z)成立，即Y是什么，都不会影响X的belief(信念)。那么X，Y相互独立。

举例个日常的例子，什么是不确定父节点的情况，什么是确定父节点的情况。

• 不知道父亲结点：发生了一起命案，作为侦探的你觉得嫌疑人是X。你作出了一条爆炸的凭空猜测，猜测儿子结点X的职业有P(X)的可能性是医生，你不知道他的父亲Z的职业，但你突然得到一个消息，X的兄弟Y是医生，那么这个信息是不是就会让你反向推测X的父亲Z很有可能是从事医学相关的职业。所以，Y是医生的这条信息使得作为兄弟结点的X是医生的这条信息听起来了更合理了，X是医生的这条信息听起来不那么爆炸了，信息量I减少了，那么信息量的定义-log(P(X))减少，反推其实是P(X)增加，从而Y改变了P(X)的值。X，Y不相互独立。
• 知道父亲结点：你已经知道了儿子结点X的父亲Z是一个医生，并且猜测X的职业有P(X)的可能性是医生，这个时候你突然得到了一个消息，X的兄弟Y是医生。此时你只能说Y的父亲是医生，我早就知道了啊，对X是什么职业没有影响。所以X，Y相互独立。

与之相对的，marginal independence边界独立性，是指在Z（儿子结点）的取值不确定时，XY（父节点）相互独立。在贝叶斯网络的V型结构中，如果子节点不确定，那么父节点之间满足边界独立性。

同样举例个日常的例子，你希望儿子身高180，如果儿子确定了，那么要生出这个儿子，要有对应身高基因的父母才行，为了让儿子的身高基因得到保证，那么假如父亲的身高基因弱一点，母亲的身高基因就要强一点。所以这个时候，父母是什么基因，就不相互独立决定了，他们之间有关联了。而如果，你不确定儿子的身高，那么父母就可以随便组合了，父母之间就是相互独立的。