数学基础-条件期望

最近在上一门stochastic calculus的课程，其中第一次碰到了概率空间上条件期望[conditional expectation, wikipedia]的概念，刚开始觉得有些难以理解和接受，仔细想了想有了一些心得体会，在这里分享一下。

首先是条件期望的定义：

这里的随机变量X是一个从概率空间\Omega到欧式空间R^n的可测函数，它的条件期望E[X|HH](我用HH表示花H)首先是一个HH-可测的函数，另外满足在任何H上的积分等于X在H上的积分。由这两个条件限制得到的条件期望是存在唯一的(在几乎处处相等的意义下)，但是这么定义的条件期望是什么呢？

若HH={empty,\Omega}。

也即HH是\Omega上最小的Borel代数，只有两个元素，空集和全空间。E[X|HH]满足两个条件，一是在HH上可测，二是在H上的积分等于X在H上的积分。首先看第一个，在HH={empty,\Omega}上的可测函数只有常值函数，可以考虑用反证法，若值域中有两个不同的点，先找到开集V1,V2将两个点分离，那么V1,V2的原像是两个互不相交的非空可测集，这不可能。所以E[X|HH]是常函数。下面再看第二个条件，考查在H上的积分，H只有两个选择，空集上的积分无意义，所以只剩下全空间上的积分，条件二便等价于常值在全空间上的积分等于X在全空间上的积分，因此常值函数E[X|HH]就是期望E[X]。

若HH={empty, A, B, \Omega}。(B是A的补集)

此时HH除了空集、全空间之外还有A和A的补集。那么首先HH上的可测函数都可以写成a*1_A+b*1_B，即为A、B上特征函数的线性组合，证明方法与上面类似，首先可证像集中最多有两个点，同样用反证法。条件二考查在HH中可测集上的积分，即H可取A、B与全空间，而在A和B上，E[X|HH]分别是常值，取H=A，可得a*P(A)=\int_A X dP，即a=(\int_A X dP)/P(A)，即为X在A上的积分除以A的概率，同样地可得b有相似的形式。

若HH是有限集，或者更一般地，存在有限个可测集H1,...,Hn使得它们互不相交，且并为全空间，且每个Hi都没有比它更小的可测集。

这时，HH上的可测函数都可以写为a1*1_H1+...+an*1_Hn。首先HH上的所有简单函数都有这样的形式，变化的就是这些系数ai，于是它们组成了一个有限维空间，而可测函数可以由简单函数点态逼近，而有限维空间的闭还是它自己，故证毕。在由条件二，分别令H=Hi，可以得到ai为X在Hi上的积分除以Hi的概率，即ai=(\int_Hi X dP)/P(Hi)，与我们一般所熟知的离散情况具有类似的形式。

当然上面所讨论的HH都具有某种“有限”性，对于一般的HH，表达形式更为复杂，甚至写不出来，但是希望上面的讨论可以帮助你有一定的感觉，更好地理解它。