随机过程 Class 3 条件期望

在开始本节课之前，本着概率论的逻辑，我们首先来定义概率空间$(\Omega ,\mathcal{F}，P)$，其中$A\in \mathcal{F}$为样本空间中的事件。

---

随机变量关于随机变量的条件期望

下面给出条件概率和条件期望的定义：
定义：条件概率，条件分布函数，条件期望

1. 设$X,Y$是离散型随机变量,对给定的$y$，若$P\{Y=y\}>0$，则称
   $$P\{X=x|Y=y\}=\frac{P\{X=x,Y=y\}}{P\{Y=y\}}$$
   为给定$Y=y$时$X$的条件概率。
   
   此时$Y=y$,$X$的分布函数为：
   $$F(x|y)=P\{X\le x|Y=y\},x\in R$$
   X的条件期望为:
   $$E[X|Y=y]=\int xdF(x|y)=\sum _{x}xP\{X=x|Y=y\}$$
2. 若$X,Y$是连续型随机变量，
   其联合概率密度为$f(x,y)$，
   则对一切使$f_Y(y)>0$的$y$，给定$Y=y$时，
   $X$的条件概率密度定义为:
   $$f(x|y)=\frac{f(x,y)}{f_Y(y)}$$
   给定$Y=y$时，$X$的条件分布函数为:
   $$F(x|y)=P\{X\le x|Y=y\}={\int }_{-\infty }^{x}f(u|y)du,$$
   而给定$Y=y$时，$X$的条件分布期望定义为:
   $$E[X|Y=y]=\int xdF(x|y)=\int xf(x|y)dx$$

注：

1. $X,Y$都是随机变量，实则是从样本空间$\Omega$到实数轴$R$上的映射。而$x,y$是什么呢？是映射的像值,是$R$上的一个定值。
   
2. $E(X|Y)$对于每一个随机变量$Y$的取值$y$有一个取值，因而我可以将$E(X|Y)$看做是有关随机变量Y 取值$y$的函数$h(y)$。
   ($h(Y)$和$h(y)$不太一样，$h(Y)$是由$Y$和$h$复合而成的从样本空间$F$到$R$上的映射，而$h(y)$仅仅是从$R$到$R$上的映射。)
   $$\begin{array}{rl}h(Y):& F\stackrel{Y}{⟶}R\stackrel{E(X|Y)}{⟶}R\\ & A\stackrel{Y}{⟶}y\stackrel{E(X|Y)}{⟶}E(X|Y=y)\end{array}$$
   $$\begin{array}{rl}h(y):& R\stackrel{E(X|Y)}{⟶}R\\ & y\stackrel{E(X|Y)}{⟶}E(X|Y=y)\end{array}$$
3. 在$X,Y$为连续型随机变量时，对$y$要求$f_Y(y)>0$，目的是为了使得条件概率密度函数$f(x|y)=\frac{f(x,y)}{f_Y(y)}$有意义。但是其实如果$f_Y(y)=0$，我们也能够有计算的方法：
   但是这要用到测度论的内容，这个因为还没有学到严谨的定义，因而日后在开 这个坑。

在上面注记2中，我们注意到$h(Y)=E(X|Y)$其实也是一个随机变量，在这里我们给这个特殊的随机变量一个名字，称之为X对Y的条件数学期望。(注意$h(y)$本身并不是一个随机变量)。

对于多元情形$h(Y_1,Y_2,...,Y_n)E(X|Y_1,Y_2,...,Y_n)$和刚刚的一元情形实际上是类似的，记
$h(y_1,y_2,...,y_n)=E(X|Y_1=y_1,Y_2=y_2,...Y_n=y_n)$

---

随机变量关于子$\sigma -$代数的条件期望

Questions:

1. 什么叫做$\mathcal{A}$-可测？
   实数上的任何博雷尔可测集在$X$下的原像属于$\mathcal{A}$，那么就称$X$是$\mathcal{A}$可测的。
2. 什么叫做可积随机变量？
   $R$上任意$Borel$集在随机变量$\xi$的映射原像为$\mathcal{F}$中$\sigma -$代数中的事件，那么称随机变量$\xi$可测。
   通过该映射我们可以建立起对应于$(\Omega ,\mathcal{F},P)的$$(R,\xi )$上的度量$(R,\mathcal{B},P(\cdot ))$，
   我们之前考虑的概率分布函数$F(x)=P(\xi \le x)$其实就生成了$(R,\mathcal{B})$上的度量$P(\cdot )$,有了度量空间$(R,\mathcal{B},P(\cdot ))$,我们就能够在其上计算积分$\sum xP(x)=\int xdF(x)$，所谓可积随机变量，其实是随机变量可积。也就是指其期望存在。
3. $E[\xi |B]=E[\eta |B]$这个数学表述的具体含义用文字表述是什么？
4. $$(\Omega ,\mathcal{F},P(\cdot ))\stackrel{X(r.v.)}{⟶}(R,\mathcal{B},F_X)\stackrel{g(\cdot ):R\to R}{⟶}(R,\mathcal{B},F_{g(X)})$$
   在这个映射作用下，那些信息被保留了下来，作为整个传递过程的不变量？那些信息在传递过程中流失了？
   (在映射过程中，只要求像空间中$\sigma -$代数中元素的原像是原像空间中的$\sigma -$代数中元素，但是原像空间中的$\sigma -$代数中元素的像未必是像空间中$\sigma -$代数中元素。例子：可测函数中，原像中的可测集可能映射为像空间中的不可测集，比如常值函数。)

注：
1)$\xi$关于$\mathcal{A}$的条件数学期望$E[\xi |\mathcal{A}]$是一个随机变量
2) $\mathcal{A}$是一个$\sigma -$代数，同时其本体也就是一个集族。