二维正态分布及其最大值、最小值、和项、差项的期望

待解决的概率论题目

来自《概率论与数理统计》荣腾中，第二版上的第四章A组习题11，我觉得这一题有一定难度。

概率论基本知识

1. $${\int }_{-\infty }^{+\infty }{e}^{-x^2}dx=\sqrt{\pi }\text{\hspace{1em}(1)}$$
2. $$f(x,y)=\frac{1}{2\pi {\sigma }_X{\sigma }_Y\sqrt{1-{\rho }^2}}\exp \left(-\frac{1}{2(1-{\rho }^2)}\left[\frac{(x-{\mu }_X{)}^2}{{\sigma }_X^2}-\frac{2\rho (x-{\mu }_X)(y-{\mu }_Y)}{{\sigma }_X{\sigma }_Y}+\frac{(y-{\mu }_Y{)}^2}{{\sigma }_Y^2}\right]\right)$$
3. $$E(aX+b)=aE(X)+b\text{\hspace{1em}(2)}$$
4. $$E(x)={\int }_{-\infty }^{+\infty }xf(x)dx\text{\hspace{1em}(3)}$$
   (1)式可以由夹挤定理和二重积分证明，也可以化为伽马函数$\Gamma (x)$¹进行计算，为了便于计算，这里给出一个广义的版本
   $${\int }_{-\infty }^{+\infty }{e}^{-a(x+b{)}^2}dx=\sqrt{\frac{\pi }{a}}\text{\hspace{1em}(4)}$$
   第2条是二元正态分布的概率密度函数，不得不说，课本上给出的这个形式让人有一种无法完成积分的感觉，这里稍微改变一下形式
   $$f(x,y)=\frac{1}{2\pi {\sigma }_X{\sigma }_Y\sqrt{1-{\rho }^2}}\exp \left[-\frac{1}{2(1-{\rho }^2)}{\left(\frac{y-{\mu }_Y}{{\sigma }_Y}-\rho \frac{x-{\mu }_X}{{\sigma }_X}\right)}^2-\frac{(x-{\mu }_X{)}^2}{2{\sigma }_X^2}\right]$$

解题方法

对于这种参数不是(0,1)的正态分布，不妨加强原题目，求解在一般情况下$(\mu ,\sigma )$的计算结果

解法一 线性变换法

题目已经给出了提示
$$max(X,Y)=\frac{X+Y+|X-Y|}{2}$$
$E(max(X,Y))=\frac{1}{2}E(X)+\frac{1}{2}E(Y)+\frac{1}{2}E(|X-Y|)=\frac{1}{2}{\mu }_X+\frac{1}{2}{\mu }_Y+\frac{1}{2}E(|X-Y|)$

这里引入一条可以由二重积分和特殊函数证明的引理：
正态分布的和或差仍然服从正态分布，
所以它的数学期望为$E(X\pm Y)=E(X)\pm E(Y)$，
方差为$D(X\pm Y)=D(X)+D(Y)\pm 2E\left[(X-E(X))(Y-E(Y))\right]=D(X)+D(Y)\pm 2\rho {\sigma }_X{\sigma }_Y$
这两个式子都可以由数学期望和方差的性质推出

利用性质计算差绝对值的数学期望
令Z=X-Y，这里令E(Z)=0²

$$\frac{1}{2}E(|Z|)=\frac{1}{2}{\int }_{-\infty }^{+\infty }|z|f(z)dz={\int }_0^{+\infty }\frac{z}{\sqrt{2\pi }{\sigma }_Z}exp\left(-\frac{z^2}{2{\sigma }_Z^2}\right)dz=\frac{{\sigma }_Z}{\sqrt{2\pi }}$$

$${\sigma }_Z=\sqrt{{\sigma }_X^2+{\sigma }_Y^2-2\rho {\sigma }_X{\sigma }_Y}$$

代入本题的数据可得
$$E(max(X,Y))=2+\sqrt{\frac{1-\rho }{\pi }}$$

解法二 积分法

直接莽就完事了，强行积分
$$E(max(x,y))={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }max(x,y)f(x,y)dxdy$$
$$=\int {\int }_{x>y}xf(x,y)dxdy+\int {\int }_{y>x}yf(x,y)dxdy$$
$$=\int {\int }_{x>y}(x-2+2)f(x,y)dxdy+\int {\int }_{y>x}(y-2+2)f(x,y)dxdy$$
$$=2{\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }f(x,y)dxdy+\int {\int }_{x>y}(x-2)f(x,y)dxdy+\int {\int }_{y>x}(y-2)f(x,y)dxdy$$
可以看出第一项等于2,第二三项$x$和$y$可以轮换，所以只计算一个即可,这里进行换元积分
$$变量代换u=x-2,v=\frac{(y-2)-\rho (x-2)}{\sqrt{1-{\rho }^2}}$$
$$则J\left(u,v\right)=\left|\frac{\partial \left(x,y\right)}{\partial \left(u,v\right)}\right|=\sqrt{1-{\rho }^2}$$
$$2\int {\int }_{x>y}(x-2)f(x,y)dxdy=\frac{1}{\pi }\int {\int }_{u>\sqrt{\frac{1+\rho }{1-\rho }}v}uexp(-\frac{u^2+v^2}{2})dudv$$
$$=\frac{1}{\pi }{\int }_{-\infty }^{+\infty }{\left|-exp(-\frac{u^2+v^2}{2})\right|}_{\sqrt{\frac{1+\rho }{1-\rho }}v}^{+\infty }dv={\int }_{-\infty }^{+\infty }exp(-\frac{\frac{1+\rho }{1-\rho }{v}^2+v^2}{2})dv$$
$$=\frac{1}{\pi }{\int }_{-\infty }^{+\infty }exp(-\frac{v^2}{1-\rho })dv=\frac{1}{\pi }\sqrt{(1-\rho )\pi }=\sqrt{\frac{1-\rho }{\pi }}$$
$$所以E(max(x,y))=2+\sqrt{\frac{1-\rho }{\pi }}$$

总结

• 概率论与数理统计课程一般不要求掌握这种带相关性的计算，最多也就是两个独立的正态分布求一些期望，这时没有相关系数$\rho$直接积分就可以了，也可以利用独立变量正态分布可加性³来计算

---

1. Gamma公式 $\Gamma (n)=(n-1)!\forall n\in \mathbb{N}$ 通过欧拉积分，有
   $$\Gamma (z)={\int }_0^{\infty }{t}^{z-1}{e}^{-t}dt.$$ ↩︎

2. 若E(Z)不等于0，需要用到erf(x)来计算这个积分，这样的积分并不是初等函数可以求解的$$erf(x)=\frac{1}{\sqrt{\pi }}{\int }_{-x}^x{e}^{-x^2}dx$$这里不展开讨论 ↩︎

3. 若$X\sim N({\mu }_1,{\sigma }_1^2),Y\sim N({\mu }_2,{\sigma }_2^2)$,且X,Y相互独立,那么
   $$aX+bY+c\sim N(a{\mu }_1+b{\mu }_2+c,a^2{\sigma }_1^2+b^2{\sigma }_2^2)$$ ↩︎