随机变量的数字特征（概率论常用知识）

随机变量的数字特征

本文内容主要参考自

1、《概率论与数理统计》第2版，徐全智、吕恕编，高等教育出版社；

2、黄庆明老师课件。

第一部分 数学期望

一、随机变量的数学期望

定义 1 设离散型随机变量的分布律为

若，则称

为随机变量的数学期望或均值。

 

定义 2 设连续型随机变量的概率密度为，若，则称

为随机变量的数学期望或均值。

 

二、随机变量的函数的数学期望

定理 1 设是随机变量的函数（是连续函数）。

（1）若是离散型随机变量，其分布律为

如果绝对收敛，则有

（2）若是连续性随机变量，其密度函数是，如果

则

利用定理1，我们可不必求出随机变量的分布（分布律或概率密度），直接利用随机变量的已知分布即可。

 

定理推广到多个随机变量的情况。

定理 2 设是二维随机变量，也是随机变量。

（1）若是离散型随机变量，其联合分布律为

则当时，

（2）若是连续型随机变量，其联合概率密度为，则当

有

 

三、数学期望的性质

（1）设是常数，则有；

（2）设是随机变量，是常数，则有；

（3）设、是两个随机变量，则有；

（4）设、是相互独立的随机变量，则有.

 

第二部分 随机变量的方差

一、随机变量的方差

定义 1 设是随机变量，若存在，则称

为的方差，称为的标准差（或均方差）。

方差是随机变量的数学期望，当是离散型随机变量，则

当是连续型随机变量，则

 

方差常用计算公式:

证

 

二、方差的性质

（1）若是常数，则;

（2）设随机变量的方差存在，是常数，有;

（3）设随机变量与的方差存在，有

又若与独立，则

（4）随机变量的方差为零的充分必要条件是以概率为1取常数，即

三、标准化随机变量

设随机变量的数学期望存在，方差，令

则有

其中，称为随机变量的标准化随机变量，

证

 

第三部分 协方差

一、协方差的定义

现描述两个随机变量之间关系的数字特征。

定义 1 若关于随机变量的数学期望存在，则称

为随机变量与的协方差。

特别有

另外，方差的性质（3），又可以写作

二、协方差的性质

（1）对称性：

（2）齐性：是常数;

（3）可加性：

常利用下述公式

三、协方差矩阵

定义 2 设n维随机变量的协方差存在，称矩阵

为n维随机变量的协方差矩阵。

协方差矩阵满足：

（1）

（2）

可见协方差矩阵是一个对称矩阵。

协方差矩阵说明随机向量X的各分量的分散情况，也可这样写：

其中，协方差矩阵的各分量为：

若i!=j，则λ_ij是X的第i个分量与第j个分量的协方差；

若i = j，则λ_ii是随机变量X_i的方差，即协方差矩阵的对角分量。

第四部分 相关系数

若随机变量的协方差及方差均存在，而且，则称

为随机变量与的相关系数。

上述公式可以写成下面的形式

即相关系数是与相应的标准化随机变量的协方差。

定义 若随机变量相关系数存在，且，则称、不相关；若，则称、正相关；若，则称、负相关。

需要特别指出：称随机变量与不相关，仅指它们不存在线性相关关系。

定理  如果随机变量与相互独立，则与不相关。

此定理的逆定理不存在。

 

补充：

若，可得到。

由于二维正态随机变量相互独立的充分必要条件是，亦即它们相互独立等价于它们不相关。

后续会添加一些对常见分布的总结，敬请期待

！