矩估计中需要的概率论与数理统计知识（一）

主要参考如下：

http://www.cnblogs.com/v-July-v/archive/2012/12/17/3125418.html

疑问解析：

1、连续型随机变量的分布函数、概率密度函数及相关统计知识

实际中，对于离散型随机变量而言，其所有可能的取值可以一一列举出来，

可对于非离散型随机变量，即连续型随机变量X而言，其所有可能的值则无法一一列举出来，（但大部分研究问题都针对连续型随机变量）

故连续型随机变量也就不能像离散型随机变量那般可以用分布律来描述它(连续不一定可导，但可导一定连续)？

 （1）分布函数

既然无法研究其全部，那么我们可以转而去研究连续型随机变量所取的值在一个区间（x1，x2] 的概率：P{x1 < X <=x2 }，同时注意P{x1 < X <=x2 } = P{X <=x2} - P{X <=x1}，故要求P{x1 < X <=x2 } ，我们只需求出P{X <=x2} 和 P{X <=x1} 即可。

针对随机变量X，对应变量x，则P(X<=x) 应为x的函数。如此，便引出了分布函数的定义。

定义：随机变量X，对任意实数x，称函数F(x) = P(X <=x ) 为X 的概率分布函数，简称分布函数。

（2）概率密度函数

定义：对于随机变量X的分布函数F(x)，若存在非负的函数f(x)，使对于任意实数x，有：

 则称X为连续型随机变量，其中f(x)称为X的概率密度函数，简称概率密度。

（3）数学期望

如果X是在概率空间（Ω, P）中的一个随机变量，那么它的期望值E[X]的定义是：

并不是每一个随机变量都有期望值的，因为有的时候这个积分不存在。如果两个随机变量的分布相同，则它们的期望值也相同。

而对于一个连续型随机变量来说，如果X的概率分布存在一个相应的概率密度函数f（x），若下列积分绝对收敛，那么X 的期望值可以计算为：

（4）方差

  在概率论和统计学中，一个随机变量的方差（Variance）描述的是它的离散程度，也就是该变量离其期望值的距离。一个实随机变量的方差也称为它的二阶矩或二阶中心动差，恰巧也是它的二阶累积量。方差的算术平方根称为该随机变量的标准差。