期望、方差、协方差和矩

期望E

离散型随机变量

所有可能取值的一个加权平均

E[X]=∑x:p(x)>0xp(x)

连续型随机变量

E[X]=∫∞−∞xf(x)dx

方差Var

X与其期望的差的平方的期望

Var(X)=E[(X−μ)2]=E[X2]−(E[X])2

协方差Cov

期望和方差可以给出单个随机变量的信息，两个随机变量的协方差可指示两个随机变量之间的关系

Cov(X,Y)=E[(X−E(X))(Y−E(Y))]=E[XY]−E[X]E[Y]

相关系数

设X, Y为两个随机变量，假定Var(X)和Var(Y)均大于0，则

ρ(X,Y)=Cov(X,Y)Var(X)Var(Y)√
称为X和Y的相关系数

矩

数学期望和方差可以纳入到一个更一般的概念范畴中，那就是随机变量的矩。
设X为随机变量，k为正整数，如果 E(Xk) 存在，则称 E(Xk) 为X的k阶原点矩
如果 E[(X−E(X))k] 存在，则称 E[(X−E(X))k] 为X的k阶中心矩
显然，一阶原点矩就是数学期望，二阶中心矩就是方差