矩阵分解与应用(张贤达)day3

1、随机向量

由随机变量组成的向量称为随机向量。随机向量可分为实随机向量和复随机向量。

1.1概率密度函数

描述随机向量的统计函数有累积分布函数、概率密度函数、均值函数和协方差函数等。

        1. 实随机向量的概率密度函数。

        一个含义 m 个随机向量的实值向量

x(\xi ) = [x_{1}(\xi), x_{2}(\xi), \cdot \cdot \cdot , x_{m}(\xi)]^{T}

        称为 m\times 1 实随机向量,或简称随机向量。其中,\xi 表示样本点,例如它可以是时间 t,圆周率 f,角频率 w或位置 s 等。

        一个随机向量所以元素的联合累积分布函数常用符号 F_{x}(x_{1}, x_{2}, \cdot \cdot \cdot , x_{m}) 表示,联合概率密度函数常用 f_{x}(x_{1}, x_{2}, \cdot \cdot \cdot , x_{m}) 作符号。为了简化,令F(x) = F_{x}(x_{1}, x_{2}, \cdot \cdot \cdot , x_{m}) 和 f(x) = f_{x}(x_{1}, x_{2}, \cdot \cdot \cdot , x_{m})。一个随机向量由它的联合累积分布函数或联合概率密度函数完全描述。一组概率的集合函数

F(x) = P\begin{Bmatrix} \xi : x_{1}(\xi)\leq x_{1}, x_{2}(\xi)\leq x_{2}, \cdot \cdot \cdot , x_{m}(\xi)\leq x_{m} \end{Bmatrix}

定义为向量 x(\xi) 的联合累积分布函数,简称分布函数。式中,x_{i} 为实数。

        随机向量 x(\xi) 的(联合)概率密度函数定义为

矩阵分解与应用(张贤达)day3_第1张图片

         联合概率密度函数的 m - 1 重积分函数

f(x_{i}) = \int_{-\infty }^{\infty } \cdot \cdot \cdot \int_{-\infty}^{\infty}f_{x}(x_{1}, x_{2}, \cdot \cdot \cdot , x_{m})d_{1} \cdot \cdot \cdot dx_{i - 1}dx_{i + 1}\cdot \cdot \cdot dx_{m}

 称为随机变量 x_{i} 的边缘概率密度函数。

定义:随机变量 x_{1}(\xi), x_{2}(\xi), \cdot \cdot \cdot x_{m}(\xi) 称为联合独立,若对于 m 个事件 \begin{Bmatrix} x_{1}(\xi) \leq x_{1} \end{Bmatrix}, \begin{Bmatrix} x_{2}(\xi) \leq x_{2} \end{Bmatrix}, \cdot \cdot \cdot ,\begin{Bmatrix} x_{m}(\xi) \leq x_{m} \end{Bmatrix},有概率关系

P\begin{Bmatrix} x_{1}(\xi) \leq x_{1},\cdot \cdot \cdot , x_{m}(\xi) \leq x_{m} \end{Bmatrix} = P\begin{Bmatrix} x_{1}(\xi) \leq x_{1} \end{Bmatrix} \cdot \cdot \cdot P\begin{Bmatrix} x_{m}(\xi) \leq x_{m} \end{Bmatrix}

 成立。这意味着

F(X) = F_{x}(x_{1}, x_{2}, \cdot \cdot \cdot, x_{m}) = F_{x_{1}}(x_{1})F_{x_{2}}(x_{2}) \cdot \cdot \cdot F_{x_{m}}(x_{m})

f(X) = f_{x}(x_{1}, x_{2}, \cdot \cdot \cdot, x_{m}) = f_{x_{1}}(x_{1})f_{x_{2}}(x_{2}) \cdot \cdot \cdot f_{x_{m}}(x_{m})

即有:若 m 个随机变量的联合分布函数(或联合概率密度函数)等于各个随机变量的边缘分布函数(或边缘概率密度函数)之积,则这 m 个随机变量是联合独立的。为了与线性独立(即线性无关)相区别,随机变量之间的独立被称为统计独立

  

你可能感兴趣的:(矩阵,线性代数,机器学习)