【课程整理】随机系统期末整理

部分思维导图如下，私信发送html完整版

---

1 概率论部分 (1-4)

概率空间

• 概率空间的三要素：($\Omega ,\mathcal{F},P)$ $\Rightarrow$ (样本，事件，概率测度)

• 样本：实验的实际结果

• 事件：样本空间的一个子集，可以理解为使用一个谓词对样本的归类/判别

  • $\sigma$​域

    • 要求定义的事件空间是一个$\sigma$域，应该满足的条件：

      1. $\varnothing \in \mathcal{F}$
      2. if $A\in \mathcal{F}$, then $A^c\in \mathcal{F}$
      • $\mathcal{F}$ 中元素的个数一定偶数
      3. if $A_1,A_2,...\in \mathcal{F}$, then ${\cup }_{i=1}^{\infty }{A}_i\in \mathcal{F}$

    • $\sigma$域体现了对样本辨别的精度: 原子(atom)事件的精度

    • 最小 $\sigma$ 域

      • $\{\varnothing ,\Omega \}$.

• 概率测度：将事件映射到概率的函数 $P:\mathcal{F}\to [0,1]$，满足以下性质：

  1. $P(\varnothing )=0,P(\Omega )=1$.
  2. $P({\cup }_{i=1}^{\infty }{A}_i)={\sum }_{i=1}^{\infty }P(A_i)$.

随机变量

• 定义: $X:\Omega \to \mathbb{R}$ 对实验结果的观测函数

• $\mathcal{F}$-Measurable: 任何一个$B\in \mathcal{B}(\mathbb{R})$都能找到一个事件$X^{-1}(B)$与之对应 $\Rightarrow$ 随机变量的设置应是在事件空间可辨别的

  • Borel $\sigma$-field $\mathcal{B}(\mathbb{R})$: 包含所有左开右闭的子集的唯一最小$\sigma$域

• 概率测度: 将随机变量的范围(Borel set)映射为概率的函数 $P_X:\mathcal{B}((R))\to [0,1]$.

  • $P_X(B):=P(X^{-1}(B))$

• 根据随机变量定义的事件空间($\sigma$-field): $\sigma (X)=\{X^{-1}(B):B\in \mathcal{B}(\mathbb{R})\}$.

  • 随机变量的设置取决于事件空间的分辨能力

• 独立性

  • 随机变量的独立性: 随机变量的取值不相互影响 $\{X\in A\}$ 与 $\{Y\in B\}$ 相互独立

  • 事件空间的独立性：两个sigma域讨论的不是同一个东西，任意两个事件提供的信息不重合 $A\in \mathcal{G}$ 和 $B\in \mathcal{H}$ 相互独立

  • 随机变量的独立本质上是对应的事件空间的独立

• 无关性

  • 两个随机变量是否线性相关

  • 评价指标

    • 协方差covariance:

      • $cov(X,Y)=E((X-E(X))(Y-E(Y)))=E(XY)-E(X)E(Y)=0$.

    • 相关系数 correlation

      • $\rho (X,Y)=E\left[\left(\frac{E(X-E(X))}{\sqrt{var(X)}}\right)\left(\frac{E(Y-E(Y))}{\sqrt{var(Y)}}\right)\right]=\frac{cov(X,Y)}{\sqrt{var(X)var(Y)}}=0$.

概率分布

• CDF 累计分布函数 $F_X:\mathbb{R}\to [0,1]$.

  • $\forall x\in \mathbb{R}:F_X(x)=P(X\le x)=P_X((-\infty ,x))$.

  • $F_X$的3条性质

    • 左0右1
    • 单调递增
    • 右连续 (连续随机变量的CDF左右连续)

• 概率质量/密度函数

  • 离散 PMF: $p_X(x)=P(X=x)$

  • 连续 PDF: $f_X(x)$的特性

    • 积分为1，处处非负 ${\int }_{\mathbb{R}}{f}_X(x)dx=1$.
    • 特定一点概率为0, 可数集合概率为0

• 联合概率分布

  • 联合CDF

    • $F_{XY}(x,y)=P(X\le x,Y\le y)$.
    • X,Y独立的充要条件
      • $F_{XY}(x,y)=F_X(x)F_Y(y)$.
    • 独立同分布(i.i.d.)
      • $P_{X_i}=P_{X_j}\forall i,j$.

  • 联合PMF

    • $p_{XY}(x,y)=P(X=x,Y=y)$

  • 联合PDF

    • 连续随机变量独立的充要条件
      • $f_{XY}(x,y)=f_X(x)f_Y(y)$.

随机变量的函数仍然是随机变量

• 期望 $E(X)$
• 方差 $var(X)=E((X-E(X){)}^2)=E(X^2)-E^2(X)$.
• $k$阶矩 $E(X^k)$
• $k$阶中心矩 $E((X-E(X){)}^k)$

条件期望

• 条件概率 由 $P(B|A)=\frac{P(A\cap B)}{P(A)}$.

  • 贝叶斯公式

    • $P(A_i|B)=\frac{P(B|A_i)P(A_i)}{\sum _{i=1}^{n}P(B|A_i)P(A_i)}$.

  • 条件PMF: $p_{Y|X}(y_i|x_i):=\frac{p_{XY}(x_i,y_i)}{p_X{x}_i}$ .

  • 条件PDF: $f_{Y|X}(y|x):=\frac{f_{XY}(x,y)}{f_X(x)}$.

• 随机变量的条件期望

  • $E(Y|X=x_i)=\sum _{y_j\in D_Y}{y}_i{p}_{Y|X}(y_i|x_1)$ 是一个具体的值

  • $E(Y|X)$ 是一个与X取值相关的随机变量

  • 特性

    • $\sigma (X)$-measurable: 可以将Y理解为对X值的观测，Y不可能比X看得更仔细

    • ${\int }_{\{X=x_i\}}E(Y|X)dP={\int }_{\{X=x_i\}}YdP$.

  • 全期望公式: $E(Y)=E(E(Y|X))$

    • $(X-E(X|Y))$ 和任意 $Y$ 的函数 $g(Y)$ 正交

• $\sigma$ 域的条件期望

  • 线性

    • $E(aX+bY|\mathcal{G})=aE(X|\mathcal{G})+bE(Y|\mathcal{G})$

  • 独立性

    • 如果 $X$ 与 $\mathcal{G}$ 无关，则 $E(X|\mathcal{G})=E(X)$

  • 过滤性

    • 如果 $\mathcal{H}\in \mathcal{G}$ ($\mathcal{G}$ 更精细)，则 $E(E(X|\mathcal{G})|\mathcal{H})=E(X|\mathcal{H})$

  • 已知变量可提

    • 只要 $\mathcal{G}$ 给定, $E(X|\mathcal{G})=X$
    • 只要 $\mathcal{G}$ 给定, $E(XY|\mathcal{G})=XE(Y|\mathcal{G})$

---

2 随机过程 (5-7)

随机过程

• 定义

  • 随机变量的时间序列

• Filtration

  • 已知信息随时间变化的过程

  • $\sigma$域的描述精度随时间逐渐变精细 ${\mathcal{F}}_1\subseteq {\mathcal{F}}_2\subseteq \dots \mathcal{F}$.

• $\{F_n\}$-adapted process

  • 任何$X_n$都${\mathcal{F}}_n$可测

Martingale

• 定义: 满足以下条件的随机过程$\{X_n\}$称之为鞅

  • $\{F_n\}$-adapted
  • 期望有界 $E(|X_n|)<\infty$.
  • 期望不变 $E(X_n|{\mathcal{F}}_{n-1})=X_{n-1}$ .

• Martingale Transform

  • 使用随机过程$\{C_n\}$对Martingale $\{X_n\}$进行加权
  • 权值的随机过程是一个gambling strategy
  • Previsible Random Process: 能用${\mathcal{F}}_{n-1}$的信息决定$n$时刻的押注$C_n$
  • CANNOT BEAT THE SYSTEM: $\{(C\cdot X{)}_n\}$仍然是一个Martingale

• 性质

  • $E(X_n)=E(X_0)$.

停时

• 定义: 在某种策略下停止时间的取值，是一个随机概率，事件$\{\tau =n\}$能在${\mathcal{F}}_n$下进行分辨

  • $\forall n=1,2,\cdots :\{\tau =n\}\in {\mathcal{F}}_n$.

• Stopped process: 被停时截断的随机过程 $X_n^{\tau }$.

• 基础停时定理: 被停时 $\tau$ 截断的Martingale $X_n^{\tau }$ 仍是Martingale

• Doob选择停时定理 <停时随机变量期望的传递性>

  • Super-Martingale的传递性：如果随机过程$X_n$是一个super-martingale,则截断过程$X_n^{\tau }$也是super-Martingale, 满足$E(X_{\tau })\le E(X_1)$

  • Martingale的传递性: 如果随机过程$X_n$是一个Martingale,且以下满足以下条件之一，则截断过程也是Martingale

    • $\tau$有界
    • $X$ 有界
    • $E(\tau )$有界且$|X_n(\Omega )-X_{n-1}(\Omega )|$有界

• 鞅的应用

  • 构造Martingale $\{S_n\}$并运用$E(S_{\tau })=E(S_1)$.

马尔科夫链

• MC

  • 状态: $S=\{0,1,2,...\}$

    • 暂态: 不能再有限时间内无穷次回到状态$i$

      • $k\to \infty ,P(T_i^k<\infty |X_0=i)\to 0$.

    • 常返态: 能在有限时间内$k$次回到状态$i$

      • $\forall k\ge 1,P(T_i^k<\infty |X_0=i)=1$.

  • 转移矩阵

    • 单步转移

      • Markov性: $P(X_{n+1}=i|X_0,\dots ,X_n)=P(X_{n+1}=i|X_n)$.
      • time-homogeneous: $P(X_{n+1}=j|X_n=i)=P(X_{m+1}=j|X_m=i)$.
      • $\mathbb{P}=[P_{ij}{]}_{i,j\in S}$, $P_{ij}=P(X_{n+1}=j|X_n=i)$.

    • 多步转移

      • $P_{ij}^{(n)}=P(X_{n+m}=j|X_m=i)$.

      • Chapman-Kolmogorov等式: m+n步转移概率与中间状态无关

        • $P_{ij}^{m+n}=\sum _{k\in S}{P}_{ik}^{(m)}{P}_{kj}^{(n)}$.

    • irreducible

      • $\exists n,P_{ij}^{(n)}>0,\forall i,j$

• 分布的演化

  • 状态概率分布向量

    • ${\pi }^{(n)}=({\pi }_0^{(n)},{\pi }_1^{(n)},\dots )$, 其中${\pi }_i^{(n)}$是$n$时刻状态为$i$的概率.

  • 稳态分布

    • $\pi =\pi \mathbb{P}$ 的解

      • 状态输入与输出达到了平衡
      • 方程的解并非一定唯一
        • 如果MC为reducible, 则稳态将与初始状态有关
      • 方程的解也并非一定存在

    • 特殊形式：极限分布

      • $\forall i,j\in S:{\pi }_j=\underset{n\to \infty }{\lim }{P}_{ij}^{(n)}$. 从任意状态$i$无限时间后落在转态$j$的概率
      • 与初始状态无关的状态分布：无限步转移矩阵的每一行都是一样的
      • 存在则唯一

  • Limit Behavior

    • Assumptions

      • I: irreducible 状态间相互连通

      • A: aperiodic 每个状态的返回时间无周期性

      • R: 所有状态都是常返状态

      • S: 稳态分布存在

    • Convergence Theorem

      • I+A+S $\Rightarrow \quad n\rightarrow \infty, P^{(n)}_{ij}\rightarrow \pi_j $.

      • I+S $\Rightarrow \quad n\rightarrow \infty, \frac{1}{n} \sum\limits_{k=1}^{n}P{(k)}_{ij}\rightarrow \pi_j $.

    • Asymptotic Frequency

      • I+R $\Rightarrow n\to \infty ,\frac{N_n(i)}{n}\to \frac{1}{E(T_i|X_0=i)}$.

    • Expected Return Time

      • I+S $\Rightarrow n\to \infty ,{\pi }_i=\frac{1}{E(T_i|X_0=i)}$.

---

3 参数估计 (8-10)

参数估计问题

• 组成

  • 观测 $X=(X_1,\dots ,X_n)\in \mathcal{X}$.
  • 参数向量 $\theta =({\theta }_1,\dots ,{\theta }_p)\in \Theta$
  • 概率测度模型 $P_{\theta }:\mathcal{B}({\mathbb{R}}^n)\to [0,1]$.

• 估计方法

  • 贝叶斯估计

    • 在已知先验知识的情况下，用观测数据修正先验知识，根据后验来优化代价

  • 非随机估计

    • 无先验知识的情况下，

充分统计量

• 定义

  • 在已知充分统计量的情况下，概率分布函数能够用充分统计量完全表达，而与参数$\theta$无关

  • $P_{\theta }(X_1\le x_1,\dots ,X_n\le x_n|T(X)=t)=G(x,t)$.

• Neyman-Fisher分解

  • 如果 $T=T(X)$ 是充分统计量，则概率密度函数$f_X(x|\theta )$能够分解为只与观测有关的$h(x)$和只与参数和统计量有关的$g(T(x),\theta )$.

贝叶斯估计

• 先验信息

  • $f(\theta )$: 虽然不知道$\theta$的值，但知道$\theta$取值的分布

• 后验信息

  • 得到观测信息后，根据贝叶斯规则对$\theta$的分布进行进一步修正

  • $f(\theta |x)=\frac{f(x,\theta )}{f(x)}=\frac{f(x|\theta )f(x)}{f(x)}$

• 估计代价 $\text{cost}(\hat{\theta }(x),\theta )$

  • 最优贝叶斯估计器

    • $\hat{\theta }=\underset{\hat{\theta }\in \Theta }{\mathrm{argmin}}E(\text{cost}(\hat{\theta },\theta ))$ 代价期望最小
    • 估计器的形式取决于$\text{cost}$的选择

• 条件期望估计器 (CME)

  • 优化目标

    • 平方误差 $\text{cost}(\hat{\theta },\theta )=|\hat{\theta }-\theta {|}^2$.
    • 均方误差 $MSE(\hat{\theta })=E(|\hat{\theta }-\theta {|}^2)$

  • 估计器: 平均值

    • ${\hat{\theta }}_{CME}=E(\theta |X)$

• 条件中值估计器 (CmE)

  • 优化目标

    • 绝对误差 $\text{cost}(\hat{\theta },\theta )=|\hat{\theta }-\theta |$.
    • 平均绝对误差 $MAE(\hat{\theta })=E(|\hat{\theta }-\theta |)$.

  • 估计器: 中位数

    • ${\hat{\theta }}_{CmE}={\text{median}}_{\theta \in \Theta }f(\theta |X)$

• 最大后验估计器 (MAP)

  • 优化目标

    • 归一化误差 $\text{cost}(\hat{\theta },\theta )=I(|\hat{\theta }-\theta |>ϵ)$.
    • $ϵ$-误差概率 $P_e(\hat{\theta })=P(|\hat{\theta }-\theta |>ϵ)$

  • 估计器: 众数

    • ${\hat{\theta }}_{MAP}=\underset{\theta \in \Theta }{\mathrm{argmax}}\{f(\theta |X)\}$

非随机估计

• MOM 矩估计

  • 用统计量来估计真值

    • $g_k(\theta )=m_k(\theta )=E_{\theta }\left[X_i^k\right]$
    • ${\hat{m}}_k=\frac{1}{n}\sum _{i=1}^n{X}_i^k$

• ML 最大似然估计

  • 使观测到的可能性最大->最大化似然函数 $L(\theta )=\ln f(x;\theta )$

  • ${\hat{\theta }}_{ML}=\underset{\theta }{\mathrm{argmax}}f(X;\theta )=\underset{\theta }{\mathrm{argmax}}L(\theta )$

• 估计的评价指标

  • 偏差

    • ${\text{b}}_{\theta }(\hat{\theta })=E_{\theta }[\hat{\theta }]-\theta$

  • 方差

    • ${\text{var}}_{\theta }(\hat{\theta })=E_{\theta }[(\hat{\theta }-E_{\theta }(\hat{\theta }){)}^2]=E_{\theta }({\hat{\theta }}^2)-E_{\theta }^2(\hat{\theta })$

  • UMVU (Uniform Minimum Variance Unbiased estimator)

    • 偏差为0，方差最小

    • 有效估计器: 当且仅当估计模型为如下的指数函数时CRB才能达到

      • $\frac{\partial }{\partial \theta }\ln f(X;\theta )=k_{\theta }(\hat{\theta }-\theta )$

      • exponential family: PDF的指数和次数都能拆成只与观测有关和只与参数有关的两部分

        • $f(x;\theta )=a(\theta )b(x)e^{c(\theta )T(x)}$

  • Fisher Information

    • $F(\theta )=E_{\theta }\left[{\left(\frac{\partial }{\partial \theta }\ln f(X;\theta )\right)}^2\right]=E_{\theta }\left[-\frac{{\partial }^2}{\partial {\theta }^2}\ln f(X;\theta )\right]$

    • Cramer-Rao Lower Bound

      • 无偏估计器方差的下界为 $\frac{1}{F(\theta )}$

---