随机过程笔记：2.谱分析

总结版传送门，推导较少

谱分析Spectral Analysis of Stochastic Process

谱，从某种角度出发，进行分解，以把握特征。

1.引入：确定性信号的分解

对于确定性周期信号：$X(t),deterministic,Periodic:X(t+T)=X(t)$

，有：$x(t)={\sum }_k{\alpha }_k{e}^{j{\omega }_{k}t},{\omega }_k=\frac{2k\pi }{T},\frac{2\pi }{T}$为基频Base Frequency，其中${\alpha }_k=\frac{1}{T}{\int }_{-\frac{T}{2}}^{\frac{T}{2}}x(t)e^{-j{\omega }_{k}t}dt$

1. 展开仅仅成立在$t\in [-\frac{T}{2},\frac{T}{2}]$
2. 对于非周期函数也可在区间做傅里叶级数展开，区间之外傅里叶级数是其周期延拓
3. 基函数$\frac{1}{\sqrt{T}}{e}^{j{\omega }_{k}t},k\in (-\infty ,+\infty )$是规范正交基。此时与对应函数做内积就可以直接得到系数，相当于在对应方向上的投影。

当$T\to \infty$，则有傅里叶变换：
$$\begin{array}{rl}x(t)& =\frac{1}{T}\sum _{k=-\infty }^{+\infty }[{\int }_{-\frac{T}{2}}^{\frac{T}{2}}x(s)e^{-j{\omega }_{k}s}ds]e^{j{\omega }_{k}t}\\ & =\frac{1}{T}\sum _{k=-\infty }^{+\infty }[{\int }_{-\frac{T}{2}}^{\frac{T}{2}}x(s)e^{-j\frac{2k\pi }{T}s}ds]e^{j\frac{2k\pi }{T}t}\\ & =\frac{1}{2\pi }\sum _{k=-\infty }^{+\infty }[{\int }_{-\frac{T}{2}}^{\frac{T}{2}}x(s)e^{-j\frac{2k\pi }{T}s}ds]e^{j\frac{2k\pi }{T}t}\cdot \frac{2\pi }{T}\\ \underset{T\to \infty }{\lim }x(t)& =\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }X(\omega )e^{j\omega t}d\omega \end{array}$$
傅里叶变换对：
$$\{\begin{array}{rl}x(t)& =\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }X(\omega )e^{j\omega t}d\omega \\ X(\omega )& ={\int }_{-\infty }^{+\infty }x(t)e^{-j\omega t}dt\end{array}$$

2.随机信号的分解——功率谱密度

$$x(t)=\frac{1}{2\pi }\sum _{k=-\infty }^{+\infty }[{\int }_{-\frac{T}{2}}^{\frac{T}{2}}x(s)e^{-j\frac{2k\pi }{T}s}ds]e^{j\frac{2k\pi }{T}t}\cdot \frac{2\pi }{T}$$

相比确定信号，随机信号可能存在一个问题，积分是否收敛？

对于傅里叶变换积分收敛，存在一个条件：$x(t)\in L^1(\mathbb{R})\iff {\int }_{-\infty }^{+\infty }|x(t)|dt<\infty$。该条件对于确定性信号，是普遍满足的。对于不满足的情况，通常也会做一些处理。

例如cos(t)，引入广义函数$\frac{1}{2}[\delta (\omega -1)+\delta (\omega +1)]$

面对这样的问题，可以提供两种解决办法。物理的角度：可以想到的是，希望做傅里叶的是有衰减趋势的函数，可以考虑二阶的函数。大部分相关函数是衰减的（也有周期振荡的）。下面以复随机信号(宽平稳)为例：
$$\begin{array}{rl}& \frac{1}{T}E|{\int }_{-\frac{T}{2}}^{\frac{T}{2}}x(t)e^{-j\omega t}dt{|}^2\\ (& 有损的变换,相位信息消失)\\ =& \frac{1}{T}E({\int }_{-\frac{T}{2}}^{\frac{T}{2}}x(t)e^{-j\omega t}dt)(\overline{{\int }_{-\frac{T}{2}}^{\frac{T}{2}}x(s)e^{-j\omega s}ds})\\ =& \frac{1}{T}{\int }_{-\frac{T}{2}}^{\frac{T}{2}}{\int }_{-\frac{T}{2}}^{\frac{T}{2}}E[x(t)\overline{x(s)}]e^{-j\omega (t-s)}dtds\\ (& 对于宽平稳有E[x(t)\overline{x(s)}]=R_x(t,s)=R_x(t-s))\\ =& \frac{1}{T}{\int }_{-\frac{T}{2}}^{\frac{T}{2}}{\int }_{-\frac{T}{2}}^{\frac{T}{2}}{R}_x(t-s)e^{-j\omega (t-s)}dtds\\ (& 换元u=t-s,v=t+s,雅可比行列式dtds=|det\frac{\partial (t,s)}{\partial (u,v)}|dudv=\frac{1}{2}dudv)\\ =& \frac{1}{2T}[{\int }_{-T}^0{\int }_{-u-T}^{u+T}{R}_x(u)e^{-j\omega u}dvdu+{\int }_0^T{\int }_{u-T}^{-u+T}{R}_x(u)e^{-j\omega u}dvdu]\\ =& \frac{1}{2T}{\int }_{-T}^T{\int }_{|u|-T}^{-|u|+T}{R}_x(u)e^{-j\omega u}dvdu\\ =& \frac{1}{2T}{\int }_{-T}^T(2T-2|u|)R_x(u)e^{-j\omega u}du\\ =& {\int }_{-T}^T(1-\frac{|u|}{T})R_x(u)e^{-j\omega u}du\\ 则& \underset{T\to \infty }{\lim }\frac{1}{T}E|{\int }_{-\frac{T}{2}}^{\frac{T}{2}}x(t)e^{-j\omega t}dt{|}^2={\int }_{-\infty }^{+\infty }{R}_x(u)e^{-j\omega u}du=S_x(\omega )\end{array}$$
上述结果即为功率谱密度Power Spectral Density，简称PSD。得到随机信号的傅里叶变换对（由相关函数的傅里叶变换得到功率谱密度）：
$$\{\begin{array}{rl}{S}_x(\omega )=& {\int }_{-\infty }^{+\infty }{R}_x(u)e^{-j\omega u}du\\ R_x(u)=& \frac{1}{2\pi }{\int }_{-\infty }^{+\infty }{S}_x(\omega )e^{j\omega u}d\omega \end{array}$$
分析：

• 功率：量纲是$I^{2}T$焦耳$J$，即能量。换个角度，可得到$R_x(0)=\frac{1}{2\pi }{\int }_{-\infty }^{\infty }{S}_x(\omega )d\omega =E|x(t){|}^2$，为功率，则$S_x(\omega )$单位为功率除以频率，也就是功率乘以时间，故量纲是$J$，即能量。

• 谱：功率谱密度反映的是随机过程在每个频点上功率的大小，是一个二阶量。

  • $S_{\alpha x}(\omega )=|\alpha {|}^2{S}_x(\omega )$
  • $R_x(0)-R_x(\tau )\ge \frac{1}{4}[R_x(0)-R_x(2\tau )]$

  证明思路1：
  $$\begin{array}{rl}& 上式等价于：3R_x(0)-4R_x(\tau )+R_x(2\tau )\ge 0\\ & \left(\begin{array}{c}x\\ y\\ x\end{array}\right)\left(\begin{array}{ccc}{R}_x(0)& R_x(\tau )& R_x(2\tau )\\ R_x(\tau )& R_x(0)& R_x(\tau )\\ R_x(2\tau )& R_x(\tau )& R_x(0)\end{array}\right)\left(\begin{array}{ccc}x& y& x\end{array}\right)\\ =& f_1(x,y,z)R_x(0)+f_2(x,y,z)R_x(\tau )+f_3(x,y,z)R_x(2\tau )\\ \ge & 0(根据正定)\\ & 解f_1=3,f_2=-4,f_3=1(待定系数法)\end{array}$$
  证明思路2：频域上分析
  $$\begin{array}{rl}& 已知:R_x(0)=\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }{S}_x(\omega )d\omega ,R_x(\tau )=\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }{S}_x(\omega )e^{j\omega \tau }d\omega \\ & 则R_x(0)-4R_x(\tau )+R_x(2\tau )\\ =& \frac{1}{2\pi }{\int }_{-\infty }^{+\infty }{S}_x(\omega )[3-4e^{j\omega \tau }+e^{j\omega 2\tau }]d\omega \\ & (在下面有结论:S_x(\omega )={\int }_{-\infty }^{+\infty }{R}_x(\tau )e^{-j\omega \tau }d\tau ={\int }_{-\infty }^{+\infty }{R}_x(\tau )cos(\omega \tau )d\tau )\\ =& \frac{1}{2\pi }{\int }_{-\infty }^{+\infty }{S}_x(\omega )[3-4cos(\omega \tau )+cos(2\omega \tau )]d\omega \\ =& \frac{1}{2\pi }{\int }_{-\infty }^{+\infty }2S_x(\omega )[cos(\omega \tau )-1{]}^{2}d\omega \ge 0\end{array}$$

  • $R_x(0)-R_x(\tau )\ge \frac{1}{4^n}[R_x(0)-R_x(2^n\tau )]$

• $S_{x+y}\ne S_x(\omega )+S_y(\omega )$

• 密度：体现在是常数。

• 关于$S_x(\omega )\ge 0$，从另外一个角度分析。相关函数$R_x(t)$是正定的，根据Bochner的结果，其傅里叶变换也是正的。

• 如果是实变量，功率谱是偶函数：$S_x(\omega )=S_x(-\omega )$。实信号没有负频率的说法，其频率负轴是频率正轴的镜像。验证：

$$\begin{array}{rl}{S}_x(\omega )& ={\int }_{-\infty }^{+\infty }{R}_x(\tau )e^{-j\omega \tau }d\tau \\ & ={\int }_{-\infty }^{+\infty }{R}_x(\tau )cos(\omega \tau )d\tau -j{\int }_{-\infty }^{+\infty }{R}_x(\tau )sin(\omega \tau )d\tau \\ & (积分内部为奇函数，则{\int }_{-\infty }^{+\infty }{R}_x(\tau )sin(\omega \tau )d\tau =0)\\ & ={\int }_{-\infty }^{+\infty }{R}_x(\tau )cos(\omega \tau )d\tau \\ & ={\int }_{-\infty }^{+\infty }{R}_x(\tau )cos(-\omega \tau )d\tau =S_x(-\omega )\end{array}$$

• 随机过程通过线性系统：有$Y(t)=(h\ast x)(t)={\int }_{-\infty }^{\infty }h(t-\tau )x(\tau )d\tau$，其中$h(t)$是系统的冲激响应，$H(\omega )$是传递函数。

X(t)

H(LTI：线性时不变系统)

Y(t)

$$\begin{array}{rl}{R}_y(t,s)& =E[Y(t)\overline{Y(s)}]\\ & =E[({\int }_{-\infty }^{+\infty }h(t-\tau )x(\tau )d\tau )\overline{({\int }_{-\infty }^{+\infty }h(s-r)x(r)dr)}]\\ & ={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }E[x(\tau )\overline{x(r)}]h(t-\tau )\overline{h(s-r)}d\tau dr\\ & ={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }{R}_x(\tau -r)h(t-\tau )\overline{h(s-r)}d\tau dr\\ & (1.被积函数自变量相加可消去积分变量;2.卷积结果是函数,其取自变量加和的值)\\ & (构造h(t))=\overline{h(-t)})\\ & ={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }{R}_x(\tau -r)h(t-\tau )h(r-s)d\tau dr\\ & =(R_x\ast h\ast h)(t-s)\end{array}$$

结论:宽平稳的随机过程通过线性系统仍然是宽平稳。
$$\begin{array}{rl}H(\omega )& ={\int }_{-\infty }^{+\infty }h(t)e^{-j\omega t}dt\\ & ={\int }_{-\infty }^{+\infty }\overline{h(-t)}{e}^{-j\omega t}dt\\ & =\overline{{\int }_{-\infty }^{+\infty }h(-t)e^{-j\omega t}dt}\\ & =\overline{{\int }_{-\infty }^{+\infty }h(t)e^{-j\omega t}dt}\\ & =\overline{H(\omega )}\\ S_y(\omega )& =S_x(\omega )H(\omega )H(\omega )\\ & =S_x(\omega )H(\omega )\overline{H(\omega )}\\ & =S_x(\omega )|H(\omega ){|}^2\end{array}$$
例：
$$\begin{array}{rl}|E[X(t)Y(t)]& \le [E(X^2(t)Y^2(t)){]}^{\frac{1}{2}}\\ |R_{XY}(0)|& \le [R_X(0)R_Y(0){]}^{\frac{1}{2}}\\ |\frac{1}{2\pi }{\int }_{-\infty }^{+\infty }{S}_{XY}(\omega )d\omega |& \le \frac{1}{2\pi }[{\int }_{-\infty }^{+\infty }{S}_X(\omega )d\omega {\int }_{-\infty }^{+\infty }{S}_Y(\omega )d\omega {]}^{\frac{1}{2}}\\ |{\int }_a^b{S}_{XY}(\omega )d\omega |& \le [{\int }_a^b{S}_X(\omega )d\omega {\int }_a^b{S}_Y(\omega )d\omega {]}^{\frac{1}{2}}\\ (相当于经过一个& 带通滤波器,是线性的)\end{array}$$
Wiener-Khinchine Relation.

Wiener：Cybernetics控制论，数学，美

Khinchine：排队论之父，前苏联