随机过程是这样一个过程,它不能用一个时间t的确定性函数表示,它在每个时刻的状态是随机的。
一维分布函数
: F t 1 ( x 1 ) = P ( ξ ( t 1 ) < x 1 ) F_{t_1}(x_{1})=P(\xi(t_{1})n维分布函数
: F t 1 , t 2 , . . . , t n ( x 1 , x 2 , . . . , x n ) = P ( ξ ( t 1 ) < x 1 , ξ ( t 2 ) < x 2 , . . . , ξ ( t n ) < x n ) F_{t_1,t_2,...,t_n}(x_{1},x_{2},...,x_{n})=P(\xi(t_{1})注:
根据时间的连续与否,每个时刻随机变量取值的连续与否,可以分为4种类型。
离散参数离散型随机过程。参数集(也就是时间)是离散的,固定时间 t k t_k tk,随机变量 ξ ( t k ) \xi(t_k) ξ(tk)也是离散的。
比如伯努利过程:一个质点每过一秒就会等概率地在数轴上向左移动或者向右移动。
连续参数离散型随机过程。参数集(也就是时间)是连续的,固定时间 t k t_k tk,随机变量 ξ ( t k ) \xi(t_k) ξ(tk)是离散的。
比如脉冲数字通信系统,传送的信号是脉宽为 T 0 T_0 T0的脉冲信号,但是脉冲的幅度是随机变量。
连续参数连续型随机过程。参数集(也就是时间)是连续的,固定时间 t k t_k tk,随机变量 ξ ( t k ) \xi(t_k) ξ(tk)也是连续的。
比如正弦波过程(例子1)和晶体管噪声。
离散参数连续型随机过程。参数集(也就是时间)是离散的,固定时间 t k t_k tk,随机变量 ξ ( t k ) \xi(t_k) ξ(tk)也是连续的。
比如每隔单位时间就对晶体管噪声进行抽样。
从以上的分析来看,随机过程的概率密度或分布函数族可以完善地描述随机过程的统计特征,但是要确定这两个东西,并加以分析,往往比较困难。为了便于分析,需要引入随机过程的数字特征。
对于一随机过程 ξ ( t ) \xi(t) ξ(t),其某一时刻 t 1 t_1 t1的取值 ξ ( t 1 ) \xi(t_1) ξ(t1)是随机变量(这一点要时刻记住,不然下面的公式就会理解不了),对于这个随机变量,可以用概率论中的均值来描述,即:
μ ξ ( t 1 ) = E ( ξ ( t 1 ) ) \mu_{\xi}(t_1)=E(\xi(t_1)) μξ(t1)=E(ξ(t1))
对于连续型随机过程,假设其分布函数为 F ξ t 1 ( x ) = P ( ξ ( t 1 ) ≤ x ) F_{\xi_{t_1}}(x)=P(\xi(t_1)\leq x) Fξt1(x)=P(ξ(t1)≤x),概率密度为 f ξ t 1 ( x ) f_{\xi_{t_1}}(x) fξt1(x),那么均值:
μ ξ ( t 1 ) = E ( ξ ( t 1 ) ) = ∫ − ∞ + ∞ x f ξ t 1 ( x ) d x \mu_{\xi}(t_1)=E(\xi(t_1)) =\int_{-\infty}^{+\infty}xf_{\xi_{t_1}}(x)dx μξ(t1)=E(ξ(t1))=∫−∞+∞xfξt1(x)dx
对于离散型随机过程,假设其分布函数为 F ξ t 1 ( x ) = P ( ξ ( t 1 ) ≤ x ) F_{\xi_{t_1}}(x)=P(\xi(t_1)\leq x) Fξt1(x)=P(ξ(t1)≤x),那么均值:
μ ξ ( t 1 ) = E ( ξ ( t 1 ) ) = x 1 ∗ P ( ξ ( t 1 ) = x 1 ) + x 2 ∗ P ( ξ ( t 1 ) = x 2 ) + . . . + x n ∗ P ( ξ ( t 1 ) = x n ) \mu_{\xi}(t_1) = E(\xi(t_1)) \\ = x_1*P(\xi(t_1)=x_1)+x_2*P(\xi(t_1)=x_2)+...+x_n*P(\xi(t_1)=x_n) μξ(t1)=E(ξ(t1))=x1∗P(ξ(t1)=x1)+x2∗P(ξ(t1)=x2)+...+xn∗P(ξ(t1)=xn)
技巧:
有时候并不需要真的去求概率密度为 f ξ t 1 ( x ) f_{\xi_{t_1}}(x) fξt1(x)才能算均值。
比如: y = s i n ( w t + φ ) y=sin(wt+\varphi) y=sin(wt+φ),其中 φ \varphi φ服从 [ − π , π ] [-\pi,\pi] [−π,π]的均匀分布,求 μ ξ ( t 1 ) \mu_{\xi}(t_1) μξ(t1)。这个问题就变成了概率论中经典的已知X的分布,且Y=g(X),求E(Y)。所以:
μ ξ ( t 1 ) = ∫ − ∞ + ∞ x f ξ t 1 ( x ) d x = ∫ − π π s i n ( w t 1 + φ ) 1 2 π d φ \mu_{\xi}(t_1)= \int_{-\infty}^{+\infty}xf_{\xi_{t_1}}(x)dx= \int_{-\pi}^{\pi}sin(wt_1+\varphi)\frac{1}{2\pi} d\varphi μξ(t1)=∫−∞+∞xfξt1(x)dx=∫−ππsin(wt1+φ)2π1dφ
按照上式计算就会简单很多。
这个方差的定义与概率论中随机变量的方差定义完全一致。
σ ξ 2 ( t 1 ) = D ( ξ ( t 1 ) ) = E ( [ ξ ( t 1 ) − μ ξ ( t 1 ) ] 2 ) = E ( [ ξ ( t 1 ) − E ( ξ ( t 1 ) ) ] 2 ) \sigma_{\xi}^2(t_1)=D(\xi(t_1))=E([\xi(t_1)-\mu_{\xi}(t_1)]^2) \\ =E([\xi(t_1)-E(\xi(t_1))]^2) σξ2(t1)=D(ξ(t1))=E([ξ(t1)−μξ(t1)]2)=E([ξ(t1)−E(ξ(t1))]2)
自相关函数是为了描述两个不同的时刻 t 1 , t 2 t_1,t_2 t1,t2的随机变量 ξ ( t 1 ) , ξ ( t 2 ) \xi(t_1),\xi(t_2) ξ(t1),ξ(t2)之间的关系,记为 R ξ ξ ( t 1 , t 2 ) R_{\xi\xi}(t_1,t_2) Rξξ(t1,t2),这是一个二阶混合原点矩。注意这两个随机变量并不独立
R ξ ξ ( t 1 , t 2 ) = E ( ξ ( t 1 ) ξ ( t 2 ) ) = ∑ i ∑ j x i x j P ( ξ ( t 1 ) = x i , ξ ( t 2 ) = x j ) = ∫ − ∞ + ∞ ∫ − ∞ + ∞ x 1 x 2 f ξ t 1 ξ t 2 ( x 1 , x 2 ) d x 1 d x 2 R_{\xi\xi}(t_1,t_2)=E(\xi(t_1)\xi(t_2)) \\ = \sum_{i}\sum_{j}x_ix_jP(\xi(t_1)=x_i,\xi(t_2)=x_j) \\ =\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}x_1x_2f_{\xi_{t_1}\xi_{t_2}}(x_1, x_2)dx_1dx_2 Rξξ(t1,t2)=E(ξ(t1)ξ(t2))=i∑j∑xixjP(ξ(t1)=xi,ξ(t2)=xj)=∫−∞+∞∫−∞+∞x1x2fξt1ξt2(x1,x2)dx1dx2
f ξ t 1 ξ t 2 ( x 1 , x 2 ) f_{\xi_{t_1}\xi_{t_2}}(x_1, x_2) fξt1ξt2(x1,x2)是随机变量 ξ ( t 1 ) , ξ ( t 2 ) \xi(t_1),\xi(t_2) ξ(t1),ξ(t2)的联合概率密度。
类似地,可以写出两个变量的二阶混合中心矩,记为 C ξ ξ ( t 1 , t 2 ) C_{\xi\xi}(t_1,t_2) Cξξ(t1,t2)
C ξ ξ ( t 1 , t 2 ) = E ( [ ξ ( t 1 ) − μ ξ ( t 1 ) ] [ ξ ( t 2 ) − μ ξ ( t 2 ) ] ) = ∑ i ∑ j ( x i − μ ξ ( t 1 ) ) ( x j − μ ξ ( t 2 ) ) P ( ξ ( t 1 ) = x i , ξ ( t 2 ) = x j ) = ∫ − ∞ + ∞ ∫ − ∞ + ∞ ( x 1 − μ ξ ( t 1 ) ) ( x 2 − μ ξ ( t 2 ) ) f ξ t 1 ξ t 2 ( x 1 , x 2 ) d x 1 d x 2 C_{\xi\xi}(t_1,t_2)=E([\xi(t_1)-\mu_{\xi}(t_1)][\xi(t_2)-\mu_{\xi}(t_2)]) \\ = \sum_{i}\sum_{j}(x_i-\mu_{\xi}(t_1))(x_j-\mu_{\xi}(t_2))P(\xi(t_1)=x_i,\xi(t_2)=x_j) \\ =\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}(x_1-\mu_{\xi}(t_1))(x_2-\mu_{\xi}(t_2))f_{\xi_{t_1}\xi_{t_2}}(x_1, x_2)dx_1dx_2 Cξξ(t1,t2)=E([ξ(t1)−μξ(t1)][ξ(t2)−μξ(t2)])=i∑j∑(xi−μξ(t1))(xj−μξ(t2))P(ξ(t1)=xi,ξ(t2)=xj)=∫−∞+∞∫−∞+∞(x1−μξ(t1))(x2−μξ(t2))fξt1ξt2(x1,x2)dx1dx2
f ξ t 1 ξ t 2 ( x 1 , x 2 ) f_{\xi_{t_1}\xi_{t_2}}(x_1, x_2) fξt1ξt2(x1,x2)是随机变量 ξ ( t 1 ) , ξ ( t 2 ) \xi(t_1),\xi(t_2) ξ(t1),ξ(t2)的联合概率密度。
上式只是定义式,通过化简可以得到:
C ξ ξ ( t 1 , t 2 ) = R ξ ξ ( t 1 , t 2 ) − μ ξ ( t 1 ) μ ξ ( t 2 ) C_{\xi\xi}(t_1,t_2)=R_{\xi\xi}(t_1,t_2)-\mu_{\xi}(t_1)\mu_{\xi}(t_2) Cξξ(t1,t2)=Rξξ(t1,t2)−μξ(t1)μξ(t2)
当 t 1 = t 2 t_1=t_2 t1=t2时:
σ ξ 2 ( t 1 ) = C ξ ξ ( t 1 , t 1 ) = R ξ ξ ( t 1 , t 1 ) − μ ξ ( t 1 ) μ ξ ( t 1 ) \sigma_{\xi}^2(t_1)=C_{\xi\xi}(t_1,t_1)=R_{\xi\xi}(t_1,t_1)-\mu_{\xi}(t_1)\mu_{\xi}(t_1) σξ2(t1)=Cξξ(t1,t1)=Rξξ(t1,t1)−μξ(t1)μξ(t1)
这就类似于 D ( X ) = E ( X 2 ) − ( E ( X ) ) 2 D(X)=E(X^2)-(E(X))^2 D(X)=E(X2)−(E(X))2
注意,这一节考虑的是两个不同的随机过程(注意和一个随机过程的两次不同的实现是有区别的)