随机过程复习笔记
文章目录
- ch0 预备知识
-
- 分布
- 全概率公式和全期望公式
- Γ \Gamma Γ函数
- ch1 随机过程的基本概念
-
- §2.3 随机过程的数字特征
- ch3 泊松过程
-
- §3.1 泊松过程的定义
- §3.2 泊松过程的性质
- §3.3 非齐次泊松过程
- §3.4 复合泊松过程
- ch4 马尔可夫过程
ch0 预备知识
分布
-
泊松分布:
-
概率密度函数:
f ( n , λ ) = e − λ λ k k ! n = 1 , 2 , . . . f(n, \lambda) = e^{-\lambda} \frac{\lambda^k}{k!} \qquad n=1,2,... f(n,λ)=e−λk!λkn=1,2,... -
E = λ , D = λ E=\lambda,D=\lambda E=λ,D=λ
-
-
指数分布:
-
概率密度函数
f ( x , λ ) = { λ e − λ x , x ≥ 0 0 , x < 0 f(x,\lambda) = \left\{ \begin{array}{ll}\lambda e^{-\lambda x} , & x \geq 0 \\0, & x<0\end{array} \right. f(x,λ)={ λe−λx,0,x≥0x<0 -
E = 1 λ , D = 1 λ 2 E=\frac{1}{\lambda},D=\frac{1}{\lambda^2} E=λ1,D=λ21
-
全概率公式和全期望公式
-
全概率公式:
P ( B ) = ∑ k = 1 n P ( B ∣ A k ) P ( A k ) P(B)=\sum_{k=1}^{n} P\left(B \mid A_{k}\right) P\left(A_{k}\right) P(B)=k=1∑nP(B∣Ak)P(Ak)
推广:-
Y Y Y离散时:
P ( A ) = ∑ j P ( A ∣ Y = y j ) P ( Y = y j ) P(A) = \sum_{j} P(A|Y=y_j) P(Y=y_j) P(A)=j∑P(A∣Y=yj)P(Y=yj) -
Y Y Y连续时:
P ( A ) = ∫ − ∞ + ∞ P ( A ∣ Y = y j ) f Y ( y ) d y P(A) = \int_{-\infty}^{+\infty} P(A|Y=y_j) f_Y(y) dy P(A)=∫−∞+∞P(A∣Y=yj)fY(y)dy
-
-
全期望公式
-
Y Y Y离散时:
E ( X ) = ∑ j E ( X ∣ y j ) P ( Y = y j ) E(X) = \sum_j E(X|y_j) P(Y=y_j) E(X)=j∑E(X∣yj)P(Y=yj) -
Y Y Y连续时:
E ( X ) = inf − ∞ + ∞ E ( X ∣ y ) f Y ( y ) d y E(X) = \inf_{-\infty}^{+\infty} E(X|y) f_Y(y) dy E(X)=−∞inf+∞E(X∣y)fY(y)dy
-
Γ \Gamma Γ函数
Γ \Gamma Γ函数表达式:
Γ ( α ) = ∫ 0 + ∞ e − x x α − 1 d x \Gamma(\alpha) = \int_0^{+\infty} e^{-x} x^{\alpha-1} dx Γ(α)=∫0+∞e−xxα−1dx
初值:
Γ ( 1 ) = 1 , Γ ( 1 2 ) = ( π ) \Gamma(1) = 1, \quad \Gamma(\frac{1}{2})=\sqrt{(\pi)} Γ(1)=1,Γ(21)=(π)
递推关系:
Γ ( n ) = ( n − 1 ) ! \Gamma(n) = (n-1)! Γ(n)=(n−1)!
ch1 随机过程的基本概念
§2.3 随机过程的数字特征
给定随机过程 X T = { X ( t ) , t ∈ T } X_T=\{ X(t), t \in T \} XT={ X(t),t∈T},定义数字特征如下:
-
均值函数:
m x ( t ) ≜ E [ X ( t ) ] m_x(t) \triangleq E[X(t)] mx(t)≜E[X(t)] -
自相关函数:
R X ( s , t ) ≜ E [ X ( s ) , X ( t ) ] R_X(s,t) \triangleq E[X(s), X(t)] RX(s,t)≜E[X(s),X(t)] -
自协方差函数:
B X ( s , t ) ≜ C o v [ X ( s ) , x ( t ) ] = R X ( s , t ) − m X ( s ) m X ( t ) B_X(s,t) \triangleq Cov[X(s), x(t)] = R_X(s,t) - m_X(s) \, m_X(t) BX(s,t)≜Cov[X(s),x(t)]=RX(s,t)−mX(s)mX(t) -
方差函数:
D X ( t ) ≜ D [ X ( t ) ] = E [ ( X − E ( X ) ) 2 ] D_X(t) \triangleq D[X(t)] = E[(X - E(X))^2] DX(t)≜D[X(t)]=E[(X−E(X))2] -
均方差函数:
σ X ( t ) = D X ( t ) \sigma_X (t) = \sqrt{D_X(t)} σX(t)=DX(t)
ch3 泊松过程
§3.1 泊松过程的定义
-
计数过程: 若 N ( t ) N(t) N(t)表示在 ( 0 , t ] (0, t] (0,t]内事件A出现的总次数,则称随机过程 { N ( t ) , t ≥ 0 } \{N(t), t \geq 0\} { N(t),t≥0}为计数过程.
-
独立增量过程: 对任意 t 1 < t 2 ≤ t 3 < t 4 ∈ T t_1 < t_2 \leq t_3 < t_4 \in T t1<t2≤t3<t4∈T, X ( t 2 ) − X ( t 1 ) X(t_2)-X(t_1) X(t2)−X(t1)与 X ( t 4 ) − X ( t 3 ) X(t_4)-X(t_3) X(t4)−X(t3)相互独立,则称随机过程 X ( t ) X(t) X(t)为独立增量过程.
-
平稳增量过程: 对任意 s , t , h ∈ T s,t,h \in T s,t,h∈T, X ( t + h ) − x ( s + h ) X(t+h)-x(s+h) X(t+h)−x(s+h)与 X ( t ) − X ( s ) X(t)-X(s) X(t)−X(s)具有相同的分布,则称随机过程 X ( t ) X(t) X(t)为平稳增量过程.
-
泊松过程: 称计数过程 { X ( t ) ， t ≥ 0 } \{X(t)，t \geq 0 \} { X(t)，t≥0}是泊松过程,如果 ( t ) (t) (t)满足:
-
X ( 0 ) = 0 X(0)=0 X(0)=0
-
X ( t ) X(t) X(t)是独立增量过程
-
在任一长度为 t t t的区间中,事件A发生的次数服从参数 λ t > 0 \lambda t > 0 λt>0的泊松分布,即对任意 s , t ≥ 0 s, t \geq 0 s,t≥0,有:
P { X ( t + s ) − X ( s ) = n } = e − λ t ( λ t ) n n ! n = 0 , 1 , 2 , . . . P\{ X(t+s) - X(s) = n \} = e^{- \lambda t} \frac{(\lambda t)^n}{n!} \qquad n=0,1,2,... P{ X(t+s)−X(s)=n}=e−λtn!(λt)nn=0,1,2,...
由 E [ X ( t ) ] = λ t E[X(t)]=\lambda t E[X(t)]=λt,故 λ = E [ X ( t ) ] t \lambda = \frac{E[X(t)]}{t} λ=tE[X(t)]表示过程的强度
-
§3.2 泊松过程的性质
-
数字特征: 设 { X ( t ) ， t ≥ 0 } \{X(t)，t \geq 0 \} { X(t)，t≥0}是参数为 λ \lambda λ的泊松过程,对任意 t , s ∈ [ 0 , + ∞ ) , s < t t , s \in [0, +\infty), s
t,s∈[0,+∞),s<t ,有:
E [ X ( t ) − X ( s ) ] = D [ X ( t ) − X ( s ) ] = λ ( t − s ) E[X(t)-X(s)] = D[X(t) - X(s)] = \lambda (t-s) E[X(t)−X(s)]=D[X(t)−X(s)]=λ(t−s)m X ( t ) = E [ X ( t ) ] = E [ X ( t ) − X ( 0 ) ] = λ t m_X(t) = E[X(t)] = E[X(t)-X(0)] = \lambda t mX(t)=E[X(t)]=E[X(t)−X(0)]=λt
σ X 2 ( t ) = D [ X ( t ) ] = D [ X ( t ) − X ( 0 ) ] = λ t \sigma_X^2(t) = D[X(t)] = D[X(t)-X(0)] = \lambda t σX2(t)=D[X(t)]=D[X(t)−X(0)]=λt
R X ( s , t ) = E [ X ( s ) , X ( t ) ] = λ s ( λ t + 1 ) R_X(s,t) = E[X(s), X(t)] = \lambda s (\lambda t + 1) RX(s,t)=E[X(s),X(t)]=λs(λt+1)
B X ( s , t ) = R X ( s , t ) − m X ( s ) m X ( t ) = λ s B_X(s,t) = R_X(s,t) - m_X(s) m_X(t) = \lambda s BX(s,t)=RX(s,t)−mX(s)mX(t)=λs
-
等待(到达)时间 W n W_n Wn与时间间隔 T n T_n Tn的分布:
W n W_n Wn表示第 n n n个事件的等待(到达)时间, T n T_n Tn表示第 n n n个事件与第 n − 1 n-1 n−1个事件出现的时间间隔
-
到达时间 W n W_n Wn服从 Γ \Gamma Γ分布,其概率密度函数:
f W n ( t ) = { λ e − λ t ( λ t ) n − 1 ( n − 1 ) ! , t ≥ 0 0 , t < 0 f_{W_n}(t)=\left\{\begin{array}{ll}\lambda e^{-\lambda t} \frac{(\lambda t)^{n-1}}{(n-1) !}, & t \geq 0 \\0, & t<0\end{array}\right. fWn(t)={ λe−λt(n−1)!(λt)n−1,0,t≥0t<0 -
时间间隔 T n T_n Tn的分布:
F T n ( t ) = P { T n ≤ t } = { 1 − e − λ t , t ≥ 0 0 , t < 0 F_{T_{n}}(t)= P\{T_{n} \leq t \}= \left\{\begin{array}{ll} 1-e^{-\lambda t}, & t \geq 0 \\ 0, & t<0 \end{array}\right. FTn(t)=P{ Tn≤t}={ 1−e−λt,0,t≥0t<0 -
到达时间的条件分布: 已知 [ 0 , t ] [0,t] [0,t]内事件 A A A已经发生1次,则这一事件到达时间 W 1 W_1 W1的条件分布密度函数:
f W 1 ( s ∣ N ( t ) = 1 ) = { 1 t , 0 < s < t 0 , 其 他 f_{W_1}(s | N(t)=1)= \left\{\begin{array}{ll} \frac{1}{t}, & 0 -
到达时间的条件分布: 已知 [ 0 , t ] [0,t] [0,t]内事件 A A A已经发生 n n n次,则第 k k k次事件的发生时间 W k W_k Wk的条件概率密度函数:
f W k ( s ∣ N ( t ) = n ) = { n ! ( k − 1 ) ! ( n − k ) ! s k − 1 ( t − s ) n − k t n 0 < s < t 0 其 它 f_{W_{k}}(s | N(t)=n)= \left\{\begin{array}{cc} \frac{n !}{(k-1) !(n-k) !} \frac{s^{k-1}(t-s)^{n-k}}{t^{n}} & 0 -
到达时间的条件联合分布: 已知 [ 0 , t ] [0,t] [0,t]内事件 A A A已经发生 n n n次,则这 n n n次到达时间 W 1 , W 2 , . . . , W n W_1,W_2,...,W_n W1,W2,...,Wn的联合条件分布密度函数:
f W 1 , W 2 , . . . , W n ( t 1 , t 2 , ⋯ , t n ∣ N ( t ) = n ) = { n ! t n , 0 < t 1 < ⋯ < t n < t 0 , 其 他 f_{W_1,W_2,...,W_n} (t_{1}, t_{2}, \cdots, t_{n} | N(t)=n)=\left\{\begin{array}{ll} \frac{n !}{t^{n}}, & 0
-
§3.3 非齐次泊松过程
-
定义: 称计数过程 { X ( t ) ， t ≥ 0 } \{X(t)，t \geq 0 \} { X(t)，t≥0}是非齐次泊松过程,如果 ( t ) (t) (t)满足:
-
X ( 0 ) = 0 X(0)=0 X(0)=0
-
X ( t ) X(t) X(t)是独立增量过程
-
在任一长度为 t t t的区间中,事件A发生的次数服从参数为 ∫ s s + t λ ( u ) d u \int_s^{s+t}\lambda(u)du ∫ss+tλ(u)du的泊松分布,即对任意 s , t ≥ 0 s, t \geq 0 s,t≥0,有:
X ( t + s ) − X ( s ) ∼ π ( ∫ s s + t λ ( u ) d u ) X(t+s) - X(s) \sim \pi(\int_s^{s+t} \lambda(u)du) X(t+s)−X(s)∼π(∫ss+tλ(u)du)
λ ( t ) \lambda(t) λ(t)称为速率函数
-
§3.4 复合泊松过程
-
定义: 设 { N ( t ) ， t ≥ 0 } \{N(t)，t \geq 0 \} { N(t)，t≥0}是泊松过程, { Y k ， k = 1 , 2 , . . } \{Y_k，k=1,2,.. \} { Yk，k=1,2,..}是一系列独立同分布的随机变量,则称
X ( t ) = ∑ n = 1 N ( t ) Y n X(t) = \sum_{n=1}^{N(t)} Y_n X(t)=n=1∑N(t)Yn
为复合泊松过程. -
性质:
- { X ( t ) ， t ≥ 0 } \{X(t)，t \geq 0 \} { X(t)，t≥0}是独立增量过程
- 若 { N ( t ) ， t ≥ 0 } \{N(t)，t \geq 0 \} { N(t)，t≥0}是齐次泊松过程,则 { X ( t ) ， t ≥ 0 } \{X(t)，t \geq 0 \} { X(t)，t≥0}是平稳增量过程
-
数字特征:
- E ( X ) = E ( N ) E ( Y 1 ) E(X) = E(N) E(Y_1) E(X)=E(N)E(Y1)
- D ( X ) = E ( N ) D ( Y 1 ) + D ( N ) E 2 ( Y 1 ) D(X) = E(N)D(Y_1) + D(N)E^2(Y_1) D(X)=E(N)D(Y1)+D(N)E2(Y1)
若 { N ( t ) ， t ≥ 0 } \{N(t)，t \geq 0 \} { N(t)，t≥0}是齐次泊松过程,则:
- E X ( t ) = E N ( t ) E ( Y 1 ) = λ t E ( Y 1 ) EX(t) = EN(t)E(Y_1) = \lambda t E(Y_1) EX(t)=EN(t)E(Y1)=λtE(Y1)
- D X ( t ) = E N ( t ) E ( Y 1 2 ) = λ t E ( Y 1 2 ) DX(t) = EN(t)E(Y_1^2)=\lambda t E(Y_1^2) DX(t)=EN(t)E(Y12)=λtE(Y12)
- E ( X ) = E [ E ( X ∣ N ) ] = E [ N E ( Y ! ) ] = E ( N ) E ( Y 1 ) E(X)=E[E(X|N)]=E[NE(Y_!)]=E(N)E(Y_1) E(X)=E[E(X∣N)]=E[NE(Y!)]=E(N)E(Y1)