平稳时间序列的相关概念
（一）两种不同的平稳性定义
1.严平稳过程
若对于时间 t t t的任意 n n n个值 t 1 < t 2 < ⋯ < t n t_1
F t 1 , t 2 , . . . t n ( X t 1 , X t 2 , . . . , X t n ) = F t 1 + s , t 2 + s , . . . , t n + s ( X t 1 + s , X t 2 + s , . . . , X t n + s ) F_{t_1,t_2,...t_n}(X_{t_1},X_{t_2},...,X_{t_n})=F_{{t_1+s},{t_2+s},...,{t_n+s}}({X_{t_1+s},X_{t_2+s},...,X_{t_n+s}}) Ft1,t2,...tn(Xt1,Xt2,...,Xtn)=Ft1+s,t2+s,...,tn+s(Xt1+s,Xt2+s,...,Xtn+s)
则称 { X t } \{X_t\} {Xt}为严平稳/狭义平稳/强平稳过程。
严平稳的概率分布与时间无关。
2.宽平稳过程
如时间序列有有穷的二阶矩，且 { X t } \{X_t\} {Xt}满足一下两个条件：
( 1 ) μ t = E ( X t ) = c ( 2 ) γ ( t , s ) = E ( X t − c ) ( X s − c ) = γ ( t − s , 0 ) \begin{array}{lcl} (1)\mu_t=E(X_t)=c\\ (2)\gamma(t,s)=E(X_t-c)(X_s-c)=\gamma(t-s,0) \end{array} (1)μt=E(Xt)=c(2)γ(t,s)=E(Xt−c)(Xs−c)=γ(t−s,0)
则称该时间序列为宽平稳过程。
宽平稳过程各随机变量的均值为常数，且任意两个变量的协方差仅与时间间隔 ( t − s ) (t-s) (t−s)有关。
3.严平稳过程和宽平稳过程的联系和区别
区别:
(1)严平稳的概率分布随时间的平移而不变，宽平稳序列的均值和自协方差随时间的平移而不变。
(2)一个严平稳序列，不一定是宽平稳序列;一个宽平稳序列也不一定是严平稳序列。
联系:
(1)若一个序列为严平稳序列，且有有穷的二阶矩，那么该序列也必为宽平稳序列。
(2)若时间序列为正态序列(即它的任何有限维分布都是正态分布)，那么该序列为严平稳序列和宽平稳序列是相互等价的。
（二）时间序列的分布、均值和协方差函数
1.时间序列的概率分布
由于确定时间序列的分布函数一般不可能，人们更加注意使用时间序列的各种特征量的描述，如均值函数、协方差函数、自相关函数、偏自相关函数等，这些特征量往往能代表随机变量的主要特征。
2.均值函数
一个时间序列 { X t , t = 0 , t = ± 1 , t = ± 2 , . . . . , } \{X_t,t=0,t=\pm1,t=\pm2,....,\} {Xt,t=0,t=±1,t=±2,....,}的均值函数指：
μ t = E ( X t ) = ∫ − a a X d ( F t ( X t ) ) \mu_t=E(X_t)=\int_{-a}^{a} X\, d(F_t(X_t)) μt=E(Xt)=∫−aaXd(Ft(Xt))
μ t \mu_t μt即为 { X t } \{X_t\} {Xt}的均值函数，它实质上是一个实数列，均值表示随机过程在各个时刻的摆动中心。
3.自协方差函数
γ ( t , s ) = E ( X t − μ t ) ( X s − μ s ) = ∫ − a a ∫ − a a ( x − μ t ) ( y − μ s ) d F t , s ( x , y ) \gamma(t,s)=E(X_t-\mu_t)(X_s-\mu_s)=\int_{-a}^{a}\int_{-a}^{a} (x-\mu_t)(y-\mu_s)\, dF_{t,s}(x,y) γ(t,s)=E(Xt−μt)(Xs−μs)=∫−aa∫−aa(x−μt)(y−μs)dFt,s(x,y)
对称性: γ ( t , s ) = γ ( s , t ) \gamma(t,s)=\gamma(s,t) γ(t,s)=γ(s,t)
4.自相关函数
ρ ( t , s ) = γ ( t , s ) γ ( t , t ) γ ( s , s ) \rho(t,s)=\frac{\gamma(t,s)}{\sqrt{\gamma(t,t)\gamma(s,s)}} ρ(t,s)=γ(t,t)γ(s,s)γ(t,s)
自相关函数描述了时间序列的 { X t } \{X_t\} {Xt}自身的相关结构。
时间序列的自相关函数具有对称性，且有 ρ ( t , t ) = 1 \rho(t,t)=1 ρ(t,t)=1
（三）平稳序列的自协方差和自相关函数
1.平稳序列的自协方差函数和自相关函数
若 { X t } \{X_t\} {Xt}为平稳序列，假定 E X t = 0 EX_t=0 EXt=0，则我们可以用以下记号表示平稳序列的自协方差函数。
γ k = E ( X t − E X t ) ( X t − k − E X t − k ) = E X t X t − k \gamma_k=E(X_t-EX_t)(X_{t-k}-EX_{t-k})=EX_tX_{t-k} γk=E(Xt−EXt)(Xt−k−EXt−k)=EXtXt−k
相应的，严平稳序列的自相关函数记为:
ρ k = γ k γ 0 \rho_k=\frac{\gamma_k}{\gamma_0} ρk=γ0γk
2.平稳序列的自协方差序列和自相关函数列的性质
( 1 ) γ k = γ − k ρ k = ρ − k ( 2 ) γ k ≤ ∣ γ 0 ∣ ∣ ρ k ∣ ≤ 1 \begin{array}{lcl} (1)\gamma_k=\gamma_{-k}\qquad \rho_k=\rho_{-k}\\ (2)\gamma_k≤|\gamma_0|\qquad |\rho_k|≤1 \end{array} (1)γk=γ−kρk=ρ−k(2)γk≤∣γ0∣∣ρk∣≤1
(四)白噪声序列和独立同分布序列
1.白噪声序列
定义：若时间序列 { X t } \{X_t\} {Xt}满足下列性质，
( 1 ) E X t = 0 ( 2 ) E X t X s = { σ 2 , t = s 0 , t ≠ s \begin{array}{lcl} (1)EX_t=0\\ (2)EX_tX_s=\begin{cases}\sigma^2,t=s\\0,t≠s\end{cases} \end{array} (1)EXt=0(2)EXtXs={σ2,t=s0,t=s
则称此序列为白噪声序列。
白噪声序列是一种特殊的宽平稳序列，也是一种最简单的平稳序列。
2.独立同分布序列
定义：如果时间序列 { X t } \{X_t\} {Xt}中的随机变量 X t , t = 0 , ± 1 , ± 2 , . . . X_t,t=0,\pm1,\pm2,... Xt,t=0,±1,±2,...是相互独立的随机变量，且 X t X_t Xt具有相同的分布（当 X t X_t Xt有一阶矩时，往往还假定 E X t = 0 EX_t=0 EXt=0），则称 { X t } \{X_t\} {Xt}为独立同分布序列。
独立同分布序列 { X t } \{X_t\} {Xt}是一个严平稳序列
一般来说，白噪声序列与独立同分布序列是不同的两种序列。
但是当白噪声序列为正态序列时，它也是独立同分布序列，此时我们称其为正态白噪声序列。