时间序列(ARIMA)模型

时间序列ARIMA模型

时间序列ARIMA模型——学习笔记

用于对数据的回归与分析

1.平稳性

  1. 平稳性就是要求经由样本时间序列所得到的拟合曲线在未来的一段期间内仍能顺着现有的形态“惯性”地延续下去
  2. 平稳性要求序列的均值和方差不发生明显变化

严平稳与弱平稳

  1. 严平稳表示的分布不随时间的改变而改变。如:白噪声(正态),无论怎么取,都是期望为0,方差为1
  2. 弱平稳的期望与相关系数(依赖性)不变,未来某时刻的t的值Xt就要依赖与它的过去信息,所以需要依赖性

差分法:时间序列在t与t-1时刻的差值,使所用数据平稳化

一阶差分:t(n)-t(n-1)
二阶差分:一阶差分上再做一阶差分t(n)-2t(n-1)+t(n-2)

2.ARIMA模型

自回归模型(AR)

1.描述当前值与历史值之间的关系,用变量自身的历史时间数据对自身的预测
2.自回归模型必须满足平稳性要求
3.p阶自回归过程公式定义:
y t = μ + ∑ i = 1 p γ i y t − i + ε t y_t = \mu + \sum_{i=1}^p \gamma_i y_{t-i}+\varepsilon_t yt=μ+i=1pγiyti+εt
其中:
y t y_t yt是当前值, μ \mu μ是常数项,p是阶数, γ i \gamma_i γi是自相关系数, ε t \varepsilon_t εt是误差。
可以通过最大似然估计和最小二乘法求解 γ i \gamma_i γi.

自回归模型的限制

1.自回归模型是用自身的数据来进行预测;
2.必须具有平稳性;
3.必须具有自相关性,如果自相关系数 φ i \varphi_i φi<0.5,则不宜采用;
4.自回归只适用于预测与自身前期相关的现象。

移动平均模型(MA)

1.移动平均模型关注的是自回归模型中的误差项的累加;
2.q阶自回归的公式为: y t = μ + ε t + ∑ i = 1 q θ i ε t − i y_t = \mu +\varepsilon_t + \sum_{i=1}^q \theta_i \varepsilon_{t-i} yt=μ+εt+i=1qθiεti
3.移动平均法能有效地消除预测中的随机波动。

自回归移动平均模型(ARMA)

1.自回归与移动平均的结合;
2.公式: y t = μ + ∑ i = 1 p γ i y t − i + ε t + ∑ i = 1 q θ i ε t − i y_t = \mu + \sum_{i=1}^p \gamma_iy_{t-i} + \varepsilon_t + \sum_{i=1}^q\theta_i\varepsilon_{t-i} yt=μ+i=1pγiyti+εt+i=1qθiεti

ARIMA

1.ARIMA(p,d,q)模型全称:差分自回归移动平均模型
2.AR:自回归;p:自回归项;MA:移动平均;q:移动平均项数;d:时间序列成为平稳时所作的差分次数。
3.原理:将非平稳时间序列转化为平稳时间序列,然后将因变量仅对他的滞后值以及随机误差项的现值和滞后值进行回归所建立的模型。

3.相关函数评估方法

自相关函数ACF

1.有序的随机变量序列与其自身相比较;自相关函数反映了同一序列在不同时序的取值之间的相关性
2.公式: A C F ( K ) = ρ k = C o v ( y t , y t − k ) V a r ( y t ) ACF(K) = \rho_k = \frac{Cov(y_t,y_{t-k})}{Var(y_t)} ACF(K)=ρk=Var(yt)Cov(yt,ytk), ρ k \rho_k ρk的取值范围为[-1,1]

偏自相关函数PACF

1.对于一个平稳的AR(p)模型,求出滞后k自相关系数p(k)时,实际上得到的并不是x(t)与x(t-k)之间单纯的相关关系
2.x(t)同时还会受到中间k-1个随机变量x(t-1),x(t-2),x(t-3)……,x(t-k+1)的影响,而这k-1个随机变量又都和x(t-k)具有相关关系,所以自相关系数p(k)里实际掺杂了其他变量对x(t)与x(t-k)的影响
3.剔除了中间k-1个随机变量x(t-1),x(t-2),x(t-3)……,x(t-k+1)的干扰后,x(t-k)对x(t)的影响的相关程度
4.ACF还包含了其他变量的影响,而偏自相关系数PACF是严格这两个变量之间的相关性

4.建立ARIMA模型

ARIMA(p,d,q)确定

模型 ACF PACF
AR§ 衰减趋于零(几何型或震荡型) p阶后截尾
MA(q) q阶后截尾 衰减趋于零(几何型或震荡型)
ARMA(p,q) q阶后衰减趋于零(几何型或震荡型) p阶后衰减趋于零(几何型或震荡型)

截尾:落在置信区间为95%的点都符合该规则。

ARIMA建模流程

1.将序列平稳(差分法确定d)
2.p和q阶数确定:ACF和PACF
3.ARIMA(p,d,q)

5.参数选择

模型选择AIC和BIC:选择更简单的模型

1.AIC赤池信息准则: A I C = 2 k − 2 l n ( L ) AIC = 2k - 2ln(L) AIC=2k2ln(L)
2.BIC贝叶斯信息准则: B I C = k l n ( n ) − 2 l n ( L ) BIC = kln(n) - 2ln(L) BIC=kln(n)2ln(L)
k为模型参数,n为样本数量,L为似然函数

模型残差检验

1.ARIMA模型的残差是否是平均值为0且方差为常数的正态分布
2.QQ图:线性即为正态分布

你可能感兴趣的:(概率论,数据分析)