09时间序列模型

《09时间序列模型》由会员分享，可在线阅读，更多相关《09时间序列模型（13页珍藏版）》请在装配图网上搜索。

1、第2章 时间序列模型时间序列分析方法由Box-Jenkins (1976) 年提出。它适用于各种领域的时间序列分析。时间序列模型不同于经济计量模型的两个特点是： 这种建模方法不以经济理论为依据，而是依据变量自身的变化规律，利用外推机制描述时间序列的变化。 明确考虑时间序列的非平稳性。如果时间序列非平稳，建立模型之前应先通过差分把它变换成平稳的时间序列，再考虑建模问题。 1随机过程、时间序列定义 2时间序列模型的分类 3自相关函数与偏自相关函数 4建模步骤（识别、参数估计、诊断检验） 5季节时间序列模型 6案例分析2.1 随机过程、时间序列为什么在研究时间序列之前先要介绍随机过程？就是要把时间序

2、列的研究提高到理论高度来认识。时间序列不是无源之水。它是由相应随机过程产生的。只有从随机过程的高度认识了它的一般规律。对时间序列的研究才会有指导意义。对时间序列的认识才会更深刻。自然界中事物变化的过程可以分成两类。一类是确定型过程，一类是非确定型过程。确定型过程即可以用关于时间t的函数描述的过程。例如，真空中的自由落体运动过程，电容器通过电阻的放电过程，行星的运动过程等。非确定型过程即不能用一个（或几个）关于时间t的确定性函数描述的过程。换句话说，对同一事物的变化过程独立、重复地进行多次观测而得到的结果是不相同的。例如，对河流水位的测量。其中每一时刻的水位值都是一个随机变量。如果以一年的水位纪

3、录作为实验结果，便得到一个水位关于时间的函数xt。这个水位函数是预先不可确知的。只有通过测量才能得到。而在每年中同一时刻的水位纪录是不相同的。随机过程：由随机变量组成的一个有序序列称为随机过程，记为x (s, t) , sS , tT 。其中S表示样本空间，T表示序数集。对于每一个 t, tT, x (, t ) 是样本空间S中的一个随机变量。对于每一个 s, sS , x (s, ) 是随机过程在序数集T中的一次实现。 x11, x21, , xT-11, xT1x12, x22, , xT-12, xT2 随机过程: : : : : x1s, x2s, , xT-1s, xTs 样本空间随

4、机过程简记为 xt 或 xt。随机过程也常简称为过程。随机过程一般分为两类。一类是离散型的，一类是连续型的。如果一个随机过程xt对任意的tT 都是一个连续型随机变量，则称此随机过程为连续型随机过程。如果一个随机过程xt对任意的tT 都是一个离散型随机变量，则称此随机过程为离散型随机过程。本书只考虑离散型随机过程。 连续型 严（强）平稳过程 随机过程 平稳的 离散型 宽平稳过程 非平稳的严（强）平稳过程：一个随机过程中若随机变量的任意子集的联合分布函数与时间无关，即无论对T的任何时间子集（t1, t 2, , tn）以及任何实数k, (ti + k) T, i = 1, 2, , n 都有 F(

5、 x(t1) , x(t2), , x(tn) ) = F(x(t1 + k), x(t2 + k), , x(tn + k) )成立，其中F() 表示n个随机变量的联合分布函数，则称其为严平稳过程或强平稳过程。严平稳意味着随机过程所有存在的矩都不随时间的变化而变化。严平稳的条件是非常严格的，而且对于一个随机过程，上述联合分布函数不便于分析和使用。因此希望给出不象强平稳那样严格的条件。若放松条件，则可以只要求分布的主要参数相同。如只要求从一阶到某阶的矩函数相同。这就引出了宽平稳概念。如果一个随机过程m阶矩以下的矩的取值全部与时间无关，则称该过程为m阶平稳过程。比如 E x(ti) = E x(

6、ti + k) = m , Varx(ti) = Varx(ti + k) = s 2 , Covx(ti), x(tj) = Covx (ti + k), x (tj + k) = s i j2 ,其中 m , s 2 和 s ij2 为常数，不随 t, (tT ); k, ( (tr + k) T, r = i, j ) 变化而变化，则称该随机过程 xt 为二阶平稳过程（协方差平稳过程）。该过程属于宽平稳过程。 如果严平稳过程的二阶矩为有限常数值，则其一定是宽平稳过程。反之，一个宽平稳过程不一定是严平稳过程。但对于正态随机过程而言，严平稳与宽平稳是一致的。这是因为正态随机过程的联合分布函数

7、完全由均值、方差和协方差所惟一确定。本书简称二阶平稳过程为平稳过程。时间序列：随机过程的一次实现称为时间序列，也用x t 或x t表示。 与随机过程相对应，时间序列分类如下， 连续型* （心电图，水位纪录仪，温度纪录仪） 时间序列 从相同的时间间隔点上取自连续变化的序列（人口序列） 离散型 一定时间间隔内的累集值（年粮食产量，进出口额序列）时间序列中的元素称为观测值。xt既表示随机过程，也表示时间序列。xt既表示随机过程的元素随即变量，也表示时间序列的元素观测值。在不致引起混淆的情况下，为方便，xt 也直接表示随机过程和时间序列。随机过程与时间序列的关系如下所示：随机过程: x1, x2, ,

8、 xT-1, xT,第1次观测：x11, x21, , xT-11, xT1第2次观测：x12, x22, , xT-12, xT2: : : : :第n次观测：x1n, x2n, , xT-1n, xTn某河流一年的水位值，x1, x2, , xT-1, xT,，可以看作一个随机过程。每一年的水位纪录则是一个时间序列，x11, x21, , xT-11, xT1。而在每年中同一时刻（如t = 2时）的水位纪录是不相同的。 x21, x22, , x2n, 构成了x2取值的样本空间。例如，要记录某市日电力消耗量，则每日的电力消耗量就是一个随机变量，于是得到一个日电力消耗量关于天数t的函数。而这

9、些以年为单位的函数族构成了一个随机过程 xt, t = 1, 2, 365。因为时间以天为单位，是离散的，所以这个随机过程是离散型随机过程。而一年的日电力消耗量的实际观测值序列就是一个时间序列。自然科学领域中的许多时间序列常常是平稳的。如工业生产中对液面、压力、温度的控制过程，某地的气温变化过程，某地100年的水文资料，单位时间内路口通过的车辆数过程等。但经济领域中多数宏观经济时间序列却都是非平稳的。如一个国家的年GDP序列，年投资序列，年进出口序列等。为便于计算，先给出差分定义。差分：时间序列变量的本期值与其滞后值相减的运算叫差分。首先给出差分符号。对于时间序列x t ，一阶差分可表示为 x

10、 t - x t -1 = D x t = (1- L) x t = x t - L x t (2.1)其中D 称为一阶差分算子。L 称为滞后算子，其定义是Ln x t = xt- n 。 二次一阶差分表示为， D2xt = D xt - D xt -1 = (xt - xt -1) (xt-1 - xt -2) = xt - 2 xt -1+ xt 2，或 D2xt = (1- L ) 2 xt = (1 2L + L 2 ) xt = xt 2 xt-1+ xt2 (2.2)k阶差分可表示为 xt - xt -k = Dk xt = (1- Lk ) xt = xt Lk xtk阶差分常用

11、于季节性数据的差分。下面介绍两种基本的随机过程（1） 白噪声（white noise）过程 白噪声过程：对于随机过程 xt , tT , 如果E(xt) = 0, Var (xt) = s 2 1也就是 | f1| 1解释如下：一阶自回归过程，xt = f 1 xt-1 + ut，可写为 (1- f1L) xt = ut xt = (1- f1 L)-1 ut 在 | f1| 1条件下，有xt = (1+ f1L + (f1 L) 2 + (f1 L) 3 +) ut 若保证AR(1)具有平稳性，必须收敛，即f1必须满足|f1| 1。这是容易理解的，如果|f1|1，发散，于是xt 变成一个非平

12、稳随机过程。由（2.7）式有 xt = ut + f1 ut-1 + f12 xt-2 = ut + f1 ut-1 + f12 ut-2 + （短记忆过程）因为ut 是一个白噪声过程，所以对于平稳的AR(1)过程 E(xt) = 0 Var (xt) = su2 + f12 su2 + f14su2 + = 上式也说明若保证xt平稳，必须保证 | f1| 1, | L2| 1（在单位圆外）或| l1| 1, | l2| 1 (2) 对于AR(2)模型，求特征方程的根要比AR(1)模型困难得多。下面利用特征方程的根与模型参数f 2，f 1的关系求保证AR(2)过程平稳的f 2，f 1的取值条件

13、（或值域）。由 (1) 式得l1 + l2 = += f 1 (3)l1 l2 = - = - f 2 (4)利用 (3)，(4) 式得f 2 + f 1 = - l1 l2 + (l1 +l2) = 1 (1- l1) (1- l2 )f 2 - f 1 = - l1 l2 - (l1 +l2) = 1 (1+ l1) (1+ l2 )无论 l1, l2为实数或共轭复数，由 |l1| 1, |l2| 0，从而得f 2 + f 1 1 (5)f 2 - f 1 1 (6)由 (2) 和 (4) 式得 -1 f 2 0 时，L1, L2 为不等实数根。f2, f1的值位于过阻尼区（自相关函数呈指

14、数衰减）。(3)当 f 12 + 4f 2 0 时，根为共轭复根。f 2, f 1的值位于欠阻尼区（自相关函数呈正弦震荡衰减）。例2 有AR(2) 模型xt = 0.7 xt -1 - 0.1 xt -2 + ut，试判别xt的平稳性。解：有3种方法。解法1：（检查f1, f2约束条件）+= 0.6，-+= -0.8，= - 0.1，满足条件（5）（6）（7），所以xt是平稳的。解法2：（因式分解求根）由原式得 (1 - 0.7 L + 0.1 L2 ) xt = ut 。 特征方程为， (1 - 0.7 L + 0.1 L 2 ) = 0 (1 - 0.2 L) (1- 0.5 L) = 0

15、特征方程的两个根是，L1 = 5，L2 = 2。因为两个根都在单位圆之外，所以xt是平稳的。解法3：（观察（f1, f2）点是否落在三角区）从图1看，因为（f1, f2）= (0.7, -0.1)，落在了AR(2) 过程的平稳域，落在了过阻尼区，所以xt为平稳过程。例3：有AR(2) 模型x t = 0.6 x t-1 - 0.1 x t-2 + ut ，试判别xt的平稳性。解：解法1：（检查f1, f2约束条件）+= 0.5，-+= -0.7，= - 0.1，满足条件（5）（6）（7），所以xt是平稳的。解法2：（因式分解求根）由原式得，(1 - 0.6 L + 0.1 L2 ) x t =

16、 ut ，特征方程为， (1 - 0.6 L + 0.1 L2 ) = 0因为特征方程中各项都是实数，所以其虚根必然是共轭的。 1- (0.3 - 0.1i ) L 1- (0.3 + 0.1i ) L = 0特征方程的两个根是， 3 + i L1 = = = 3 + i， 3 L2 = = 3 - i， 3 - i因为两个根都在单位圆之外，所以xt是平稳的随机过程。解法3：（观察（f1, f2）点是否落在三角区）从图1看，因为（f1, f2）= (0.6, -0.1)，落在了AR(2) 过程的平稳域，落在了欠阻尼区，所以xt为平稳过程。例4：有AR(2) 模型x t = 0.7 x t-1

17、+ 0.6 x t-2 + ut ，试判别xt的平稳性。解：解法1：（检查f1, f2约束条件）+= 1.3，-+= -0.1，= 0.6，条件（5）不满足，所以xt是非平稳的。解法2：（因式分解求根）由原式得，(1 - 0.7 L - 0.6 L2 ) xt = ut ，特征方程为， (1 - 0.7 z - 0.6 z 2 ) = 0(1 + 0.5 z ) (1- 1.2 z ) = 0特征方程的两个根是，z1 = -2，z2 = 0.83。因为一个根0.83在单位圆内，所以xt是一个非平稳的随机过程。解法3：（观察（f1, f2）点是否落在三角区）从图1看，因为（f1, f2）= (0

18、.7, 0.6)，落在了AR(2) 过程的非平稳域，所以xt为非平稳过程。对于一般的自回归过程AR (p)，特征多项式 F (L) = 1 - f1 L - f2 L2 - - fp Lp = (1 G1 L) (1 G2 L) . (1 Gp L)则xt 可表达为 xt = F -1 (L) ut = (+ +ut (2.8)其中k1, k 2, , k p 是待定系数。xt具有平稳性的条件是F -1 (L) 必须收敛，即应有| Gi | 1。由上式可看出一个平稳的AR(p)过程可以转换成一个无限阶的移动平均过程（p个无穷级数之和）。保证AR(p) 过程平稳的一个必要但不充分的条件是p个自回

19、归系数之和要小于1，即 重新分析随机游走过程。因为 f1 = 1，所以随机游走过程是一个非平稳的随机过程。 图2.2 AR(1)过程 图2.3 MA(1)过程(2) 移动平均过程如果一个剔出均值和确定性成分的线性随机过程可用下式表达xt = ut + q 1 ut 1 +q 2 ut -2 + + q q ut q = (1 + q 1L + q 2 L2 + +q q Lq) ut = Q(L) ut (2.9)其中q 1, q 2, , q q是回归参数，ut为白噪声过程，则上式称为q阶移动平均过程，记为MA(q) 。之所以称“移动平均”，是因为xt是由q +1个ut和ut滞后项的加权和构

20、造而成。“移动”指t的变化，“平均”指加权和。 由定义知任何一个q 阶移动平均过程都是由q + 1个白噪声变量的加权和组成，所以任何一个移动平均过程都是平稳的。与移动平均过程相联系的一个重要概念是可逆性。移动平均过程具有可逆性的条件是特征方程。 Q(z) = (1 + q 1 z + q 2 z2 + + q q zq)= 0 (2.10)的全部根的绝对值必须大于1。 由 (2.9) 有Q (L)-1xt = ut。由于Q (L) 可表示为 Q (L) = (1 H1 L) ( 1 H2 L) (1 Hq L)所以有 Q (L)-1 =（+）, (2.11)mi为待定参数。可见保证MA(q)过

21、程可以转换成一个无限阶自回归过程，即MA(q)具有可逆性的条件Q(L)-1收敛。对于 | L | 1，必须有|Hj| 1，j = 1，2，q成立。而Hj -1是特征方程Q (L) = (1 H1 L) ( 1 H2 L) (1 Hq L) = 0的根，所以MA(q)过程具有可逆性的条件是特征方程Q (L) = 0的根必须在单位圆之外。（因为x t =Q (L) ut是平稳的，如果变换成Q (L)-1 xt = ut 后，变得不平稳，显然失去可逆性。）注意，对于无限阶的移动平均过程 xt = q i u t -i) = ut (1+q1 L + q2 L 2 + ) (2.12)其方差为 Var

22、(xt) = q i2 Var (ut i) = su2 (2.13)很明显虽然有限阶移动平均过程都是平稳的，但对于无限阶移动平均过程还须另加约束条件才能保证其平稳性。这条件就是x t的方差必须为有限值，即 1, 或|q 1| 1。当|q1| 1时，MA(1)过程（2.14）应变换为 ut = (1+ q 1L) 1 xt = (1 - q 1L + q 12L2 - q 13L3 + ) xt (2.15)这是一个无限阶的以几何衰减特征为权数的自回归过程。 对于MA(1)过程有 E(x t) = E(ut) + E(q 1 ut - 1) = 0 Var(xt) = Var(ut) + Va

23、r(q 1 ut 1) = (1+q 12 ) su2 自回归与移动平均过程的关系 一个平稳的AR(p)过程(1 - f1L - f2L2 - - fpLp ) xt = ut可以转换为一个无限阶的移动平均过程， xt = (1 - f1L - f2L2 - - fpLp )-1 u t = F (L)-1 ut 一个可逆的MA(q)过程 xt = (1 + q 1L + q 2 L2 + +q q Lq ) ut = Q (L) ut可转换成一个无限阶的自回归过程， (1 + q 1L + q 2 L2 + +q q Lq)-1 xt = Q (L) -1 xt = ut 对于AR(p)过程

24、只需考虑平稳性问题，条件是F (L) = 0的根（绝对值）必须大于1。不必考虑可逆性问题。对于MA(q)过程，只需考虑可逆性问题，条件是Q (L) = 0的根（绝对值）必须大于1，不必考虑平稳性问题。（3）自回归移动平均过程由自回归和移动平均两部分共同构成的随机过程称为自回归移动平均过程，记为ARMA(p, q), 其中p, q分别表示自回归和移动平均部分的最大阶数。ARMA(p, q) 的一般表达式是 xt = f 1xt-1 + f 2xt-2 +f p xt-p + ut +q 1ut-1 + q 2 ut-2 + .+ q q ut-q (2.16)即 (1 - f 1L - f 2

25、L2 - - f p Lp ) xt = (1 + q 1 L + q 2 L2+ +q q Lq ) ut或 F (L) xt = Q (L) ut （2.17）其中 F (L) 和 Q (L) 分别表示L的p, q阶特征多项式。ARMA(p, q) 过程的平稳性只依赖于其自回归部分，即F (L) = 0的全部根取值在单位圆之外（绝对值大于1）。其可逆性则只依赖于移动平均部分，即Q (L) = 0的根取值应在单位圆之外。 图2.4 ARMA(1,1) 过程 图2.5 ARIMA(1,1,1) 过程实际中最常用的是ARMA(1, 1)过程。 xt - f 1xt-1 = ut +q 1 ut

26、- 1 (2.18)或（1 - f 1 L）xt =（1 + q 1 L）ut很明显只有当 1 f1 1和 1 q 1 1 时，上述模型才是平稳的，可逆的。（4）单整自回归移动平均过程 以上介绍了三种平稳的随机过程。对于ARMA过程（包括AR过程），如果特征方程F(L) = 0 的全部根取值在单位圆之外，则该过程是平稳的；如果若干个或全部根取值在单位圆之内，则该过程是强非平稳的。例如， xt = 1.3 xt-1 + ut（特征方程的根 = 1/ 1.3 = 0.77）上式两侧同减 xt-1得 Dxt = 0.3 xt-1 + ut仍然非平稳。除此之外还有第三种情形，即特征方程的若干根取值恰好

27、在单位圆上。这种根称为单位根，这种过程也是非平稳的。下面介绍这种重要的非平稳随机过程。假设一个随机过程含有d个单位根，其经过d次差分之后可以变换为一个平稳的自回归移动平均过程。则该随机过程称为单整自回归移动平均过程。伯克斯詹金斯积数十年理论与实践的研究指出，时间序列的非平稳性是多种多样的，然而幸运的是经济时间序列常常具有这种特殊的线性齐次非平稳特性（即参数是线性的，xt及其滞后项都是一次幂的）。对于一个非季节性经济时间序列常常可以用含有一个或多个单位根的随机过程模型描述。考虑如下模型 F (L)Dd yt = Q (L) ut (2.19)其中F(L) 是一个平稳的自回归算子。即F (z) =

28、 0 的根都大于1。Q (L)表示可逆的移动平均算子。若取 xt = Dd yt (2.20)则（2.19）可表示为 F (L) xt = Q (L) ut (2.21)说明yt 经过d 次差分之后，可用一个平稳的、可逆的ARMA过程xt 表示。 随机过程yt 经过d 次差分之后可变换为一个以F (L)为p阶自回归算子，Q (L)为q阶移动平均算子的平稳、可逆的随机过程，则称yt 为（p, d, q）阶单整(单积)自回归移动平均过程，记为ARIMA (p, d, q)。这种取名的目的是与以后各章中的称谓相一致。ARIMA过程也称为综合自回归移动平均过程。其中F (L) Dd称为广义自回归算子。

29、(2.19) 是随机过程的一般表达式。当p 0, d = 0, q 0 时，（2.19）变成ARMA (p, q)过程，d = 0, p = 0, q 0时，ARIMA过程变成AM(q)过程；而当 p = d = q = 0时，ARIMA过程变成白噪声过程。做Dd yt = xt的逆运算 yt = S d xt (2.22)其中S是无限累加（积分）算子。当d = 1 时，S xt 定义如下 S xt = = (1 + L + L2 + )xt = (1 L)-1 xt = D-1 xt = yt. (2.23)则 S = (1 L)-1 = D-1 (2.24)单整(单积)与差分互为逆运算。

30、例5：以yt = yt-1 + xt, y0 = 0为例，xt中元素的逐步叠加，得到的是 yt 序列。而yt的差分运算得到的是xt序列。y1 = x1y2 = x2 + x1y3 = x3 +x2 + x1yt-1 = xt-1 + + x3 +x2 + x1yt = xt + xt-1 + + x3 +x2 + x1可见S是D的逆运算。(2.23)表明随机过程xt经过逐步叠加之后可以得到yt。每次叠加类似于连续函数的一次积分，这就是为什么称AR1MA过程为单整自回归移动平均过程。“单整”在这里就是积分的意思。现在容易理解，随机游走过程（2.3）就是由白噪声过程累加一次而得到的。给出若干具体的

31、非平稳随机过程如下：1. ARIMA (0, 1, 1)过程Dyt = ut +q 1 ut 1 = (1 + q 1L)ut其中p = 0，d = 1，q = 1，F (L) = 1，Q (L) = 1+q 1 L。2. ARIMA(1, 1, 0)过程Dyt - f1Dyt 1 = u t其中p = 1，d = 1，q = 0，F (L) = 1 - f1 L，Q (L) = 1。 3.ARIMA(1,1,1)过程Dyt - f1Dyt -1 = ut + q 1 ut -1或 (1 - f1 L)Dyt 1= (1 + q 1L) ut其中 p = 1, d = 1, q = 1，F (

32、L) = 1 - f1 L，Q (L) = 1+ q 1 L。对于非季节经济时间序列p, d, q的取值很少有大于2的情景。这些参数的常见取值是0、1和2。如何判别其是自回归过程还是移动平均过程？如何判别其过程的阶数呢？如何通过一个时间序列研究其过程的平稳性呢？ Wold分解定理：任何协方差平稳过程xt，都可以被表示为xt - m - dt = ut + y1 ut-1+ y2 ut-2 + + = 其中m 表示xt的期望。dt 表示xt的线性确定性成分，如周期性成分、时间t的多项式和指数形式等，可以直接用xt的滞后值预测。y0 = 1， 。ut为白噪声过程。ut表示用xt的滞后项预测xt时的

33、误差。ut = xt - E(xt | xt-1, xt-2 , )称为xt的线性非确定性成分。当dt = 0时，称xt为纯线性非确定性过程。 Wold分解定理由Wold在1938年提出。Wold分解定理只要求过程2阶平稳即可。从原理上讲，要得到过程的Wold分解，就必须知道无限个yj参数，这对于一个有限样本来说是不可能的。实际中可以对yj做另一种假定，即可以把Y (L)看作是2个有限特征多项式的比， Y(L) = 注意，无论原序列中含有何种确定性成分，在前面介绍的模型种类和后面介绍的自相关函数、偏自相关函数中都假设在原序列中已经剔除了所有确定性成分，是一个纯的随机过程（过程中不含有任何确定性成分）。如果一个序列如上式， xt = m + dt + ut + y1 ut-1+ y2 ut-2 + +则所有研究都是在(xt - m - dt)的基础上进行。例如前面给出的各类模型中都不含有均值项、时间趋势项就是这个道理。13