第九章时间序列分析精选文档.ppt

《第九章时间序列分析精选文档.ppt》由会员分享，可在线阅读，更多相关《第九章时间序列分析精选文档.ppt（100页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第九章 时间序列分析1本讲稿第一页，共一百页第一节时间序列基础预测知识一 线性最小二乘法（Linear Least Squares Prediction,LLS)假设X和Y是两个散点分布的随机变量，它们具有某种联合分布。它们的期望、方差、协方差分别是：X x E Y =y本讲稿第二页，共一百页 X x X x E Y-y Y-y =R S S Q本讲稿第三页，共一百页其中，X的期望E(X)=x,Y的期望E(Y)=y,X的方差E(X-x)2=R Y的方差E(Y-y)2=Q COV(XY)=E(X-x)(Y-y)=S 本讲稿第四页，共一百页现假设我们可以观测到X的一组值，如何预测Y呢？即如何利用X

2、推知Y，假设只知道它们的期望、方差和协方差。我们可以利用这些已知条件求出Y的线性最小二乘估计值。本讲稿第五页，共一百页假设这一线性形式为：Yhat=a+b(X-x)我们的任务是在使平均平方误差（均方误）最小的情况下求出a和b的值。MSE=EY-Yhat2=EY-a-b(x-x)2=E(Y-y)-(a-y)-b(X-x)2本讲稿第六页，共一百页=E(Y-y)2+E(a-y)2+b 2 E(X-x)2-2E(Y-y)(a-y)+2bE(X-x)(a-y)-2bE(Y-y)(X-x)=Q+(a-y)2+b 2 R-2bS分别对a和b求导，令其为零2（a-y）=0,所以a=y,2bR-2S=0,b=S

3、/R=SR-1所以，Yhat=y+SR-1(X-x)也可以写成：Yhat=y+cov(X,Y)/var(x)*(X-x)(X-x)的系数表明我们所估计Y值受观测值X影响程度的大小，它和X的方差成反比，X、Y的协方差成正比。本讲稿第七页，共一百页二，线性最小二乘估计的特点1，Y的估计值和Y的期望相同。证明：E（Yhat）=Ey+SR-1(X-x)=y 本讲稿第八页，共一百页2,线性转换如C是任一常数，则CY的LLS估计是CYhat.证明：令Z=CYYhat=a+b(X-x)根据定义：Zhat=z+cov(X,Z)/var(X)*(X-x)本讲稿第九页，共一百页z=E(CY)=C y Cov(X,

4、Z)=E(X-x)(Z-z)=E(X-x)(CY-C y)=C E(X-x)(Y-y)=C cov(X,Y)本讲稿第十页，共一百页将结果代入定义：Zhat=z+cov(X,Z)/var(X)*(X-x)=C y+C cov(X,Y)/var(X)*(X-x)=Cy+cov(X,Y)/var(X)*(X-x)=CYhat本讲稿第十一页，共一百页3，线性组合Y1、Y2的LLS估计分别是Y1hat Y2hat.则Y1+Y2的LLS估计为Y1hat+Y2hat.证明：已知：Y1hat=y1+S1R-1(X-x)Y2hat=y2+S2R-1(X-x)本讲稿第十二页，共一百页根据定义：Zhat=z+cov

5、(XZ)/var(X)(X-x)z=E(Y1+Y2)=y1+y2,cov(XZ)=E(X-x)(Z-z)=E(X-x)(Y1+Y2-y1-y2)=E(X-x)(Y1-y1)+E(X-x)(Y2-y2)=cov(X,Y1)+cov(X,Y2)本讲稿第十三页，共一百页Zhat=z+cov(XZ)/var(X)(X-x)=y1+y2+cov(X,Y1)+cov(X,Y2)/var(X)(X-x)=Y1hat+Y2hat本讲稿第十四页，共一百页4,MSE(Yhat)=E(Y-Yhat)2=EY-y -SR-1(X-x)2=E(Y-y)2-2 SR-1E(X-x)(Y-y)+S 2 R-2 E(X-x)

6、2=Q-S 2R-1本讲稿第十五页，共一百页第二节时间序列基本概念一，平稳性定义 任何一个时间序列都可以被看作是由随机过程产生的结果。如果一个随机过程所产生的时间序列均值和方差在任何时间过程上都是常数，并且任何两个时期之间的协方差仅依赖于这两个时期的距离或滞后，而不依赖于计算这个协方差的实际时间，就称该时间序列是平稳的（Stationary)。本讲稿第十六页，共一百页我们可以把上述的描述表达成下式:如果时间序列Yt具有下列性质：1，E(Yt)=,2,var(Yt)=2,3,cov(Yt Y t+k)=E(Yt-)(Yt+k-)=rk,本讲稿第十七页，共一百页二，自协方差函数和自相关函数如果Yt

7、的均值为0，那么rk=E(Yt Y t+k)被称为自协方差函数定义：k rk/r0,为自相关函数r0=E(Yt Y t)=var(Y t)=2,本讲稿第十八页，共一百页三，滞后算子(Lag operator)为了使计算简单，引入滞后算子的概念。定义L Y t=Y t-1,L2Yt=Y t-2,.LsYt=Y t-s,例如Y t 1.5 Y t-1 0.6 Y t-2=（11.5L+0.6L2)Yt,本讲稿第十九页，共一百页第三节自回归模型(AR)一，AR模型的定义 如果时间序列Y t可以表示为它先前的值和一个误差项的线性函数，称此模型为自回归模型(Autoregressive Models,记

8、做AR（p)。一般的表达式是：Y t 1 Y t-1+2 Y t-2+.p Y t-p+t,本讲稿第二十页，共一百页 t为白噪声序列，它满足以下条件：1,E(t)=0,2,E(t s)=2 t=s 0 t s3,E(t Y t-i)=0可以进一步假设误差项服从于正态分布，期望是0，方差是固定的常数 2。条件3表明t时刻的误差 t与Y t的过去值无关。同时为简单起见，假设E(Y t)=0,该假设一直存在，除非特别说明。本讲稿第二十一页，共一百页利用滞后算子，可以把AR(p)表示成：Y t 1 L Y t+2 L2 Y t+.p L p Y t+t,(1-1 L-2 L2-p L p)Y t=t,

9、令（L）(1-1 L-2 L2-p L p)（L）Y t=t,或 Y t=（L）1 t AR（1)模型：Y t 0.5 Y t-1+t，可以写成(1-0.5L)Y t=t,或 Y t=(1-0.5L)1 t Y t 0.6 Y t-1+0.4Y t-2 t，可以写成：(1-0.6 L-0.4 L2)Y t=t，本讲稿第二十二页，共一百页二，AR（1）平稳的必要条件Y t Y t-1+t对上式两边平方再取期望E(Y t 2)=2 E(Y t-12)+E(t 2)+2 E(Y t-1 t)=2 E(Y t-12)+2 如果Y t序列是平稳的，则在任何时候的方差是相同的，所以 E(Y t 2)=E(

10、Y t-12)y 2 本讲稿第二十三页，共一百页 y 2=2/（1-2）,因为 y 2是非负的，所以 2/1-2 0，从而就有|1,因此|1是AR（1）模型平稳的必要条件。本讲稿第二十四页，共一百页三，AR模型的自相关函数 1，AR（1）的自相关函数 Y t Y t-1+t 其自协方差函数为：r1 cov(Y t Y t-1)=E(Y t Y t-1)=E(Y t-1+t)Y t-1=E(Y t-12)=r0,r2=cov(Y t Y t-2)=E(Y t Y t-2)=E(Y t-1+t)Y t-2=E(Y t-1 Y t-2)=r1 =2 r0,r3=cov(Y t Y t-3)=E(Y

11、t Y t-3)=E(Y t-1+t)Y t-3=E(Y t-1 Y t-3)=r2 =3r0,本讲稿第二十五页，共一百页 rk=kr0,所以，根据自协方差函数，可以计算出自相关函数为：k rk/r0 k，如果Y t是平稳的，|0)当k=1,2时1 1+2 1,2 1 1+2,1 1/（1-2）,2 1 2/（1-2）+2,本讲稿第三十页，共一百页例题求AR（2):Y t 0.6 Y t-1 -0.2Y t-2 t，自相关系数（k=0,1,2)可以按照上面推导的公式，直接计算。1 1/1-2 0.6/1-(-0.2)=0.6/1.2=0.52 1 2/1-2+2=0.36/1.2-0.2=0.

12、1也可以按照定义来计算本讲稿第三十一页，共一百页r1 cov(Y t Y t-1)=E(Y t Y t-1)E(0.6 Y t-1 -0.2Y t-2 t)Y t-1 =0.6 r0 0.2 r1r2cov(Y t Y t-2)=E(Y t Y t-2)E(0.6 Y t-1 -0.2Y t-2 t)Y t-2 =0.6 r1 0.2 r01 1+2 1,2 1 1+2,所以自相关函数k 1 k-1+2 k-2,(k0)本讲稿第三十二页，共一百页也可以得到相同的结果。3 0.6 2-0.2 1 0.6*0.1-0.2*0.50.06-0.1-0.044 0.6 3-0.2 2，0.6*（-0.

13、04）-0.2*0.1-0.024-0.02 -0.044本讲稿第三十三页，共一百页AR(p)自协方差函数和自相关函数Y t 1 Y t-1+2 Y t-2+.p Y t-p+tr1=1 r 0+2 r 1+.p r p-1 r2=1 r 1+2 r 0+.p r p-2.rk=1 r k-1+2 r k-2+.p r k-p 本讲稿第三十四页，共一百页1 1+2 1+p -1 2 1 1+2+p 2k 1 k-1+k-2+p k-p上述方程组被称为Yule-Walker 方程。p阶的Yule-Walker 方程可以用矩阵形式表达1 1 1 -1 1 2 1 1 2 2.=k -1 2 1 p

14、 本讲稿第三十五页，共一百页四，AR（p）模型的参数估计Y t 1 Y t-1+2 Y t-2+.p Y t-p+t 根据样本观测值,可以利用最小二乘法估计模型,得到所有参数 1 2.p的估计值。本讲稿第三十六页，共一百页也可以利用Yule-Walker 方程，以样本自相关函数代替总体自相关函数，也可以估计出所有的参数。rk=E(Yt Y t+k)为总体自协方差函数rk hat=1/n(Yt-Ybar)(Y t+k-Ybar)r0=E(Yt Y t)=var(Y t)r0hat=1/n(Yt-Ybar)2k rk/r0,为总体自相关函数khat=rk hat/r0hat,本讲稿第三十七页，共一

15、百页我们以AR（1）和AR（2）为例Y t 1 Y t-1+t 1 hat=1 hat=r1hat/r0hat 2=r0hat-1 r1hat=r0hat(1-1 hat2)本讲稿第三十八页，共一百页Y t 1 Y t-1+2 Y t-2 +t1hat=1 hat+2 hat 1 hat2hat=1 hat 1 hat+2 hat 可以求出：1 hat=（1 hat-1 hat 2hat）/（1-1 hat2）2 hat=（2hat-1 hat2）/（1-1 hat2）2=r0hat（1-1 hat 1 hat-2 hat 2hat）本讲稿第三十九页，共一百页第四节 移动平均模型一，移动平均模

16、型（Moving Average models,MA(q)定义如果时间序列Y t是现在和过去误差的线性组合，即Y t t 1 t 1 2 t 2 q t-q 则上式为Y t的移动平均模型，记做MA(q)本讲稿第四十页，共一百页如果用滞后算子表示：Y t（1 1 L-2 L2-.q Lq)t,=(L)t,t=(L)-1 Y t 本讲稿第四十一页，共一百页二，MA模型的自协方差函数和自相关函数r0 E(Y t 2)=E(t 1 t 1 2 t 2 q t-q )2,=2(1+1 2+2 2+q 2)rk E(t 1 t 1 2 t 2 q t-q )(t-k 1 t k-1 2 t k-2 q t

17、k-q )=2(k+1 k+1+q-k q)1 k q 0 kq本讲稿第四十二页，共一百页 k=(k+1 k+1+q-k q)/(1+1 2+2 2 +q 2)1 k q 0 kq从上式可以看出，MA序列自相关函数序列的前q项是非零的，q+1项以后是零，我们称其为截尾。本讲稿第四十三页，共一百页我们现以MA(1）和MA(2)模型为例1，Y t t t 1 r0 E(Y t 2)E(t t 1)2 =2(1+2)r1 E(Y t Y t-1)=E(t t 1)(t-1 t 2)=-2 r2 E(Y t Y t-2)=E(t t 1)(t-2 t 3)=0本讲稿第四十四页，共一百页 0=1 1=-

18、/(1+2)k=0 (k=2 3.)所以对于MA(1)模型而言，k1之后自相关系数就是零了。本讲稿第四十五页，共一百页2 MA(2)模型Y t t 1 t 1 2 t 2r0 E(Y t 2)E(t t 1 2 t 2)2 2(1+1 2+2 2）r1 E(Y t Y t-1)=E(t 1 t 1 2 t 2)(t-1 1 t 2 2 t 3)(-1 1 2)2 本讲稿第四十六页，共一百页r2 E(Y t Y t-2)=E(t 1 t 1 2 t 2)(t-2 1 t 3 2 t 4)2 2 r3E(Y t Y t-3)=E(t 1 t 1 2 t 2)(t-3 1 t 4 2 t 5)0本讲

19、稿第四十七页，共一百页 0=1 1=（-1 1 2）/(1+1 2+2 2)2=2/(1+1 2+2 2)k=0 (k=3 4.)MA(2)从k2之后自相关系数就为零了。所以根据前面的推导，MA（q）模型从kq之后自相关系数就是零了。本讲稿第四十八页，共一百页三 MA模型的可逆性对于MA模型而言，我们关注 的是它是否是可逆的。所谓可逆指的是MA（1)转换成自回归模型本讲稿第四十九页，共一百页Y t t t 1 或 t Y t+t 1 相应地 t 1 Y t1+t 2 t Y t+t 1 Y t+（Y t1+t 2）Y t+Y t1 2 t 2重复迭代下去，本讲稿第五十页，共一百页 t Y t+

20、j Y tj j+1 t-j-1当|1地话，表明时间越滞后，对今天的影响越大，这是不合常理的。本讲稿第五十二页，共一百页三 MA模型估计问题2，线性迭代法本讲稿第五十三页，共一百页rk=2(1+1 2+2 2+q 2)k=0 2(k+1 k+1+q-k q)1 k q上式是有q+1个参数的非线性方程组。可以有不同的求解方法。1，直接求解法本讲稿第五十四页，共一百页当q=1时，即一阶的移动平均模型。我们可以得到：r0hat=2(1+1 2)r1hat=-1 2 1=-r1hat/2 将 1代入r0hat=2(1+1 2)=2 1+（-r1hat/2）2本讲稿第五十五页，共一百页化简得到：4-r0

21、hat 2+r1hat2=0 2 hat=r0hat +r0hat2-4 r1hat2/2=r0hat1+1-4 1 hat2/2 1 hat=-r1hat/2=-r1hat/r0hat1+1-4 1 hat2/2=-2 1 hat/1+1-4 1 hat2 本讲稿第五十六页，共一百页上述参数估计有两个解，可以根据可逆性的条件来判断选取。2 hat=r0hat1+1-4 1 hat2/2 1 hat=-2 1 hat/1+1-4 1 hat2 本讲稿第五十七页，共一百页r0hat=2(1+1 2+2 2)1r1hat=2（-1+1 2）2r2hat=-2 2 3由后两个方程可以得出：2 hat

22、=-r2hat/2 1 hat=-r1hat/(2+r2hat)然后将结果再代入第一个方程，得到：r0hat=2 1+（-r2hat/2）2+-r1hat/(2+r2hat)2可以得到 2的三次方程，可得 2三个根，相应也有 1 hat、2 hat三个解。对于q2时，求解较为复杂，因此，q较大时用线性迭代法。本讲稿第五十八页，共一百页第五节 自回归移动平均模型一，定义，如果Y t是先前序列值和当前及过去误差的线性组合，即Y t 1 Y t-1+2 Y t-2+p Y t-p+t 1 t 1 2 t 2 q t-q 称上式为Y t的自回归移动平均模型（Autoregressive Moving

23、Average Models,记做ARMA(p,q),p q分别表示自回归和移动平均的阶数本讲稿第五十九页，共一百页用滞后算子来表示：（1 1 L-2 L2-p Lp)Y t=(1-1 L-2 L2-q Lq)t (L)Y t=(L)t本讲稿第六十页，共一百页二ARMA模型的自协方差函数和自相关函数1,ARMA（1，1）Y t Y t-1+t t 1把上式改写成：Y t Y t-1 t t 1本讲稿第六十一页，共一百页E(Y t t)=2 E(Y t t-1)=E(Y t-1+t t 1)t-1 =2-2,=(-)2 本讲稿第六十二页，共一百页r0 E(Y t 2)=E(Y t-1+t t 1

24、)2=2 E(Y t-1)2+E(t)2+2 E(t 1)2 +2 E(Y t-1 t)-2 E(Y t-1 t 1)-2 E(t t-1)=2 r0+2+2 2-2 2 r0 2(1+2-2 )/(1-2)本讲稿第六十三页，共一百页r1=E(Y t Y t-1)=E(Y t-1+t t 1)Y t-1 =r0 -2 =2(1+2-2 )/(1-2)-2,=2(1-)(-)/(1-2)上式是通分化简后得到的最后结果本讲稿第六十四页，共一百页r2=E(Y t Y t-2)=E(Y t-1+t t 1)Y t-2 =r1 2(1-)(-)/(1-2)本讲稿第六十五页，共一百页r3=E(Y t Y

25、t-3)=E(Y t-1+t t 1)Y t-3 =r2 2(1-)(-)/(1-2)rk=rk-1,k1(k=2,3.)本讲稿第六十六页，共一百页所以自相关函数为:1=r1/r0=(1-)(-)/(1+2-2 )对于k1,k=k k-1,本讲稿第六十七页，共一百页 2=1 (1-)(-)/(1+2-2 )3=2 2(1-)(-)/(1+2-2 )k=k k-1 k-1(1-)(-)/(1+2-2 )由此可以看出ARMA（1，1）是拖尾的本讲稿第六十八页，共一百页例题Y t 0.6 Y t-1 t 0.4 t 1+0.04 t 2，E(Y t t)=2 E(Y t t-1)=E(0.6Y t-

26、1+t 0.4 t 1 +0.04 t 2)t-1=0.6 2 0.4 2,=0.2 2 本讲稿第六十九页，共一百页E(Y t t-2)=E(0.6Y t-1+t 0.4 t 1 +0.04 t 2)t-20.6*0.2 2+0.04 2 0.16 2 E(Y t t-1)E(Y t1 t-2)0.2 2，将这一结果代入上式即可本讲稿第七十页，共一百页利用上面的结果，计算自协方差和自相关函数首先将初始模型左右同乘以Y t，再取期望（1）r0 0.6 r1 E(Y t t)-0.4 E(Y t t-1)+0.04 E(Y t t-2)=2(1-0.4*0.2+0.04*0.16)=2(1-0.0

27、8+0.0064)=0.9264 2 本讲稿第七十一页，共一百页同乘以Y t-1，再取期望(2)r1 0.6 r0 E(Y t1 t)-0.4 E(Y t1 t-1)+0.04 E(Y t1 t-2)2（-0.4+0.04*0.2）-0.392 2 本讲稿第七十二页，共一百页同乘以Y t-2，再取期望3,r2 0.6 r1 E(Y t2 t)-0.4 E(Y t2 t-1)+0.04 E(Y t2 t-2)=0.04 2 本讲稿第七十三页，共一百页解上面的方程组首先（2）*0.6+（1）r0 2 0.6912/0.64=1.08 2 代入（2）式r1 0.6 r0 0.392 2 （0.6*1

28、.08-0.392）2 0.256 2 本讲稿第七十四页，共一百页代入（3）式r2 0.6 r1 0.04 2 2（0.6*0.256+0.04）0.1936 2 1=r1/r0=0.256/1.08=0.237037 2=r2/r0=0.1936/1.08=0.179259本讲稿第七十五页，共一百页rk 0.6 rk-1=0 k2所以k 0.6 k-1 0 30.6 2 0.6*0.1792590.10756 40.6 3 0.6*0.107560.06453本讲稿第七十六页，共一百页二ARMA（1，1)模型的平稳性和可逆性的判断。|1是AR（1）模型平稳的必要条件|2的时间序列比较少见，但

29、是经济异常时也会发生，如恶性通货膨胀时的物价水平就是一个I(3)。本讲稿第八十四页，共一百页二，虚假回归(spurious regression)经济时间序列时常有一个长期所谓趋势，或近似单位根，即大多数的经济时间序列是非平稳的。如果我们直接对非平稳的时间序列进行回归，可能会出现：1，高R22，很低的标准差（低SE）3，d趋于0（DW值）一般地，当R2d,时，上述回归就可能是虚假回归或谬误回归。（经验上的）本讲稿第八十五页，共一百页三，为了避免虚假回归，必须事先进行单位根的检验，即首先检验该序列是否是平稳的。常用的单位根检验被称为DF检验（Dickey Fuller Test)本讲稿第八十六页

30、，共一百页Y t Y t-1+t使用最小二乘法估计上述模型，我们要检验的是：H0:1，Y t 是非平稳的。H1:1）向量自回归模型为：Y t Y t-1+t是nn的常数项矩阵 t 是白噪声。本讲稿第九十七页，共一百页上式可以写成：Y t（I+)Y t-1+t为了保证没有爆炸根，矩阵（I+)的每一个特征根必须满足|i|1。在这一前提下，会有三种结果：1，0，即所有的i等于1，Y t中的所有元素都是随机游走。可能彼此间存在相关，但是不存在长期均衡关系。本讲稿第九十八页，共一百页2，rank()=n,（I+)中的每一个特征值都小于1，所以 Y t中的每一个元素都是平稳的。3，rank()r,0rn,|i|1,存在协整关系。本讲稿第九十九页，共一百页本讲稿第一百页，共一百页