应用数学基础--随机过程-4.ppt

《应用数学基础--随机过程-4.ppt》由会员分享，可在线阅读，更多相关《应用数学基础--随机过程-4.ppt（85页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、平稳随机过程平稳随机过程硕士研究生学位课程硕士研究生学位课程应用数学基础应用数学基础(Stationary stochastic process)(Stationary stochastic process)(演示文稿演示文稿)主讲教师主讲教师 段禅伦段禅伦 20082008年秋季学期年秋季学期第八章第八章 时间序列分析时间序列分析 时间序列是指按时间先后顺序排列的随机序列时间序列是指按时间先后顺序排列的随机序列,或者或者说是定义在概率空间说是定义在概率空间(,F,P)(,F,P)上的一串有序随机变量集上的一串有序随机变量集合合 X Xt t,t,t=0,1,=0,1,简记为简记为 X Xt

2、t;它的每一个样本它的每一个样本(现实现实)序列序列,是指按时间先后顺序对是指按时间先后顺序对X Xt t所反映的具体随机现象或所反映的具体随机现象或系统进行观测或试验所得到的一串动态数系统进行观测或试验所得到的一串动态数 X Xt t,t,t=0,1,=0,1,.所谓时间序列分析所谓时间序列分析,就是根据有序随机变量或者观测就是根据有序随机变量或者观测得到的有序数据之间相互依赖所包含的信息得到的有序数据之间相互依赖所包含的信息,用概率统计用概率统计方法定量地建立一个合适的数学模型方法定量地建立一个合适的数学模型,并根据这个模型对并根据这个模型对相应序列所反映的过程或系统作出预报或进行控制相应

3、序列所反映的过程或系统作出预报或进行控制.本章主要以平稳时间序列为讨论对象本章主要以平稳时间序列为讨论对象,着重介绍一类着重介绍一类具体的具体的,在自然科学、工程技术及社会、经济学的建模分在自然科学、工程技术及社会、经济学的建模分析中起着非常重要作用的平稳时间序列模型析中起着非常重要作用的平稳时间序列模型-自回归滑自回归滑动平均模型动平均模型,简称简称ARMAARMA模型模型.ARMAARMA模型模型8.1 ARMA8.1 ARMA模型模型1.1.自回归模型自回归模型 设设 X Xt t 为零均值的实平稳时间序列为零均值的实平稳时间序列,定义定义阶数为阶数为p p的自的自回归模型回归模型为为

4、X Xt t=1 1X Xt-1t-1+2 2X Xt-2t-2+p pX Xt-pt-p+a+at t,()EaEat t=0,=0,EaEat tX Xt t=0,s=0,st,t,EaEas sa at t=模型模型()简记为简记为AR(pAR(p).).AR(pAR(p)是一个动态模型是一个动态模型,是时间序列是时间序列 X Xt t 自身回归的表自身回归的表达式达式,所以称所以称自回归模型自回归模型.满足满足AR(pAR(p)模型的随机序列称为模型的随机序列称为AR(pAR(p)序列序列,其中其中 y yk k,k,k=1,2,p=1,2,p称为称为自回归系数自回归系数.从白从白噪声

5、序列噪声序列aat t 所满足的条件看出所满足的条件看出,a,at t之间互不相关之间互不相关,且且a at t与与以前的观测值也不相关以前的观测值也不相关,a,at t 亦称为亦称为新信息序列新信息序列,在时间在时间序列分析的预报理论中有重要应用序列分析的预报理论中有重要应用.,t=s,t=s,0,0,tsts.ARMAARMA模型模型 为方便起见为方便起见,引进引进延迟算子概念延迟算子概念.令令 BXBXt t=X=Xt-1t-1,B,B2 2X Xt t=B(BXB(BXt t)=X)=Xt-2 t-2.一般有一般有B Bk kX Xt t=X Xt-kt-k(k(k=1,2,3,),=

6、1,2,3,),称称B B为为一步延迟算子一步延迟算子,B Bk k为为k k步延迟算子步延迟算子.于是于是()式可以写成式可以写成 (B)X(B)Xt t=a=at t,(,()其中其中(B(B)=1-)=1-1 1B-B-2 2B B2 2-p pB Bp p.(.()对于对于()式的式的AR(pAR(p)模型模型,若若满足条件满足条件:(B(B)=0)=0的根全在的根全在单单位圆外位圆外,即所有根的模都大于即所有根的模都大于l,l,则称此条件为则称此条件为AR(pAR(p)模型模型的的平稳性条件平稳性条件.当模型当模型()满足平稳性条件时满足平稳性条件时,-1-1(B)(B)存存在在且一

7、般是且一般是B B的幂级数的幂级数,于是于是()式又可写作式又可写作 X Xt t=-1-1(B)a(B)at t.ARMAARMA模型模型称为称为逆转形式逆转形式.模型模型()可以看做是把相关的可以看做是把相关的 X Xt t 变为一变为一个互不相关序列个互不相关序列aat t 的系统的系统.2.2.滑动平均模型滑动平均模型 设设 X Xt t 为零均值的实平稳时间序列为零均值的实平稳时间序列,定义定义阶数为阶数为q q的滑的滑动平均模型动平均模型为为 X Xt t=a=at t-1 1a at-1t-1-q qa at-qt-q,(,()其中其中(k k,k,k=1,2,q.=1,2,q.

8、t t称为称为滑动平均系数滑动平均系数并简记并简记()模型为模型为MA(qMA(q).).满足满足MA(qMA(q)模型的随机序列称为模型的随机序列称为MA(qMA(q)序列序列.用延迟算子表示用延迟算子表示,(,()式可以写成式可以写成 X Xt t=(B)a(B)at t,(,()其中其中(B(B)=1-)=1-1 1B-B-q qB Bq q.(.()对于对于()式的式的MA(qMA(q)模型模型,若满足条件若满足条件:(B(B)=0)=0的根全的根全ARMAARMA模型模型在单位圆外在单位圆外,即所有根的模都大于即所有根的模都大于1,1,则称此条件为则称此条件为MA(qMA(q)模型的

9、模型的可逆性条件可逆性条件.当模型当模型()满足可逆性条件时满足可逆性条件时,-1-1(B)(B)存在存在,此时此时()式可以写成式可以写成 a at t=-1-1(B)X(B)Xt t,称它为逆转形式称它为逆转形式.模型模型()中的中的X Xt t可以看做是白噪声序列可以看做是白噪声序列aat t 输入线性系统中的输出输入线性系统中的输出.3.3.自回归滑动平均模型自回归滑动平均模型 设设 X Xt t 是零均值的实平稳时间序列是零均值的实平稳时间序列,定义定义p p阶自回归阶自回归q q阶阶滑动平均混合模型滑动平均混合模型为为 X Xt t-1 1X Xt-1t-1+2 2X Xt-2t-

10、2+p pX Xt-pt-p=a=at t-1 1a at-1t-1-q qa at-t-q q,(,()或或 (B)X(B)Xt t=(B)a(B)at t.(.()其中其中(B(B)和和(B(B)分别由分别由()式和式和()式所表示式所表示,且且(B(B)和和ARMAARMA模型模型(B(B)无公共因子无公共因子,(B(B)满足平稳性条件满足平稳性条件,(B(B)满足可逆性满足可逆性条件条件.模型模型()记为记为ARMA(p,qARMA(p,q).).满足满足ARMA(p,qARMA(p,q)模型的随模型的随机序列机序列,称为称为ARMA(p,qARMA(p,q)序列序列.显然当显然当q=

11、0q=0时时,ARMA(p,0)ARMA(p,0)就是就是AR(pAR(p);当当p=0p=0时时,ARMA(0,q)ARMA(0,q)就是就是MA(qMA(q).).如平稳过程的时域分析与频域分析有对应关系一样如平稳过程的时域分析与频域分析有对应关系一样,这这里介绍里介绍ARMA(p,qARMA(p,q)序列与具有有理谱密度的平稳序列之间序列与具有有理谱密度的平稳序列之间存在着对应关系存在着对应关系,并且指出一个平稳序列在什么条件下是并且指出一个平稳序列在什么条件下是ARMA(p,qARMA(p,q)序列序列.定义定义8.18.1 设设 X Xt t 是零均值平稳序列是零均值平稳序列,它的谱

12、密度它的谱密度f(f()是是 e e-i2-i2的有理函数的有理函数:f(f()=)=模型的识别模型的识别其中其中()和和()是形如是形如()和和()式的多项式式的多项式,且它且它们无公共因子们无公共因子,()满足平稳性条件满足平稳性条件,()满足可逆满足可逆性性条件条件.则称则称 X Xt t 是是具有有理谱密度的平稳序列具有有理谱密度的平稳序列.定理定理8.18.1 均值为零的平稳时间序列均值为零的平稳时间序列 X Xt t 满足满足()式的充式的充 要条件是要条件是:X Xt t 具有形如具有形如定义定义8.18.1中表式的有理谱密度中表式的有理谱密度.从从定理定理8.18.1看出看出,

13、只要平稳序列的谱密度是有理函数形只要平稳序列的谱密度是有理函数形式式,则它一定是一个则它一定是一个ARMA(p,qARMA(p,q)序列序列.因此因此,总可以找到一总可以找到一个个ARMA(p,qARMA(p,q)序列序列,满足预先给定的精度去逼近所研究的满足预先给定的精度去逼近所研究的平稳序列平稳序列.8.2 8.2 模型的识别模型的识别 对于一个平稳时间序列预测问题对于一个平稳时间序列预测问题,首先要考虑的是寻求首先要考虑的是寻求与它拟合最好的预测模型与它拟合最好的预测模型.而模型的识别与阶数的确定则而模型的识别与阶数的确定则模型的识别模型的识别是选择模型的关键是选择模型的关键.本节先对本

14、节先对AR(p),MA(qAR(p),MA(q)与与ARMA(p,qARMA(p,q)序序列作相关分析列作相关分析,讨论其理论自相关函数和偏相关函数所具讨论其理论自相关函数和偏相关函数所具有的特性有的特性,以求找到识别模型的方法以求找到识别模型的方法.在在8.38.3节节再讨论模型再讨论模型阶数的确定阶数的确定.1.MA(q)1.MA(q)序列的自相关函数序列的自相关函数 用用X Xt-kt-k乘以乘以()式两边式两边,再取均值再取均值(由于序列的均值为零由于序列的均值为零,所以自相关函数与协方差函数相同所以自相关函数与协方差函数相同),),为了不致混淆为了不致混淆,记所记所得得协方差函数协方

15、差函数为为k k:k k=EXEXt tX Xt-kt-k =E(a =E(at t-1 1a at-1t-1-q qa at-qt-q)(a)(at-kt-k-1 1a at-k-1t-k-1-q qa at-k-qt-k-q)=EaEat ta at-kt-k-j jEaEat ta at-k-jt-k-j-i iEaEat-it-ia at-kt-k+i i j jEaEat-it-ia at-k-jt-k-j.模型的识别模型的识别由由阶数为阶数为p p的自回归模型的自回归模型定义中的定义中的EaEas sa at t 的取值知的取值知,上页上页等式右端第等式右端第2 2项项,对一切对一

16、切k k都为都为0,0,而其余各项的值依赖于而其余各项的值依赖于k.k.(1)(1)当当k=0k=0时时,0 0=E +E =+;=E +E =+;(2)1kq,(2)1kq,k k=-=-k kE E +i i i-ki-kE E =-=-k k +i i i-ki-k ;(3)(3)当当k kq q时时,等式右端等式右端4 4项都为项都为0,0,此时此时k k=0.=0.用用0 0除以除以k k得得标准化自相关函数标准化自相关函数k k=k k/0 0,简称为简称为自相关函数自相关函数.综上便得综上便得MA(qMA(q)序列的序列的协方差函数协方差函数k k和和自相关函数自相关函数k k:

17、k k=(1+),k=0,(1+),k=0,0,k0,kq;q;(-(-k k+k+1k+1 1 1+q q q-kq-k),1kq,),1kq,模型的识别模型的识别 k k=从上式看出从上式看出,MA(qMA(q)序列的自相关函数序列的自相关函数k k在在k kq q时全为零时全为零.这种性质称为这种性质称为q q步截尾性步截尾性.这表明这表明MA(qMA(q)序列只有序列只有q q步相关步相关性性,即当即当|t-st-s|q q时时,X Xs s与与X Xt t不相关不相关.这是这是MA(qMA(q)模型所具有模型所具有的本质特性的本质特性,截尾处的截尾处的k k值就是模型的阶数值就是模型

18、的阶数.定理定理8.28.2 设零均值平稳时间序列设零均值平稳时间序列 X Xt t 具有谱密度具有谱密度f(f()0,)0,则则 X Xt t 是是MA(qMA(q)序列的充要条件序列的充要条件,是它的自相关函数是它的自相关函数q q步步 截尾截尾(定理的必要性由以上的讨论可得定理的必要性由以上的讨论可得,充分性证明略充分性证明略).).例例8.18.1 已知已知MA(2)MA(2)模型模型X Xt t=a=at t+0.5a+0.5at-1t-1-0.3a-0.3at-2t-2,试验证模型试验证模型 满足可逆性条件满足可逆性条件,并求自相关函数并求自相关函数.1,k1,kq.q.1,k=0

19、,1,k=0,1k0,1k0,模型的识别模型的识别解解:因为因为(B(B)=1+0.5B-0.3B)=1+0.5B-0.3B2 2,令其为零令其为零,得得 1+0.5B-0.3B1+0.5B-0.3B2 2=0.=0.解得解得 B B1 1=1.17,B=1.17,B2 2=-2.84.=-2.84.由于由于|B|B1 1|1,|B1,|B2 2|1,1,所以模型满足可逆性条件所以模型满足可逆性条件.将将 1 1=-0.5,=-0.5,2 2=0.3=0.3代入代入k k的等式的等式,得自相关函数得自相关函数 0 0=1,=1,1 1=0.2612,=0.2612,2 2=0.2239,=0.

20、2239,k k=0(k=0(k2).2).2.AR(p)2.AR(p)序列的自相关函数序列的自相关函数 用用X Xt-kt-k乘阶数为乘阶数为p p的自回归模型的两边的自回归模型的两边,再取均值再取均值,得得 k k=l lk-1k-1+p pk-pk-p ,k,k0.0.除以除以0 0得得:k k=l lk-1k-1-p pk-pk-p=0,(=0,()即即模型的识别模型的识别 (B)(B)k k=0,k=0,k0.(0.()令令()式的式的k=1,2,p,k=1,2,p,得得 1 1=l l+2 21 1+p pp-1p-1,2 2=l l1 1+2 2+3 31 1+p pp-2p-2

21、,()p p=l lp-1p-1+2 2p-2p-2+p p.写成矩阵式有写成矩阵式有 1 1 1 1 1 1 2 2 p-1 p-1 l l 2 2 1 1 1 1 1 1 p-2 p-2 2 2 p p p-1 p-1 p-2 p-2 p-3p-3 1 1 p p此矩阵式称为此矩阵式称为尤尔尤尔-瓦尔克方程瓦尔克方程.而而()式是式是k k所满足的所满足的差分方程差分方程.参数参数 由下式给出由下式给出 =0 0-j jj j.().()=.(.()模型的识别模型的识别这是因为这是因为 =E =EX=E =EXt t-t tX Xt-1t-1-p pX Xt-pt-p 2 2 =0 0-2

22、 -2 j jj j+i i j jj-ij-i =0 0-2 -2 j jj j+j j(i ij-ij-i)=0 0-2 -2 j jj j+j jj-ij-i =0 0-j jj j .定理定理8.38.3 AR(pAR(p)序列序列 X Xt t 的自相关函数满足的自相关函数满足()式式,白噪声白噪声 序列序列aat t 的方差满足的方差满足()()式式.定理定理指出了指出了AR(pAR(p)序列序列 X Xt t 的自相关函数所满足的方程的自相关函数所满足的方程,但尚未讨论其求解方法但尚未讨论其求解方法.不过不过应当了解应当了解:由线性差分方程由线性差分方程模型的识别模型的识别理论可

23、以证明理论可以证明,AR(pAR(p)序列的自相关函数序列的自相关函数,不能在某步之后不能在某步之后截尾截尾,而是随而是随k k增大逐渐衰减增大逐渐衰减,其衰减的速度受负指数函数其衰减的速度受负指数函数控制控制.这种特性称为这种特性称为拖尾性拖尾性.如何理解如何理解拖尾性拖尾性?例例8.28.2 求求AR(1)AR(1)序列的自相关函数序列的自相关函数.解解:因为因为AR(1AR(1模型为模型为X Xt t-l lX Xt-1t-1=a=at t,由由()式得式得 1 1=l l,2 2=l l1 1=l l2 2,k k=l lk-1k-1=l lk k.由由(B(B)=1-)=1-l l(

24、B)=0(B)=0知知,B=1/,B=1/l l.在满足平稳性条件下在满足平稳性条件下,|,|l l|1,1,所以当所以当kk时时,有有 k k0.0.考虑到考虑到 l lk k=且且|l l|1,1,即即ln|ln|l l|0,0,故存在故存在c c1 1 0,c0,c2 20 0使使|k k|c c1 1 ,k k 被负指数函数控制被负指数函数控制.模型的识别模型的识别例例8.38.3 AR(2)AR(2)模型为模型为 X Xt t=0.1X=0.1Xt-1t-1+0.2X+0.2Xt-2t-2+a+at t.验证它满足平稳性条件验证它满足平稳性条件,并求自相关函数并求自相关函数.解解:由

25、伊由伊(B(B)=1-0.1B-0.2B)=1-0.1B-0.2B2 2=0,=0,解得解得B B1 1=2,B=2,B2 2=-2.5.=-2.5.由于由于|B|B1 1|1,|B|1,|B2 2|1,|1,所以模型满足平稳性条件所以模型满足平稳性条件.由由()式得式得 1 1=,=,k k=1 1k-1k-1+2 2k-2k-2,k2.,k2.代入代入 1 1=0.1,=0.1,2 2=0.2=0.2得得 1 1=0.125,=0.125,2 2=0.213,=0.213,3 3=0.046,=0.046,4 4=0.047,=0.047,5 5=0.014,=0.014,6 6=0.01

26、1,=0.011,7 7=0.004,=0.004,8 8=0.003,=0.003,9 9=0.001,.=0.001,.从例中的数值看出从例中的数值看出,k k具有拖尾性具有拖尾性.模型的识别模型的识别3.ARMA(p,q)3.ARMA(p,q)序列的自相关函数序列的自相关函数 根据自回归滑动平均模型中的根据自回归滑动平均模型中的(B)X(B)Xt t=(B)a(B)at t式式,若若(B(B)满足平稳性条件满足平稳性条件,则则X Xt t的平稳解为的平稳解为 X Xt t=-1-1(B)(B)(B)a(B)at t将将-1-1(B)(B)写成写成B B的级数形式的级数形式,令令 G(B)

27、=G(B)=-1-1(B)(B)(B)=(B)=G Gi iB Bi i,G,G0 0=1,=1,()其中系数序列其中系数序列 G Gi i 称为称为格林函数格林函数.于是于是X Xt t可用可用aat t 的现在的现在和过去的值表示为和过去的值表示为 X Xt t=(=(G Gi iB Bi i)a)ai i=G Gi ia at-it-i.(.()上式称为上式称为(X Xt t 的的传递形式传递形式,它的系数它的系数G Gi i是是a at-it-i的权重的权重,表示表示i i个单位时间以前的个单位时间以前的a at t对现在对现在X Xt t的影响的影响,称为称为WoldWold系数系数

28、.上上式也可以看做是无穷阶的式也可以看做是无穷阶的MAMA序列序列.模型的识别模型的识别与与()式相反式相反,若若(B(B)满足可逆条件满足可逆条件,则则X Xt t的另一种逆转的另一种逆转形式表达式为形式表达式为 a at t=-1-1(B)(B)(B)X(B)Xt t.写成级数形式写成级数形式,得得 a at t=I(B)XI(B)Xt t=-=-I Ij jB Bj jX Xt t=X Xt t-I-Ij jX Xt-jt-j,I,I0 0=-=-1.1.()其中其中I(B)=1-I(B)=1-I Ij jB Bj j=-1-1(B)(B)(B),I(B),Ij j称为称为逆函数逆函数.

29、因而因而逆逆转形式可以看做是将转形式可以看做是将a at t表示成表示成X Xt t的历史值的加权和的历史值的加权和.现在将现在将(B)G(B(B)G(B)=)=(B(B)的两边展开成多项式的两边展开成多项式,有有 (B Bi i)()(G Gi iB Bi i)=B)=Bi i.比较系数得比较系数得G Gi i的递推式的递推式 G Gi i=-=-G Gi-ji-j ,G,G0 0=1.=1.模型的识别模型的识别式中式中 j j,1jp ,1jp j j,1jq,1jq 0,j 0,jp ;0,jp ;0,jq .q .现在利用现在利用()式来导出式来导出ARMA(p,qARMA(p,q)序

30、列的自相关函数关序列的自相关函数关系式系式.为此为此,将将p p阶自回归阶自回归q q阶滑动平均混合模型阶滑动平均混合模型()式式 X Xt t-1 1X Xt-1t-1+2 2X Xt-2t-2+p pX Xt-pt-p=a at t-1 1a at-1t-1-q qa at-qt-q的两边同乘的两边同乘X Xt-kt-k并取均值并取均值,得得 k k-X-Xt t-1 1k-1k-1-p pk-pk-p=k k(X,a)-(X,a)-1 1k-1k-1(X,a)-(X,a)-q qk-k-q q(X,a(X,a),),即即 (B)(B)k k=(B)(B)k k(X,a(X,a),(),(

31、)其中其中 k k(X,a(X,a)=)=EXEXt ta at+kt+k=E =E G Gj ja at-jt-ja at+kt+k,G Gj jEaEat-jt-ja at+kt+k=(=()=G G-k -k ,k0,k0,0,k0,k0.0.模型的识别模型的识别将将()式代入式代入()式并除以式并除以0 0,写成自相关函数写成自相关函数,注意到注意到k k为偶函数为偶函数,可得可得 k=0k=0时时,有有 (1-(1-1 11 1-p pp p)=(1-)=(1-1 1G G1 1-q qG Gq q),),k=1 k=1时时,有有 (1 1-1 1 0 0-2 21 1-p pp-1

32、p-1)=(=(1 1-2 2G G1 1-q qG Gq-1q-1),k=q k=q时时,有有 (q q-1 1q-1q-1-p pp-qp-q)=)=q q ,k kq q时时,有有k k-1 1k-1k-1-p pp-qp-q=0,=0,即即(B)(B)k k=0.=0.若令上式之若令上式之k=q+1,k=q+1,q+pq+p,可得矩阵式可得矩阵式 q q q-1q-1 q-p+1 q-p+1 1 1 q+1 q+1 q+1q+1 q q q-p+2 q-p+2 2 2 q+2q+2 q+p-1q+p-1 q+p-2q+p-2 q q p p q+pq+p=()模型的识别模型的识别定理定

33、理8.48.4 零均值平稳时间序列零均值平稳时间序列 X Xt t 为为ARMA(p,qARMA(p,q)序列的充序列的充 要条件是其自相关函数满足要条件是其自相关函数满足式式.比较比较式和式和2.2.AR(p)AR(p)序列的自相关函数项下的序列的自相关函数项下的()式知式知,ARMA(p,qARMA(p,q)序列与序列与AR(pAR(p)序列的自相关函数序列的自相关函数,满足相同的差满足相同的差分方程以分方程以(B)(B)k k=0(kq).=0(kq).因此和因此和AR(pAR(p)序列类似序列类似,ARMA(pARMA(p,q)q)序列的自相关函数也是拖尾的序列的自相关函数也是拖尾的,

34、且受负指数函数控制且受负指数函数控制.例例8.48.4 求求ARMA(1,1)ARMA(1,1)模型模型X Xt t-1 1X Xt-1t-1=a=at t-1 1a at-1t-1的自相关函数的自相关函数.解解:设设a ai i的方差为的方差为 ,|,|1 1|1,|pkp时时,有有 kkkk=0.=0.换句话说换句话说,AR(pAR(p)序列的偏相关函数为序列的偏相关函数为:1111,2222,pppp,0,0.,0,0.即偏相即偏相关函关函数在数在k k步截尾步截尾,其截尾的其截尾的k k值就是模型的阶数值就是模型的阶数.这是这是AR(pAR(p)序序列具有的本质特性列具有的本质特性.(

35、2).ARMA(p,q)(2).ARMA(p,q)序列和序列和MA(qMA(q)序列的偏相关函数序列的偏相关函数 类似类似(l)(l)的讨论的讨论,考虑用考虑用X Xt-1t-1,X Xt-kt-k对对X Xt t作最小方差估作最小方差估计来求计来求ARMA(p,qARMA(p,q)序列序列(把把MA(qMA(q)看做看做p=0p=0的特例的特例)X Xt t 的偏的偏相关函数相关函数 kkkk,同时推出偏相关函数与自相关函数的关系同时推出偏相关函数与自相关函数的关系.为了使为了使Q=min,Q=min,k1k1,kkkk应满足方程组应满足方程组 =0,j=1,2,k.=0,j=1,2,k.j

36、 j,1jp,1jp,0,p+1jk.0,p+1jk.模型的识别模型的识别由由 Q=Q=EXEXt t-kjkjX Xt-jt-j 2 2 =E -2 =E -2 kjkjEXEXt tX Xt-jt-j+kjkj kikiEXEXt-jt-jX Xt-it-i =0 0-2 -2 kjkjj j+kjkj kikij-ij-i ,于是于是 =-=-j j+kikij-ij-i=0,j=1,2,k.=0,j=1,2,k.这等价于这等价于 -j j+kikij-ij-i=0,j=1,2,k.=0,j=1,2,k.1 1=k1k10 0+k2k21 1+kkkkk-1k-1,2 2=k1k11 1

37、+k2k20 0+kkkkk-2k-2,k k=k1k1k-1k-1+k2k2k-2k-2+kkkk0 0.写成矩阵形式写成矩阵形式,即即 或或()模型的识别模型的识别 1 1 1 1 k-1 k-1 k1k1 1 1 1 1 1 1 k-2 k-2 k2k2 2 2 k-1k-1 k-2k-2 1 1 kkkk k k()式说明式说明,由自相关函数的值可以求出偏相关函数由自相关函数的值可以求出偏相关函数 kkkk.系数系数 kjkj(j(j=1,2,k)=1,2,k)可以由可以由()式直接求解式直接求解.以下给出求解以下给出求解 kjkj的常用递推式的常用递推式:1111=1 1,()k+1

38、,k+1k+1,k+1=(=(k+1k+1-k+1-jk+1-j kjkj)(1-)(1-j j kjkj)-1-1,k+1,jk+1,j=kjkj-k+1,k+1k+1,k+1 k,k+1-j k,k+1-j,j=1,2,k.,j=1,2,k.事实上事实上,以以k=1k=1替代替代()式的式的k,k,即有以下矩阵式即有以下矩阵式 =.=.()模型的识别模型的识别 1 1 1 1 k-1 k-1 k k k+1,1k+1,1 1 1 1 1 1 1 k-2 k-2 k-1 k-1 k+1,2k+1,2 2 2 k k k-1k-1 1 1 1 1 k+1,k+1 k+1,k+1 k+1k+1取

39、前取前k k个方程得个方程得 1 1 1 1 k-1 k-1 k+1,1k+1,1 1 1 k k k+1,1k+1,1 1 1 1 1 k-2 k-2 k+1,2k+1,2 2 2 k-1 k-1 k+1,2k+1,2 k-1k-1k-2k-2 1 1 k+1,k k+1,k k k 1 1 k+1,kk+1,k 1 1 1 1 k-1k-1 1 1 1 1 1 1 k-1k-1 k k 1 1 1 1 k-2k-2 2 2 1 1 1 1 k-2k-2 k-1k-1 k-1k-1k-2k-2 1 1 k+1 k+1 k-1k-1k-2k-2 1 1 1 1 =.=-=-k+1,k+1k+1

40、,k+1 -k+1,k+1k+1,k+1 -1-1-1-1=模型的识别模型的识别 k1k1 kkkk k2k2 k,k-1k,k-1 kkkk k1k1于是于是:k+1,jk+1,j=kjkj-k+1,k+1 k+1,k+1,j=1,2,k.,j=1,2,k.再用再用()式有式有 k+1k+1=k+1,jk+1,jk+1-j k+1-j=k+1,k+1k+1,k+1+k+1,jk+1,jk+1-jk+1-j =k+1,k+1k+1,k+1+(+(kjkj-k+1,k+1k+1,k+1 k+1,k+1-jk+1,k+1-j)k+1-jk+1-j =k+1,k+1k+1,k+1+kjkjk+1-j

41、k+1-j-k+1,k+1 k+1,k+1 k,k+1-jk,k+1-jk+1-jk+1-j =k+1,k+1k+1,k+1(1-(1-k kl l k kl l)+)+kjkjk+1-jk+1-j.=-=-k+1,k+1 k+1,k+1 .模型的识别模型的识别所以所以 k+1,k+1k+1,k+1=(=(k+1k+1-k+1-jk+1-j kjkj)(1-)(1-j j kjkj)-1-1.例例8.68.6 求下列模型的偏相关函数求下列模型的偏相关函数:(1)(1)X Xt t+0.5X+0.5Xt-1t-1-0.4X-0.4Xt-2t-2=a=at t;(2)(2)X Xt t-0.5X-

42、0.5Xt-1t-1=a=at t-0.3a-0.3at-1 t-1.解解:(1)(1)因为是因为是AR(2)AR(2)模型模型,例例8.38.3中已求得自相关函数为中已求得自相关函数为 0 0=1,=1,1 1=1 1/(1-/(1-2 2),),k k=1 1k-1k-1+2 2k-2 k-2,k2.,k2.其中其中 1 1=0.5,=0.5,2 2=0.4.=0.4.由由()式得式得 1111=1 1=-0.833.=-0.833.对对()式取式取k=1,k=1,得得 2222=(=(2 2-1 1 1111)(1-)(1-1 1 1111)-1-1=0.4,=0.4,kkkk=0,k2

43、.=0,k2.(2)(2)因为是因为是ARMA(1,1)ARMA(1,1)模型模型,例例8.48.4已推出自相关系数已推出自相关系数 k k=,k1.=,k1.模型的识别模型的识别其中其中 1 1=0.5,=0.5,1 1=0.3.=0.3.代入上式得代入上式得 k k=0.2150.5=0.2150.5k-1k-1,k1.,k1.由由()式得式得 1111=1 1=0.215.=0.215.对对()式取式取k=1,k=1,得得 2222=(=(2 2-1 1 1111)(1-)(1-1 1 1111)-1-1=0.113=0.113,2121=1111-2222 1111=0.191.=0.

44、191.对对()式取式取k=2,k=2,并代入并代入 2 2=0.108,=0.108,3 3=0.054=0.054得得 3131=2121-3333 2222=0.19,=0.19,3232=2222-3333 2121=0.111.=0.111.对对()式取式取k=3,k=3,可依次递推求出可依次递推求出 4444,4141,4242,4343,等偏等偏相关函数的值相关函数的值.对于对于ARMA(p,qARMA(p,q)模型模型,(B)X(B)Xt t=(B)a(B)at t ,由由()式的逆式的逆转转模型的识别模型的识别 a at t=I(B)XI(B)Xt t=(-=(-I Ii i

45、)B)Bi iX Xt t,I,I0 0=-1,=-1,看出看出:有限阶的有限阶的ARMA(p,qARMA(p,q)序列或序列或MA(qMA(q)序列可以转化为无序列可以转化为无限阶的限阶的AR(pAR(p)序列序列.因此因此,它们的偏相关函数将是拖尾的它们的偏相关函数将是拖尾的.以上对平稳时间序列的特性进行了理论的分析以上对平稳时间序列的特性进行了理论的分析,上述结上述结果对初步识别平稳时间序列的类型提供了依据果对初步识别平稳时间序列的类型提供了依据.下面是这下面是这些结果的汇总表些结果的汇总表:模模 型型 类类 别别 模型方程模型方程 (B)X(B)Xt t=a=at t X Xt t=(

46、B)a(B)at t (B)X(B)Xt t=(B)a(B)at t (B(B)=0)=0的根的根 (B(B)=0)=0的根全在的根全在 全在单位圆全在单位圆 单位圆外单位圆外 自相关函数自相关函数 拖尾拖尾 截尾截尾 拖尾拖尾 偏相关函数偏相关函数 截尾截尾 拖尾拖尾 拖尾拖尾 AR(pAR(p)MA(qMA(q)ARMA(p,qARMA(p,q)平稳条件平稳条件无条件平稳无条件平稳模型阶数的确定模型阶数的确定8.3 8.3 模型阶数的确定模型阶数的确定 在在8.28.2节节中讨论了中讨论了模型的识别模型的识别,是通过理论自相关函数是通过理论自相关函数或偏相关函数是否截尾来判断的或偏相关函数

47、是否截尾来判断的.但是但是,在实际中人们所在实际中人们所获得的观测数据只是一个有限长度获得的观测数据只是一个有限长度N N的样本值的样本值x x1 1,x x2 2,x xN N,由它们算出的样本自相关函数由它们算出的样本自相关函数 ,样本偏相关函数样本偏相关函数 只是只是k k和和 kkkk的估计值的估计值.由于样本的随机性由于样本的随机性,其估计总可能有误其估计总可能有误差差.故对于故对于AR(pAR(p)序列序列,当当kpkp时时,可能不会全为零可能不会全为零,而是而是在零附近波动在零附近波动.同理同理,对于对于MA(qMA(q)序列序列,当当kqkq时时,也可能也可能不会全为零不会全为

48、零.本节讨论的问题本节讨论的问题,就是如何用样本自相关函就是如何用样本自相关函数和样本偏相关函数来推断模型的阶数和样本偏相关函数来推断模型的阶.1.1.样本自相关函数和样本偏相关函数样本自相关函数和样本偏相关函数 设有零均值平稳时间序列设有零均值平稳时间序列XXt t 的一段样本观测值的一段样本观测值x x1 1,x,x2 2,模型阶数的确定模型阶数的确定,x xN N,样本协方差函数定义为样本协方差函数定义为 =x xi ix xi+ki+k,k=0,1,N-1.,k=0,1,N-1.一般一般,是是kk的无偏估计的无偏估计,但不一定是非负定的但不一定是非负定的.因而常因而常用估计式用估计式

49、=x xi ix xi+ki+k,k=0,1,N-1 (,k=0,1,N-1 ()代替代替 .样本自相关函数定义为样本自相关函数定义为 =,k=0,1,N-1.(=,k=0,1,N-1.()()式是式是 的有偏估计的有偏估计,但但 是非负定的是非负定的.不过不过,设当设当t tN N或或t0t0时时,x xt t=0,=0,则对任意的则对任意的m m个实数个实数1 1,2 2,m m有有 i ij j =i ij j x xt tx xt+|j-it+|j-i|=i ij j x xt tx xt+|j-it+|j-i|模型阶数的确定模型阶数的确定 =i ij j x xt tx xt+j-i

50、t+j-i =i ij j x xt+it+ix xt+jt+j =(=(i ix xt+it+i)2 2 0.0.实际问题中实际问题中,N,N一般取得较大一般取得较大(不少于不少于50),50),故故()式看做是式看做是渐近无偏的渐近无偏的.由于由于()式的估计误差随式的估计误差随k k增大而增大增大而增大,一般一般取取kN/4(kN/4(常取常取k=N/10k=N/10左右左右).).由由()式计算得式计算得 后后,代入代入()式即得式即得 的值的值.2.2.和和 的渐进分布及模型的阶的渐进分布及模型的阶 下面不加证明地给出下面不加证明地给出 和和 的渐近分布的渐近分布.(1)(1)设设