平稳时间序列分析-ARMA模型学习资料.ppt

《平稳时间序列分析-ARMA模型学习资料.ppt》由会员分享，可在线阅读，更多相关《平稳时间序列分析-ARMA模型学习资料.ppt（100页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、平稳时间序列分析-ARMA模型一、一、AR模型模型(Auto Regression Model)n具有如下结构的模型称为 阶自回归模型，简记为n特别当 时，称为中心化 模型（一（一）AR模型定义模型定义 AR(P)序列中心化变换序列中心化变换对于非中心化序列对于非中心化序列作变换作变换则原序列即化为中心化序列则原序列即化为中心化序列所以，以后我们重点讨论中心化时间序列。所以，以后我们重点讨论中心化时间序列。AR模型的算子表示模型的算子表示令令则则 模型可表示为模型可表示为（二）（二）AR模型平稳性判别模型平稳性判别判别原因：判别原因：AR模型是常用的平稳序列的拟合模型之一，但并非所有的AR模型

2、都是平稳的。判别方法：判别方法：特征根判别法，平稳域判别法。例例3.1:考察如下四个模型的平稳性考察如下四个模型的平稳性例例3.1平稳序列时序图平稳序列时序图例例3.1非平稳序列时序图非平稳序列时序图 从时序图上可以看出，（从时序图上可以看出，（1）（）（3）模型平稳，）模型平稳，（2）（）（4）模型非平稳）模型非平稳。（三）三）AR模型平稳性常用判别方法模型平稳性常用判别方法特征根判别特征根判别平稳域判别平稳域判别 AR(p)模型平稳的充要条件是它的模型平稳的充要条件是它的p个特征根个特征根都在单位圆内。都在单位圆内。根据特征根和根据特征根和算子算子多多项项式的根成倒数的性式的根成倒数的性质

3、质，AR(p)模型平稳的充要条件是模型平稳的充要条件是该该模型的模型的算子算子多多项项式式的根都在的根都在单单位位圆圆外外。平稳域为：平稳域为：（四）两个常见模型的平稳性条件（四）两个常见模型的平稳性条件1、AR(1)模型平稳条件模型平稳条件特征根为特征根为 ，平稳条件平稳条件平稳域为平稳域为AR(1)模型的平稳性条件也可以如下讨论：模型的平稳性条件也可以如下讨论：对对1阶自回归模型阶自回归模型AR(1)方程两边平方再求数学期望，得到方程两边平方再求数学期望，得到Xt的方差：的方差：由由于于Xt仅仅与与 t相相关关，因因此此，E(Xt-1 t)=0。如如果果该该模模型型稳稳定定，则则有有E(X

4、t2)=E(Xt-12)，从从而而上上式式可变换为：可变换为：在稳定条件下，该方差是一非负的常数，从而有在稳定条件下，该方差是一非负的常数，从而有|1。而而AR(1)的算子多项式方程的算子多项式方程：的根为的根为z=1/AR(1)稳定，即稳定，即|1，意味着特征根大于，意味着特征根大于1。2、AR(2)模型平稳条件模型平稳条件特征根为特征根为由由知知 等价于等价于平稳域平稳域 2+1=-1 2+(1+2)=1 (1-1)(1-2)2-1=-1 2-(1+2)=1 (1+1)(1+2)无论无论 1,2为实数或共轭复数，由为实数或共轭复数，由 1 1,2 0，从而得，从而得 2+1 1 2-1 1

5、 且且 -1 2 0 时，特征方程有不等实时，特征方程有不等实数根。数根。2,1的值位于过阻尼区（自相关函数呈的值位于过阻尼区（自相关函数呈指数衰减）。指数衰减）。(3)当当 12+4 2 0 时，特征方程根为共轭时，特征方程根为共轭复根。复根。2,1的值位于欠阻尼区（自相关函数呈的值位于欠阻尼区（自相关函数呈正弦震荡衰减）。正弦震荡衰减）。AR(2)模型的平稳性也可以如下讨论：模型的平稳性也可以如下讨论：对对AR(2)模型：模型：方程两边同乘以方程两边同乘以Xt，再取期望得：再取期望得：又由于：又由于：于是于是：同样地，由原式还可得到同样地，由原式还可得到：于是方差为于是方差为：由平稳性的定

6、义，该方差必须是一不变的正数，由平稳性的定义，该方差必须是一不变的正数，于是有于是有 1+21,2-11,|2|1 对高阶自回模型对高阶自回模型AR(p)来说来说，多数情况下没有多数情况下没有必要直接计算其特征方程的特征根，但有必要直接计算其特征方程的特征根，但有一些有用一些有用的规则可用来检验高阶自回归模型的稳定性的规则可用来检验高阶自回归模型的稳定性：(1)AR(p)模型稳定的必要条件是模型稳定的必要条件是：(2)由于由于 可正可负可正可负，AR(p)模型模型稳定的充分条件是：稳定的充分条件是：例例3.1平稳性判别平稳性判别模型特征根判别平稳域判别结论(1)平稳(2)非平稳(3)平稳(4)

7、非平稳（三）平稳（三）平稳AR模型的统计性质模型的统计性质1、均值、均值如果如果AR(p)模型满足平稳性条件，则有模型满足平稳性条件，则有根据平稳序列均值为常数，且根据平稳序列均值为常数，且 为白噪声为白噪声序列，有序列，有推导出推导出（1）Green函数定义函数定义2、方差、方差将平稳的将平稳的AR(p)模型表示成如下的传递形式模型表示成如下的传递形式其中系数其中系数 称为称为Green函数函数求求Green函数递推公式函数递推公式由待定系数法可得如下递推公式由待定系数法可得如下递推公式（2）平稳的）平稳的AR(p)模型的方差模型的方差由平稳由平稳AR模型的传递形式模型的传递形式两边求方差得

8、两边求方差得例例3.2:求平稳求平稳AR(1)模型的方差模型的方差平稳平稳AR(1)模型的传递形式为模型的传递形式为Green函数为函数为平稳平稳AR(1)模型的方差为模型的方差为也可用以下方法计算也可用以下方法计算将原过程改写为将原过程改写为所以所以3、自协方差函数、自协方差函数在平稳在平稳AR(p)模型两边同乘模型两边同乘 ，再求期望，再求期望根据根据得自协方差函数的递推公式得自协方差函数的递推公式例例3.3:求平稳求平稳AR(1)模型的自协方差函数模型的自协方差函数递推公式：递推公式：平稳平稳AR(1)模型的方差为模型的方差为自协方差函数的递推公式为：自协方差函数的递推公式为：例例3.4

9、:求平稳求平稳AR(2)模型的协方差模型的协方差利用利用其中其中所以，平稳所以，平稳AR(2)模型的协方差函数递推公式为模型的协方差函数递推公式为4、自相关系数、自相关系数（1）自相关系数的定义：）自相关系数的定义：特别特别（2）平稳）平稳AR(P)模型的自相关系数递推公式：模型的自相关系数递推公式：上述方程称为上述方程称为Yule-Walker方程。方程。（3）常用）常用AR模型自相关系数递推公式模型自相关系数递推公式AR(1)模型模型AR(2)模型模型说明：说明：在在AR(1)模型模型中，即使中，即使 没有直接出没有直接出现在模型中，现在模型中，和和 也是相关的。因为也是相关的。因为所以，

10、所以，是通过是通过 与与 相关的，这种相关的，这种间接相关出现在任何间接相关出现在任何AR模型中。模型中。与与 的自相关系数的自相关系数 等于等于 与与 的自相关系数的自相关系数 乘以乘以 与与 的自相关系的自相关系 数数 。即。即5、平稳、平稳AR(p)模型自相关系数的性质模型自相关系数的性质（1）拖尾性）拖尾性（2）呈负指数衰减）呈负指数衰减拖尾性拖尾性说明说明 之前的每一个序列值之前的每一个序列值 都都会对会对 构成影响，但因为构成影响，但因为自相关系数自相关系数呈呈负指数负指数衰衰减，所以，间隔较远的序列值对现时值的影减，所以，间隔较远的序列值对现时值的影响很小，具有所谓的响很小，具有

11、所谓的“短期相关性短期相关性”。例例3.5:考察如下考察如下AR模型的自相关图模型的自相关图例例3.5n自相关系数按负指数单调收敛到零自相关系数按负指数单调收敛到零例例3.5:n自相关系数呈现正负相间地衰减自相关系数呈现正负相间地衰减例例3.5:n自相关系数呈现出自相关系数呈现出“伪周期伪周期”性性例例3.5:n自相关系数不规则衰减自相关系数不规则衰减 6、偏自相关函数、偏自相关函数 自相关函数自相关函数ACF(k)给出了给出了Xt与与Xt-k的总体的总体相关性，但总体相关性可能掩盖了变量间完全相关性，但总体相关性可能掩盖了变量间完全不同的相关关系。不同的相关关系。例如，在例如，在AR(1)中

12、，中，Xt与与Xt-2间有相关性可能间有相关性可能主要是由于它们各自与主要是由于它们各自与Xt-1间的相关性带来的间的相关性带来的:即自相关函数中包含了这种所有的即自相关函数中包含了这种所有的“间接间接”相关。相关。与之相反与之相反，Xt与与Xt-k间的间的偏自相关函数偏自相关函数(partial autocorrelation，简记为简记为PACF)则是消则是消除除了中间变量了中间变量Xt-1，Xt-k+1 带来的间接相关后的带来的间接相关后的直接相关性，它是在已知序列值直接相关性，它是在已知序列值Xt-1，Xt-k+1的条件下，的条件下，Xt与与Xt-k间关系的度量。间关系的度量。定义：定

13、义：对于平稳对于平稳AR(p)序列，所谓滞后序列，所谓滞后k偏自相关偏自相关系数就是指在给定中间系数就是指在给定中间k-1个随机变量个随机变量 的条件下，或者说，在剔除了中间的条件下，或者说，在剔除了中间k-1个随机变量个随机变量的干扰之后，的干扰之后，对对 影响的相关度量。用数学影响的相关度量。用数学语言描述就是语言描述就是7、偏自相关系数的计算、偏自相关系数的计算（1）直接利用回归方法计算）直接利用回归方法计算 首先将序列中心化，作如下形式的回归首先将序列中心化，作如下形式的回归滞后滞后k偏自相关系数实际上就等于偏自相关系数实际上就等于k阶自回归阶自回归模型第个模型第个k回归系数的值。回归

14、系数的值。注意到：注意到：所以，所以，即为即为剔除了中间剔除了中间k-1个随机变量的干扰个随机变量的干扰之后，之后，与与 的相关系数，即的相关系数，即 与与 的的 偏偏自相关系数。自相关系数。（2）利用）利用Yule-Walker方程计算方程计算当当 时，时，当当 时，时，所以，所以，一般地：利用一般地：利用Cramer法则可得法则可得（3）利用）利用Levinson递推公式计算递推公式计算或写成或写成其中其中定理的证明：定理的证明：Yule-Walker方程方程可写为可写为 利用归纳法，对利用归纳法，对k=1，Levinson递推公式显递推公式显然成立。假设公式对然成立。假设公式对k-1已经

15、成立，即已经成立，即对对k阶阶Yule-Walker方程方程作上述分块矩阵，记作上述分块矩阵，记则则 是正交阵。有是正交阵。有 k阶阶Yule-Walker方程可记为方程可记为所以，由（所以，由（1）式）式注意到：注意到：-（1）-（2）-（3）代入（代入（2）式得，）式得，所以，所以，注意到：注意到：已经假定已经假定Levinson公式对公式对k-1成立，即成立，即所以有所以有再由（再由（3 3）式得）式得即即8、平稳、平稳AR(p)模型模型偏自相关系数的截尾性偏自相关系数的截尾性 AR(p)模型偏自相关系数模型偏自相关系数P阶截尾，这是阶截尾，这是因为对于因为对于AR(p)模型模型 与与

16、之间不存在直接相关。所以之间不存在直接相关。所以 平稳平稳AR(p)模型模型偏自相关系数的截尾性是偏自相关系数的截尾性是AR模型所具有的一个重要特性，它可以帮助我们识模型所具有的一个重要特性，它可以帮助我们识别别AR模型。模型。9、常用、常用AR模型偏自相关系数公式模型偏自相关系数公式AR(1)模型：模型：AR(2)模型：模型：例例3.5续续:考察如下考察如下AR模型的偏自相关图模型的偏自相关图例例3.5理论偏自相关系数理论偏自相关系数样本偏自相关图样本偏自相关图例例3.5:理论偏自相关系数理论偏自相关系数样本偏自相关图样本偏自相关图例例3.5:理论偏自相关系数理论偏自相关系数样本偏自相关图样

17、本偏自相关图例例3.5:理论偏自相关系数理论偏自相关系数样本偏自相关图样本偏自相关图二、二、MA模型（模型（Moving Average Model）（一）（一）MA模型的定义模型的定义具有如下结构的模型称为具有如下结构的模型称为 阶移动平均模型，阶移动平均模型，简记为简记为特别当特别当 时，称为中心化时，称为中心化 模型模型 利用延迟算子，中心化利用延迟算子，中心化 模型又模型又可以简记为可以简记为 其中，其中，是是 阶移动平均系数多项式阶移动平均系数多项式 为了以后识别一个模型是否是移动平均模型为了以后识别一个模型是否是移动平均模型MA(q)，下面讨论下面讨论MA模型的统计性质模型的统计性

18、质（二）（二）MA模型的统计性质模型的统计性质（1）常数均值）常数均值（2）常数方差）常数方差显然，显然，MA模型是平稳的。模型是平稳的。（3）MA模型的自协方差函数模型的自协方差函数MA(q)自协方差函数自协方差函数q 阶截尾阶截尾（4）MA模型的自相关函数模型的自相关函数MA(q)自相关系数自相关系数q 阶截尾阶截尾(5)常用常用MA模型的自相关系数模型的自相关系数MA(1)模型模型MA(2)模型模型(6)MA模型的模型的偏自相关系数偏自相关系数MA模型的模型的偏自相关系数偏自相关系数拖尾拖尾对于中心化的对于中心化的MA(q)模型，有模型，有例例3.6:考察如下考察如下MA模型的相关性质模

19、型的相关性质MA模型的自相关系数截尾模型的自相关系数截尾可以看出（可以看出（1）（）（2）自相关系数相同）自相关系数相同MA模型的自相关系数截尾模型的自相关系数截尾可以看出（可以看出（3）（）（4）自相关系数相同）自相关系数相同MA模型的偏自相关系数拖尾模型的偏自相关系数拖尾 可以看出（可以看出（1）和（）和（2）的偏自相关系数相同，）的偏自相关系数相同，（3）和（）和（4）的偏自相关系数相同。）的偏自相关系数相同。（三）三）MA模型的可逆性模型的可逆性 由例由例3.6可以看出，不同的可以看出，不同的MA模型可能具有模型可能具有完全相同的自相关系数和偏自相关系数，为了利完全相同的自相关系数和偏

20、自相关系数，为了利用自相关系数和偏自相关系数来识别用自相关系数和偏自相关系数来识别MA模型，要模型，要求给定一个自相关函数能够对应惟一的求给定一个自相关函数能够对应惟一的MA模型，模型，这就要求我们给模型增加约束条件，这个约束条这就要求我们给模型增加约束条件，这个约束条称为件称为件MA模型的模型的可逆性条件。可逆性条件。（1）MA模型可逆性的定义模型可逆性的定义定义：定义：若一个若一个MA模型能够表示称为收敛的模型能够表示称为收敛的AR模型形式，那么该模型形式，那么该MA模型称为可逆模型称为可逆MA模型。模型。意义：可以保证意义：可以保证一个自相关系数列唯一对应一个自相关系数列唯一对应一个可逆

21、一个可逆MA模型。模型。（2）可逆的）可逆的MA(1)模型模型（3）MA模型的可逆条件模型的可逆条件MA(q)模型可逆的充要条件是：模型可逆的充要条件是：MA(q)模型的特征根都在单位圆内模型的特征根都在单位圆内等价条件等价条件是算子多项式的根都在单位圆外是算子多项式的根都在单位圆外（4）MA模型模型逆函数的递推公式逆函数的递推公式利用待定系数法可得如下利用待定系数法可得如下逆函数逆函数递推公式递推公式由由若若MA模型可逆，则模型可逆，则MA模型可表示为模型可表示为称为称为MA模型的可逆表示。模型的可逆表示。例例3.6续续:考察如下考察如下MA模型的可逆性模型的可逆性逆函数为逆函数为逆转形式为

22、（可逆表示）逆转形式为（可逆表示）MA(2)可逆条件：可逆条件：(3)的的逆函数为逆函数为(3)的的逆转形式为（可逆表示）逆转形式为（可逆表示）自回归与移动平均过程的关系自回归与移动平均过程的关系 一个平稳的一个平稳的AR(p)过程过程 (1-1B-2B2-pBp)xt=ut可以转换为一个无限阶的移动平均过程，可以转换为一个无限阶的移动平均过程，xt=(1-1B-2B2-pBp)-1 u t=B)-1 ut 一个可逆的一个可逆的MA(q)过程过程 xt=(1+1B+2 B2+q Bq)ut=B)ut可转换成一个无限阶的自回归过程，可转换成一个无限阶的自回归过程，(1+1B+2 B2+q Bq)

23、-1 xt=B)-1 xt=ut 对于对于MA(q)过程，只需考虑可逆性问题，过程，只需考虑可逆性问题，条件是条件是 B)=0的根（绝对值）必须大于的根（绝对值）必须大于1，不必，不必考虑平稳性问题。考虑平稳性问题。对于对于AR(p)过程只需考虑平稳性问题，条过程只需考虑平稳性问题，条件是件是 B)=0的根（绝对值）必须大于的根（绝对值）必须大于1。不必。不必考虑可逆性问题。考虑可逆性问题。三、三、ARMA模型模型（一）（一）ARMA模型的定义模型的定义具有如下结构的模型称为自回归移动平均模型，具有如下结构的模型称为自回归移动平均模型，简记为简记为特别当特别当 时，称为中心化时，称为中心化 模

24、型。模型。利用延迟算子，中心化利用延迟算子，中心化 模型模型又可以简记为又可以简记为其中，其中，是是 阶自回归系数多项式阶自回归系数多项式 是是 阶移动平均系数多项式阶移动平均系数多项式（二）（二）ARMA(p,q)平稳条件与可逆条件平稳条件与可逆条件ARMA(p,q)模型的平稳条件：模型的平稳条件：P阶自回归系数多项式阶自回归系数多项式 的根都在的根都在单位圆单位圆外，外，即即ARMA(p,q)模型的平稳性完全由其自回归模型的平稳性完全由其自回归部分的平稳性决定。部分的平稳性决定。ARMA(p,q)模型的可逆条件：模型的可逆条件：q阶移动平均系数多项式阶移动平均系数多项式 的根都在的根都在单

25、位圆单位圆外，外，即即ARMA(p,q)模型的可逆性完全由其移动平滑模型的可逆性完全由其移动平滑部分的可逆性决定。部分的可逆性决定。（三）（三）ARMA(p,q)传递形式与逆转形式传递形式与逆转形式n传递形式传递形式n逆转形式逆转形式无穷阶无穷阶MA模型模型无穷阶无穷阶AR模型模型格林函数格林函数逆函数逆函数其中其中（四）（四）ARMA(p,q)模型的统计性质模型的统计性质均值：均值：自协方差函数：自协方差函数：自相关系数：自相关系数：例：求例：求ARMA(1,1)过程的自协方差函数，自相过程的自协方差函数，自相关函数，偏自相关函数。关函数，偏自相关函数。解解所以，所以，偏自回归系数的偏自回归

26、系数的Levinson递推公式为：递推公式为：所以，所以，的偏自相关系数为的偏自相关系数为 类似地可求出类似地可求出ARMA(1,1)模型可转化为无穷阶自回归模型：模型可转化为无穷阶自回归模型：类似地，可将类似地，可将ARMA(1,1)模型转化为无穷阶移模型转化为无穷阶移动平均模型：动平均模型：ARMA(1,1)过程是实际中最常用的模型。过程是实际中最常用的模型。ARMA(1,1)过程过程（五）平稳可逆五）平稳可逆ARMA模型的模型的自相关系数和偏自自相关系数和偏自相关系数具有的特征相关系数具有的特征 由于由于平稳可逆平稳可逆ARMA模型既可表示为无穷阶模型既可表示为无穷阶自回归模型，也可转化为无穷阶移动平均模型，自回归模型，也可转化为无穷阶移动平均模型，所以，平稳可逆所以，平稳可逆ARMA模型的的模型的的自相关系数是自相关系数是拖拖尾的，尾的，偏自相关系数也是偏自相关系数也是拖尾的。拖尾的。自相关系数和偏自相关系数拖尾性自相关系数和偏自相关系数拖尾性n样本自相关图样本自相关图n样本偏自相关图样本偏自相关图ARMA模型相关性特征模型相关性特征模型自相关系数偏自相关系数AR(P)拖尾P阶截尾MA(q)q阶截尾拖尾ARMA(p,q)拖尾拖尾此课件下载可自行编辑修改，仅供参考！此课件下载可自行编辑修改，仅供参考！感谢您的支持，我们努力做得更好！谢谢感谢您的支持，我们努力做得更好！谢谢