平稳时间序列分析ARMA模型.pptx
平稳时间序列分析平稳时间序列分析ARMA模型模型第二节 ARMA模型模型AR模型（Auto Regression Model）MA模型（Moving Average Model）ARMA模型（Auto Regression Moving Average model）第1页/共100页一、一、一、一、ARAR模型模型模型模型(Auto Regression ModelAuto Regression Model)具有如下结构的模型称为具有如下结构的模型称为 阶自回归模型，阶自回归模型，简记为简记为特别当特别当 时，称为中心化时，称为中心化 模型模型（一）AR模型定义第2页/共100页 AR(P)AR(P)序列中心化变换序列中心化变换序列中心化变换序列中心化变换对于非中心化序列作变换则原序列即化为中心化序列所以，以后我们重点讨论中心化时间序列。第3页/共100页AR模型的算子表示令则 模型可表示为（二）AR模型平稳性判别判别原因：AR模型是常用的平稳序列的拟合模型之一，但并非所有的AR模型都是平稳的。判别方法：特征根判别法，平稳域判别法。第4页/共100页例例例例3.1:3.1:考察如下四个模型的平稳性考察如下四个模型的平稳性考察如下四个模型的平稳性考察如下四个模型的平稳性第5页/共100页例例例例3.13.1平稳序列时序图平稳序列时序图平稳序列时序图平稳序列时序图第6页/共100页例例例例3.13.1非平稳序列时序图非平稳序列时序图非平稳序列时序图非平稳序列时序图 从时序图上可以看出，（1）（3）模型平稳，（2）（4）模型非平稳。第7页/共100页（三）三）三）三）ARAR模型平稳性常用判别方法模型平稳性常用判别方法模型平稳性常用判别方法模型平稳性常用判别方法特征根判别平稳域判别 AR(p)模型平稳的充要条件是它的p个特征根都在单位圆内。根据特征根和算子多项式的根成倒数的性质，AR(p)模型平稳的充要条件是该模型的算子多项式的根都在单位圆外。平稳域为：第8页/共100页（四）两个常见模型的平稳性条件1、AR(1)模型平稳条件特征根为 ，平稳条件平稳域为第9页/共100页AR(1)AR(1)模型的平稳性条件也可以如下讨论：模型的平稳性条件也可以如下讨论：模型的平稳性条件也可以如下讨论：模型的平稳性条件也可以如下讨论：对1阶自回归模型AR(1)方程两边平方再求数学期望，得到Xt的方差：由于Xt仅与t相关，因此，E(Xt-1t)=0。如果该模型稳定，则有E(Xt2)=E(Xt-12)，从而上式可变换为：第10页/共100页在稳定条件下，该方差是一非负的常数，从而有|1。而而而而AR(1)AR(1)的算子多项式方程的算子多项式方程的算子多项式方程的算子多项式方程：的根为z=1/AR(1)稳定，即|1，意味着特征根大于1。第11页/共100页2 2、AR(2)AR(2)模型平稳条件模型平稳条件模型平稳条件模型平稳条件特征根为特征根为特征根为特征根为由知 等价于平稳域第12页/共100页 2+1=-1 2+(1+2)=1 (1-1)(1-2)2-1=-1 2-(1+2)=1 (1+1)(1+2)无论 1,2为实数或共轭复数，由 1 1,2 0，从而得 2+1 1 2-1 1 且 -1 2 0 时，特征方程有不等实数根。2,1的值位于过阻尼区（自相关函数呈指数衰减）。(3)当 12+4 2 0 时，特征方程根为共轭复根。2,1的值位于欠阻尼区（自相关函数呈正弦震荡衰减）。第15页/共100页AR(2)模型的平稳性也可以如下讨论：对AR(2)模型：方程两边同乘以Xt，再取期望得：又由于：又由于：又由于：又由于：第16页/共100页于是：同样地，由原式还可得到：于是方差为：由平稳性的定义，该方差必须是一不变的正数，于是有 1+21,2-11,|2|1第17页/共100页 对高阶自回模型对高阶自回模型对高阶自回模型对高阶自回模型AR(p)AR(p)来说来说来说来说，多数情况下没有多数情况下没有多数情况下没有多数情况下没有必要直接计算其特征方程的特征根，但有必要直接计算其特征方程的特征根，但有必要直接计算其特征方程的特征根，但有必要直接计算其特征方程的特征根，但有一些有用一些有用一些有用一些有用的规则可用来检验高阶自回归模型的稳定性的规则可用来检验高阶自回归模型的稳定性的规则可用来检验高阶自回归模型的稳定性的规则可用来检验高阶自回归模型的稳定性：(1)AR(p)模型稳定的必要条件是：(2)由于 可正可负，AR(p)模型稳定的充分条件是：第18页/共100页例例例例3.13.1平稳性判别平稳性判别平稳性判别平稳性判别模型特征根判别平稳域判别结论(1)平稳(2)非平稳(3)平稳(4)非平稳第19页/共100页（三）平稳AR模型的统计性质1、均值如果AR(p)模型满足平稳性条件，则有根据平稳序列均值为常数，且 为白噪声序列，有推导出第20页/共100页（1 1）GreenGreen函数定义函数定义函数定义函数定义2、方差将平稳的AR(p)模型表示成如下的传递形式其中系数 称为Green函数第21页/共100页求求求求GreenGreen函数递推公式函数递推公式函数递推公式函数递推公式由待定系数法可得如下递推公式第22页/共100页（2 2）平稳的）平稳的）平稳的）平稳的AR(p)AR(p)模型的方差模型的方差模型的方差模型的方差由平稳AR模型的传递形式两边求方差得第23页/共100页例例例例3.2:3.2:求平稳求平稳求平稳求平稳AR(1)AR(1)模型的方差模型的方差模型的方差模型的方差平稳AR(1)模型的传递形式为Green函数为平稳AR(1)模型的方差为第24页/共100页也可用以下方法计算将原过程改写为所以第25页/共100页3 3、自协方差函数、自协方差函数、自协方差函数、自协方差函数在平稳AR(p)模型两边同乘 ，再求期望根据得自协方差函数的递推公式第26页/共100页例例例例3.3:3.3:求平稳求平稳求平稳求平稳AR(1)AR(1)模型的自协方差函数模型的自协方差函数模型的自协方差函数模型的自协方差函数递推公式：平稳AR(1)模型的方差为自协方差函数的递推公式为：第27页/共100页例例例例3.4:3.4:求平稳求平稳求平稳求平稳AR(2)AR(2)模型的协方差模型的协方差模型的协方差模型的协方差利用其中第28页/共100页所以，平稳AR(2)模型的协方差函数递推公式为第29页/共100页4 4、自相关系数、自相关系数、自相关系数、自相关系数（1）自相关系数的定义：特别（2）平稳AR(P)模型的自相关系数递推公式：上述方程称为Yule-Walker方程。第30页/共100页（3 3）常用）常用）常用）常用ARAR模型自相关系数递推公式模型自相关系数递推公式模型自相关系数递推公式模型自相关系数递推公式AR(1)模型AR(2)模型第31页/共100页说明：在AR(1)模型中，即使 没有直接出现在模型中，和 也是相关的。因为所以，是通过 与 相关的，这种间接相关出现在任何AR模型中。与 的自相关系数 等于 与 的自相关系数 乘以 与 的自相关系 数 。即第32页/共100页5 5、平稳、平稳、平稳、平稳AR(p)AR(p)模型自相关系数的性质模型自相关系数的性质模型自相关系数的性质模型自相关系数的性质（1）拖尾性（2）呈负指数衰减拖尾性说明 之前的每一个序列值 都会对 构成影响，但因为自相关系数呈负指数衰减，所以，间隔较远的序列值对现时值的影响很小，具有所谓的“短期相关性”。第33页/共100页例例例例3.5:3.5:考察如下考察如下考察如下考察如下ARAR模型的自相关图模型的自相关图模型的自相关图模型的自相关图第34页/共100页例例例例3.53.5自相关系数按负指数单调收敛到零自相关系数按负指数单调收敛到零自相关系数按负指数单调收敛到零自相关系数按负指数单调收敛到零第35页/共100页例例例例3.5:3.5:自相关系数呈现正负相间地衰减自相关系数呈现正负相间地衰减自相关系数呈现正负相间地衰减自相关系数呈现正负相间地衰减第36页/共100页例例例例3.5:3.5:自相关系数呈现出自相关系数呈现出自相关系数呈现出自相关系数呈现出“伪周期伪周期伪周期伪周期”性性性性第37页/共100页例例例例3.5:3.5:自相关系数不规则衰减自相关系数不规则衰减自相关系数不规则衰减自相关系数不规则衰减第38页/共100页 6 6、偏自相关函数、偏自相关函数、偏自相关函数、偏自相关函数 自相关函数ACF(k)给出了Xt与Xt-k的总体相关性，但总体相关性可能掩盖了变量间完全不同的相关关系。例如，在AR(1)中，Xt与Xt-2间有相关性可能主要是由于它们各自与Xt-1间的相关性带来的:即自相关函数中包含了这种所有的“间接”相关。第39页/共100页 与之相反，Xt与Xt-k间的偏自相关函数(partial autocorrelation，简记为PACF)则是消除了中间变量Xt-1，Xt-k+1 带来的间接相关后的直接相关性，它是在已知序列值Xt-1，Xt-k+1的条件下，Xt与Xt-k间关系的度量。第40页/共100页定义：对于平稳AR(p)序列，所谓滞后k偏自相关系数就是指在给定中间k-1个随机变量 的条件下，或者说，在剔除了中间k-1个随机变量的干扰之后，对 影响的相关度量。用数学语言描述就是第41页/共100页7、偏自相关系数的计算（1）直接利用回归方法计算 首先将序列中心化，作如下形式的回归滞后k偏自相关系数实际上就等于k阶自回归模型第个k回归系数的值。第42页/共100页注意到：所以，即为剔除了中间k-1个随机变量的干扰之后，与 的相关系数，即 与 的 偏自相关系数。第43页/共100页（2）利用Yule-Walker方程计算当 时，当 时，第44页/共100页所以，一般地：利用Cramer法则可得第45页/共100页（3）利用Levinson 递推公式计算第46页/共100页或写成其中第47页/共100页定理的证明：Yule-Walker方程可写为第48页/共100页 利用归纳法，对k=1，Levinson递推公式显然成立。假设公式对k-1已经成立，即第49页/共100页对k阶Yule-Walker方程作上述分块矩阵，记第50页/共100页第51页/共100页则 是正交阵。有 k阶Yule-Walker方程可记为第52页/共100页所以，由（1）式注意到：-（1）-（2）-（3）第53页/共100页代入（2）式得，所以，注意到：已经假定Levinson 公式对k-1成立，即第54页/共100页所以有再由（3）式得即第55页/共100页8 8、平稳、平稳、平稳、平稳AR(p)AR(p)模型模型模型模型偏自相关系数的截尾性偏自相关系数的截尾性偏自相关系数的截尾性偏自相关系数的截尾性 AR(p)模型偏自相关系数P阶截尾，这是因为对于AR(p)模型 与 之间不存在直接相关。所以 平稳AR(p)模型偏自相关系数的截尾性是AR模型所具有的一个重要特性，它可以帮助我们识别AR模型。第56页/共100页9、常用AR模型偏自相关系数公式AR(1)模型：AR(2)模型：第57页/共100页例例例例3.53.5续续续续:考察如下考察如下考察如下考察如下ARAR模型的偏自相关图模型的偏自相关图模型的偏自相关图模型的偏自相关图第58页/共100页例例例例3.53.5理论偏自相关系数理论偏自相关系数理论偏自相关系数理论偏自相关系数样本偏自相关图样本偏自相关图样本偏自相关图样本偏自相关图第59页/共100页例例例例3.5:3.5:理论偏自相关系数理论偏自相关系数理论偏自相关系数理论偏自相关系数样本偏自相关图样本偏自相关图样本偏自相关图样本偏自相关图第60页/共100页例例例例3.5:3.5:理论偏自相关系理论偏自相关系理论偏自相关系理论偏自相关系数数数数样本偏自相关样本偏自相关样本偏自相关样本偏自相关图图图图第61页/共100页例例例例3.5:3.5:理论偏自相关系数理论偏自相关系数理论偏自相关系数理论偏自相关系数样本偏自相关图样本偏自相关图样本偏自相关图样本偏自相关图第62页/共100页二、二、二、二、MAMA模型（模型（模型（模型（Moving Average ModelMoving Average Model）（一）MA模型的定义具有如下结构的模型称为 阶移动平均模型，简记为特别当 时，称为中心化 模型第63页/共100页 利用延迟算子，中心化 模型又可以简记为 其中，是 阶移动平均系数多项式 为了以后识别一个模型是否是移动平均模型MA(q)，下面讨论MA模型的统计性质第64页/共100页（二）（二）（二）（二）MAMA模型的统计性质模型的统计性质模型的统计性质模型的统计性质（1）常数均值（2）常数方差显然，MA模型是平稳的。第65页/共100页（3 3）MAMA模型的自协方差函数模型的自协方差函数模型的自协方差函数模型的自协方差函数MA(q)自协方差函数q 阶截尾第66页/共100页（4）MA模型的自相关函数MA(q)自相关系数q 阶截尾第67页/共100页(5)(5)常用常用常用常用MAMA模型的自相关系数模型的自相关系数模型的自相关系数模型的自相关系数MA(1)MA(1)模型模型模型模型MA(2)MA(2)模型模型模型模型第68页/共100页(6)MA(6)MA模型的模型的模型的模型的偏自相关系数偏自相关系数偏自相关系数偏自相关系数MA模型的偏自相关系数拖尾对于中心化的MA(q)模型，有第69页/共100页例例例例3.6:3.6:考察如下考察如下考察如下考察如下MAMA模型的相关性质模型的相关性质模型的相关性质模型的相关性质第70页/共100页MAMA模型的自相关系数截尾模型的自相关系数截尾模型的自相关系数截尾模型的自相关系数截尾可以看出（1）（2）自相关系数相同第71页/共100页MAMA模型的自相关系数截尾模型的自相关系数截尾模型的自相关系数截尾模型的自相关系数截尾可以看出（3）（4）自相关系数相同第72页/共100页MAMA模型的偏自相关系数拖尾模型的偏自相关系数拖尾模型的偏自相关系数拖尾模型的偏自相关系数拖尾第73页/共100页 可以看出（1）和（2）的偏自相关系数相同，（3）和（4）的偏自相关系数相同。第74页/共100页（三）三）三）三）MAMA模型的可逆性模型的可逆性模型的可逆性模型的可逆性 由例3.6可以看出，不同的MA模型可能具有完全相同的自相关系数和偏自相关系数，为了利用自相关系数和偏自相关系数来识别MA模型，要求给定一个自相关函数能够对应惟一的MA模型，这就要求我们给模型增加约束条件，这个约束条称为件MA模型的可逆性条件。第75页/共100页（1 1）MAMA模型可逆性的定义模型可逆性的定义模型可逆性的定义模型可逆性的定义定义：若一个MA模型能够表示称为收敛的AR模型形式，那么该MA模型称为可逆MA模型。意义：可以保证一个自相关系数列唯一对应一个可逆MA模型。第76页/共100页（2 2）可逆的）可逆的）可逆的）可逆的MA(1)MA(1)模型模型模型模型第77页/共100页（3 3）MAMA模型的可逆条件模型的可逆条件模型的可逆条件模型的可逆条件MA(q)模型可逆的充要条件是：MA(q)模型的特征根都在单位圆内等价条件是算子多项式的根都在单位圆外第78页/共100页（4 4）MAMA模型模型模型模型逆函数的递推公式逆函数的递推公式逆函数的递推公式逆函数的递推公式利用待定系数法可得如下逆函数递推公式由若MA模型可逆，则MA模型可表示为称为MA模型的可逆表示。第79页/共100页例例例例3.63.6续续续续:考察如下考察如下考察如下考察如下MAMA模型的可逆性模型的可逆性模型的可逆性模型的可逆性第80页/共100页逆函数为逆转形式为（可逆表示）第81页/共100页MA(2)可逆条件：(3)的逆函数为(3)的逆转形式为（可逆表示）第82页/共100页自回归与移动平均过程的关系 一个平稳的AR(p)过程 (1-1B-2B2-pBp)xt=ut可以转换为一个无限阶的移动平均过程，xt=(1-1B-2B2-pBp)-1 u t=B)-1 ut 一个可逆的MA(q)过程 xt=(1+1B+2 B2+q Bq)ut=B)ut可转换成一个无限阶的自回归过程，(1+1B+2 B2+q Bq)-1 xt=B)-1 xt=ut第83页/共100页 对于MA(q)过程，只需考虑可逆性问题，条件是 B)=0的根（绝对值）必须大于1，不必考虑平稳性问题。对于AR(p)过程只需考虑平稳性问题，条件是 B)=0的根（绝对值）必须大于1。不必考虑可逆性问题。第84页/共100页三、三、三、三、ARMAARMA模型模型模型模型（一）ARMA模型的定义具有如下结构的模型称为自回归移动平均模型，简记为特别当 时，称为中心化 模型。第85页/共100页利用延迟算子，中心化 模型又可以简记为其中，是 阶自回归系数多项式 是 阶移动平均系数多项式第86页/共100页（二）（二）（二）（二）ARMA(p,q)ARMA(p,q)平稳条件与可逆条件平稳条件与可逆条件平稳条件与可逆条件平稳条件与可逆条件ARMA(p,q)模型的平稳条件：P阶自回归系数多项式 的根都在单位圆外，即ARMA(p,q)模型的平稳性完全由其自回归部分的平稳性决定。ARMA(p,q)模型的可逆条件：q阶移动平均系数多项式 的根都在单位圆外，即ARMA(p,q)模型的可逆性完全由其移动平滑部分的可逆性决定。第87页/共100页（三）（三）（三）（三）ARMA(p,q)ARMA(p,q)传递形式与逆转形式传递形式与逆转形式传递形式与逆转形式传递形式与逆转形式传递形式传递形式传递形式传递形式逆转形式逆转形式逆转形式逆转形式无穷阶MA模型无穷阶AR模型第88页/共100页格林函数逆函数其中第89页/共100页（四）（四）（四）（四）ARMA(p,q)ARMA(p,q)模型的统计性质模型的统计性质模型的统计性质模型的统计性质均值：自协方差函数：自相关系数：第90页/共100页例：求ARMA(1,1)过程的自协方差函数，自相关函数，偏自相关函数。解第91页/共100页所以，第92页/共100页偏自回归系数的Levinson 递推公式为：第93页/共100页所以，的偏自相关系数为 类似地可求出第94页/共100页ARMA(1,1)模型可转化为无穷阶自回归模型：类似地，可将ARMA(1,1)模型转化为无穷阶移动平均模型：第95页/共100页ARMA(1,1)过程是实际中最常用的模型。ARMA(1,1)过程 第96页/共100页（五）平稳可逆ARMA模型的自相关系数和偏自相关系数具有的特征 由于平稳可逆ARMA模型既可表示为无穷阶自回归模型，也可转化为无穷阶移动平均模型，所以，平稳可逆ARMA模型的的自相关系数是拖尾的，偏自相关系数也是拖尾的。第97页/共100页自相关系数和偏自相关系数拖尾性自相关系数和偏自相关系数拖尾性自相关系数和偏自相关系数拖尾性自相关系数和偏自相关系数拖尾性样本自相关图样本自相关图样本自相关图样本自相关图样本偏自相关图样本偏自相关图样本偏自相关图样本偏自相关图第98页/共100页ARMAARMA模型相关性特征模型相关性特征模型相关性特征模型相关性特征模型自相关系数偏自相关系数AR(P)拖尾P阶截尾MA(q)q阶截尾拖尾ARMA(p,q)拖尾拖尾第99页/共100页
