平稳时间序列分析教案.pptx
会计学1平稳时间序列分析平稳时间序列分析本章结构本章结构本章结构本章结构方法性工具方法性工具1.ARMA模型模型2.平稳序列建模平稳序列建模3.序列预测序列预测4.第1页/共172页3.1 方法性工具方法性工具 n n本节结构n n差分运算差分运算n n延迟算子延迟算子n n线性差分方程线性差分方程第2页/共172页差分运算差分运算n n一阶差分n n 阶差分 n n 步差分第3页/共172页延迟算子延迟算子n n延迟算子类似于一个时间指针,当前序列值乘以一个延迟算子,就相当于把当前序列值的时间向过去拨了一个时刻 n n记B为延迟算子,有 第4页/共172页延迟算子的性质延迟算子的性质n n n n n n n n n n ,其中其中 第5页/共172页用延迟算子表示差分运算用延迟算子表示差分运算n n 阶差分 n n 步差分第6页/共172页线性差分方程线性差分方程 n n线性差分方程n n齐次线性差分方程第7页/共172页齐次线性差分方程的解齐次线性差分方程的解n n特征方程特征方程n n特征方程的根称为特征根,记作特征方程的根称为特征根,记作n n齐次线性差分方程的通解齐次线性差分方程的通解n n不相等实数根场合不相等实数根场合n n有相等实根场合有相等实根场合n n复根场合复根场合第8页/共172页非齐次线性差分方程的解非齐次线性差分方程的解 n n非齐次线性差分方程的特解n n使得非齐次线性差分方程成立的任意一个解使得非齐次线性差分方程成立的任意一个解n n非齐次线性差分方程的通解n n齐齐次次线线性性差差分分方方程程的的通通解解 和和非非齐齐次次线线性性差差分分方方程程的的特解特解 之和之和第9页/共172页时序分析与线性差分方程的关系时序分析与线性差分方程的关系时序分析与线性差分方程的关系时序分析与线性差分方程的关系n n常用的时间序列模型和某些模型的自协方差函数和自相关函数都可以视为线性差分方程n n线性差分方程对应的特征根的性质对判断模型的平稳性有着非常重要的意义第10页/共172页本章结构本章结构本章结构本章结构方法性工具方法性工具1.ARMA模型模型2.平稳序列建模平稳序列建模3.序列预测序列预测4.第11页/共172页3.2 ARMA模型模型n n本节结构n nARAR模型(模型(Auto Regression ModelAuto Regression Model)n nMAMA模型(模型(Moving Average ModelMoving Average Model)n nARMAARMA模型(模型(Auto Regression Auto Regression Moving Average Moving Average modelmodel)第12页/共172页AR模型模型的定义的定义n n具有如下结构的模型称为 阶自回归模型,简记为n n特别当 时,称为中心化 模型第13页/共172页 AR(P)序列中心化变换序列中心化变换n n称 为 的中心化序列,令第14页/共172页自回归系数多项式自回归系数多项式n n引进延迟算子,中心化 模型又可以简记为 n n自回归系数多项式第15页/共172页AR模型平稳性判别模型平稳性判别 n n判别原因n nARAR模型是常用的平稳序列的拟合模型之一,但模型是常用的平稳序列的拟合模型之一,但并非所有的并非所有的ARAR模型都是平稳的模型都是平稳的 n n判别方法n n单位根判别法单位根判别法n n平稳域判别法平稳域判别法第16页/共172页自回归方程的解自回归方程的解自回归方程的解自回归方程的解n n任一个中心化任一个中心化 模型模型 都可以视为一个非齐次都可以视为一个非齐次线性差分方程,它的通解求法如下线性差分方程,它的通解求法如下(1 1)求齐次线性差分方程)求齐次线性差分方程 的一个通解的一个通解 (2 2)求非齐次线性差分方程)求非齐次线性差分方程 的一个特解的一个特解(3 3)求非齐次线性差分方程)求非齐次线性差分方程 的通解的通解 第17页/共172页单位根检验单位根检验单位根检验单位根检验n n自回归序列平稳,要求n n成立的条件第18页/共172页平稳域判别平稳域判别平稳域判别平稳域判别n n对于一个 模型而言,如果没有平稳性的要求,实际上也就意味着对参数向量没有任何限制,它们可以取遍维欧氏空间的任意一点n n如果加上了平稳性限制,参数向量就只能取维欧氏空间的一个子集,使得特征根都在单位圆内的系数集合n n对于低阶自回归模型用平稳域的方法判别模型的平稳性通常更为简便。第19页/共172页AR(1)模型平稳条件模型平稳条件n n方程结构方程结构n n特征根特征根n n平稳域平稳域第20页/共172页AR(2)模型的平稳条件模型的平稳条件n n方程结构方程结构n n特征根特征根n n平稳域平稳域第21页/共172页AR(2)AR(2)的平稳域的平稳域的平稳域的平稳域第22页/共172页例例例例3.1:3.1:考察如下四个考察如下四个考察如下四个考察如下四个模型的平稳性模型的平稳性模型的平稳性模型的平稳性第23页/共172页例例3.1平稳序列时序图平稳序列时序图第24页/共172页例例3.1非平稳序列时序图非平稳序列时序图第25页/共172页例例3.1平稳性判别平稳性判别模型特征根判别平稳域判别结论(1)平稳(2)非平稳(3)平稳(4)非平稳第26页/共172页平稳平稳AR模型的统计性质模型的统计性质n n均值n n方差n n协方差n n自相关系数n n偏自相关系数第27页/共172页均值均值 n n如果如果AR(p)AR(p)模型满足平稳性条件,则有模型满足平稳性条件,则有n n根据平稳序列均值为常数,且根据平稳序列均值为常数,且 为白噪声序列,有为白噪声序列,有n n推导出推导出第28页/共172页Green函数定义函数定义n nAR模型的传递形式n n其中系数 称为Green函数第29页/共172页Green函数递推公式函数递推公式n n原理原理n n方法:待定系数法方法:待定系数法第30页/共172页例例3.2:求平稳求平稳AR(1)模型的方差模型的方差n n平稳平稳AR(1)AR(1)模型的模型的GreenGreen函数函数n nGreenGreen函数为函数为n n平稳平稳AR(1)AR(1)模型的方差模型的方差第31页/共172页方差方差n n平稳AR模型的传递形式n n两边求方差得第32页/共172页协方差函数协方差函数n n在平稳在平稳AR(p)AR(p)模型两边同乘模型两边同乘 ,再求期望,再求期望n n根据根据n n得协方差函数的递推公式得协方差函数的递推公式第33页/共172页例例例例3.3:3.3:求平稳求平稳求平稳求平稳AR(1)AR(1)模型的协方差模型的协方差模型的协方差模型的协方差n n递推公式递推公式n n平稳平稳AR(1)AR(1)模型的方差为模型的方差为n n协方差函数的递推公式为协方差函数的递推公式为第34页/共172页例例例例3.4:3.4:求平稳求平稳求平稳求平稳AR(2)AR(2)模型的协方差模型的协方差模型的协方差模型的协方差n n平稳平稳AR(2)AR(2)模型的协方差函数递推公式为模型的协方差函数递推公式为第35页/共172页自相关系数自相关系数n n自相关系数的定义n n平稳AR(P)模型的自相关系数递推公式第36页/共172页常用常用常用常用ARAR模型自相关系数递推公式模型自相关系数递推公式模型自相关系数递推公式模型自相关系数递推公式n nAR(1)模型n nAR(2)模型第37页/共172页AR模型自相关系数的性质模型自相关系数的性质n nARAR模型自相关系数的表达式是一个齐次差分方程,设模型自相关系数的表达式是一个齐次差分方程,设它的通解形式为它的通解形式为n n呈指数衰减呈指数衰减n n拖尾性拖尾性第38页/共172页例例例例3.5:3.5:考察如下考察如下考察如下考察如下ARAR模型的自相关图模型的自相关图模型的自相关图模型的自相关图第39页/共172页例例3.5:考察四个平稳:考察四个平稳AR模型的模型的自相关图自相关图n n自相关系数按复指数单调收敛到零第40页/共172页例例3.5:考察四个平稳:考察四个平稳AR模型的模型的自相关图自相关图n n自相关系数呈正负相间衰减第41页/共172页例例3.5:考察四个平稳:考察四个平稳AR模型的模型的自相关图自相关图n n自相关系数呈现出“伪周期”性第42页/共172页例例3.5:考察四个平稳:考察四个平稳AR模型的模型的自相关图自相关图n n自相关系数不规则衰减第43页/共172页偏自相关系数偏自相关系数n n定义 对于平稳对于平稳 序列,所谓滞后序列,所谓滞后k k偏自相关系数就是指在偏自相关系数就是指在给定中间给定中间k-1k-1个随机变量个随机变量 的条件下,或者的条件下,或者说,在剔除了中间说,在剔除了中间k-1k-1个随机变量的干扰之后,个随机变量的干扰之后,对对 影响的相关度量。用数学语言描述就是影响的相关度量。用数学语言描述就是第44页/共172页偏自相关系数的计算偏自相关系数的计算偏自相关系数的计算偏自相关系数的计算第45页/共172页Yule-Walker方程组方程组n n在在 方程等号两边方程等号两边同时乘以同时乘以 ,并取期望,得,并取期望,得n n取前取前k k k k个方程构成的方程组即个方程构成的方程组即Yule-WalkerYule-Walker方程组方程组n n解解Yule-WalkerYule-Walker方程组可以得到参数方程组可以得到参数 的解,的解,最后一个参数的解即为延迟最后一个参数的解即为延迟K K偏自相关系数偏自相关系数第46页/共172页Yule-Walker方程求解方程求解第47页/共172页ARAR模型偏自相关系数的截尾性模型偏自相关系数的截尾性模型偏自相关系数的截尾性模型偏自相关系数的截尾性第48页/共172页AR(1)AR(1)模型偏自相关系数的计算模型偏自相关系数的计算模型偏自相关系数的计算模型偏自相关系数的计算n nAR(1)AR(1)模型模型n nJule-WalkerJule-Walker方程方程n n偏自相关系数的解偏自相关系数的解第49页/共172页AR(2)AR(2)模型偏自相关系数的计算模型偏自相关系数的计算模型偏自相关系数的计算模型偏自相关系数的计算第50页/共172页例例例例3.53.5续续续续:考察如下考察如下考察如下考察如下ARAR模型的偏自相关图模型的偏自相关图模型的偏自相关图模型的偏自相关图第51页/共172页例例例例3.53.5续续续续:考察如下考察如下考察如下考察如下ARAR模型的偏自相关图模型的偏自相关图模型的偏自相关图模型的偏自相关图n n理论偏自相关系数理论偏自相关系数n n样本偏自相关图样本偏自相关图第52页/共172页例例例例3.53.5续续续续:考察如下考察如下考察如下考察如下ARAR模型的偏自相关图模型的偏自相关图模型的偏自相关图模型的偏自相关图n n理论偏自相关系数理论偏自相关系数n n样本偏自相关图样本偏自相关图第53页/共172页例例例例3.53.5续续续续:考察如下考察如下考察如下考察如下ARAR模型的偏自相关图模型的偏自相关图模型的偏自相关图模型的偏自相关图n n理论偏自相关系数理论偏自相关系数n n样本偏自相关图样本偏自相关图第54页/共172页例例例例3.53.5续续续续:考察如下考察如下考察如下考察如下ARAR模型的偏自相关图模型的偏自相关图模型的偏自相关图模型的偏自相关图n n理论偏自相关系数理论偏自相关系数n n样本偏自相关系数图样本偏自相关系数图第55页/共172页MA模型模型的定义的定义n n具有如下结构的模型称为 阶自回归模型,简记为n n特别当 时,称为中心化 模型第56页/共172页移动平均系数多项式移动平均系数多项式n n引进延迟算子,中心化 模型又可以简记为 n n 阶移动平均系数多项式第57页/共172页MA模型的统计性质模型的统计性质n n常数均值n n常数方差第58页/共172页MA模型的统计性质模型的统计性质n n自协方差函数自协方差函数q q阶截尾阶截尾n n自相关系数自相关系数q q阶截尾阶截尾第59页/共172页常用常用MA模型的自相关系数模型的自相关系数n nMA(1)MA(1)模型模型n nMA(2)MA(2)模型模型第60页/共172页例例例例3.6:3.6:考察如下考察如下考察如下考察如下MAMA模型的相关性质模型的相关性质模型的相关性质模型的相关性质第61页/共172页MA(1)模型的自相关系数模型的自相关系数1阶截尾阶截尾n n n n 第62页/共172页不同的不同的不同的不同的MA(1)MA(1)模型,相同的自相关系数模型,相同的自相关系数模型,相同的自相关系数模型,相同的自相关系数n n考察上面两个MA(1)模型的自相关图,可以发现这两个不同的MA模型具有相同的自相关图n n容易验证它们的理论自相关系数也正好相等第63页/共172页MA(2)模型的自相关系数模型的自相关系数2阶截尾阶截尾n n n n 第64页/共172页不同的不同的不同的不同的MA(MA(2 2)模型,相同的自相关系数模型,相同的自相关系数模型,相同的自相关系数模型,相同的自相关系数n n考察上面两个MA(2)模型的自相关图,可以发现这两个不同的MA模型具有相同的自相关图n n容易验证它们的理论自相关系数也正好相等第65页/共172页MA模型的可逆性模型的可逆性n n例3.6演示了不同的MA模型,可能具有完全相同的自相关系数的现象。产生这种现象的原因就是我们在第二章中提到的:自相关系数有可能不唯一。n n这种自相关系数的不唯一性,会给我们将来的工作增加麻烦。因为,将来我们都是通过样本自相关系数显示出来的特征选择合适的模型拟合序列的发展,如果自相关系数和模型之间不是一一对应关系,就将导致拟合模型和随机序列之间不会是一一对应关系。n n为了保证一个给定的自相关函数能够对应唯一的模型,我们就要给模型增加约束条件。这个约束条件称为模型的可逆性条件。第66页/共172页可逆的定义可逆的定义n n可逆MA模型定义n n若一个若一个MAMA模型能够表示称为收模型能够表示称为收敛的敛的ARAR模型形式,那么该模型形式,那么该MAMA模模型称为可逆型称为可逆MAMA模型模型n n可逆概念的重要性n n一个自相关系数列唯一对应一一个自相关系数列唯一对应一个可逆个可逆MAMA模型。模型。第67页/共172页可逆可逆MA(1)模型模型第68页/共172页MA模型的可逆条件模型的可逆条件n nMA(q)模型的可逆条件是:n nMA(q)MA(q)模型的特征根都在单位圆内模型的特征根都在单位圆内n n等价条件是移动平滑系数多项式的根都在单位等价条件是移动平滑系数多项式的根都在单位圆外圆外第69页/共172页逆函数的递推公式逆函数的递推公式n n原理原理n n方法:待定系数法方法:待定系数法n n递推公式递推公式第70页/共172页例例例例3.63.6续续续续:考察如下考察如下考察如下考察如下MAMA模型的可逆性模型的可逆性模型的可逆性模型的可逆性第71页/共172页(1)(2)n n n n n n逆函数n n逆转形式第72页/共172页(3)(4)n n n n n n逆函数逆函数n n逆转形式逆转形式第73页/共172页MAMA模型偏自相关系数拖尾模型偏自相关系数拖尾模型偏自相关系数拖尾模型偏自相关系数拖尾n n对于一个可逆对于一个可逆 模型,可以等价写成模型,可以等价写成 模型形式模型形式n n其中其中n nAR(p)AR(p)模型偏自相关系数模型偏自相关系数p p阶截尾,所以可逆阶截尾,所以可逆MA(q)MA(q)模型模型偏自相关系数偏自相关系数 阶截尾,即具有偏自相关系数拖尾属性。阶截尾,即具有偏自相关系数拖尾属性。n n一个可逆一个可逆MA(q)MA(q)模型一定对应着一个与它具有相同自相模型一定对应着一个与它具有相同自相关系数和偏自相关系数的不可逆关系数和偏自相关系数的不可逆MA(q)MA(q)模型,这个不可模型,这个不可逆逆MA(q)MA(q)模型也同样具有偏自相关系数拖尾特性。模型也同样具有偏自相关系数拖尾特性。第74页/共172页例例例例3.7 3.7 求求求求MA(1)MA(1)模型偏自相关系数的表达式模型偏自相关系数的表达式模型偏自相关系数的表达式模型偏自相关系数的表达式n nMA(1)模型表达式:n n根据偏自相关系数的定义,我们知道延迟k阶偏自相关系数是如下方程组的最后一个系数n n对 依次求方程,可以得到MA(1)模型任意k阶偏自相关系数的通解为第75页/共172页例例例例3.63.6续续续续n n绘制下列MA模型的偏自相关系数图,直观考察MA模型偏自相关系数的拖尾性第76页/共172页MA(1)MA(1)模型偏自相关系数拖尾模型偏自相关系数拖尾模型偏自相关系数拖尾模型偏自相关系数拖尾第77页/共172页MA(MA(2 2)模型偏自相关系数拖尾模型偏自相关系数拖尾模型偏自相关系数拖尾模型偏自相关系数拖尾第78页/共172页ARMA模型模型的定义的定义n n具有如下结构的模型称为自回归移动平均模型,简记为n n特别当 时,称为中心化 模型第79页/共172页系数多项式系数多项式n n引进延迟算子,中心化 模型又可以简记为 n n 阶自回归系数多项式n n 阶移动平均系数多项式第80页/共172页平稳条件与可逆条件平稳条件与可逆条件n nARMA(p,q)ARMA(p,q)模型的平稳条件模型的平稳条件n nP P阶自回归系数多项式阶自回归系数多项式 的根都在单位圆外的根都在单位圆外n n即即ARMA(p,q)ARMA(p,q)模型的平稳性完全由其自回归部分的平稳性决定模型的平稳性完全由其自回归部分的平稳性决定n nARMA(p,q)ARMA(p,q)模型的可逆条件模型的可逆条件n nq q阶移动平均系数多项式阶移动平均系数多项式 的根都在单位圆外的根都在单位圆外n n即即ARMA(p,q)ARMA(p,q)模型的可逆性完全由其移动平滑部分的可逆性决定模型的可逆性完全由其移动平滑部分的可逆性决定第81页/共172页传递形式与逆转形式传递形式与逆转形式n n传递形式传递形式n n逆转形式逆转形式第82页/共172页ARMA(p,q)模型的统计性质模型的统计性质n n均值n n协方差n n自相关系数第83页/共172页ARMA模型的相关性模型的相关性n n自相关系数拖尾n n偏自相关系数拖尾第84页/共172页例例3.8:考察考察ARMA模型的相关性模型的相关性n n拟合模型ARMA(1,1)并直观地考察该模型自相关系数和偏自相关系数的性质。第85页/共172页自相关系数和偏自相关系数拖尾性自相关系数和偏自相关系数拖尾性自相关系数和偏自相关系数拖尾性自相关系数和偏自相关系数拖尾性n n样本自相关图样本自相关图n n样本偏自相关图样本偏自相关图第86页/共172页ARMA模型相关性特征模型相关性特征模型自相关系数偏自相关系数AR(P)拖尾P阶截尾MA(q)q阶截尾拖尾ARMA(p,q)拖尾拖尾第87页/共172页本章结构本章结构本章结构本章结构方法性工具方法性工具1.ARMA模型模型2.平稳序列建模平稳序列建模3.序列预测序列预测4.第88页/共172页3.3平稳序列建模平稳序列建模 n n本节结构n n建模步骤建模步骤n n模型识别模型识别n n参数估计参数估计n n模型检验模型检验n n模型优化模型优化n n序列预测序列预测第89页/共172页建模步骤建模步骤平平稳稳非非白白噪噪声声序序列列计计算算样样本本相相关关系系数数模型模型识别识别参数参数估计估计模型模型检验检验模模型型优优化化序序列列预预测测YN第90页/共172页计算样本相关系数计算样本相关系数n n样本自相关系数n n样本偏自相关系数第91页/共172页模型识别模型识别n n基本原则基本原则选择模型拖尾P阶截尾AR(P)q阶截尾拖尾MA(q)拖尾拖尾ARMA(p,q)第92页/共172页模型定阶的困难模型定阶的困难n n因为由于样本的随机性,样本的相关系数不会呈现出理论截尾的完美情况,本应截尾的 或 仍会呈现出小值振荡的情况n n由于平稳时间序列通常都具有短期相关性,随着延迟阶数 ,与 都会衰减至零值附近作小值波动n n当 或 在延迟若干阶之后衰减为小值波动时,什么情况下该看作为相关系数截尾,什么情况下该看作为相关系数在延迟若干阶之后正常衰减到零值附近作拖尾波动呢?第93页/共172页样本相关系数的近似分布样本相关系数的近似分布n nBarlettn nQuenouille第94页/共172页模型定阶经验方法模型定阶经验方法n n9595的置信区间的置信区间n n模型定阶的经验方法模型定阶的经验方法n n如如果果样样本本(偏偏)自自相相关关系系数数在在最最初初的的d d阶阶明明显显大大于于两两倍倍标标准准差差范范围围,而而后后几几乎乎9595的的自自相相关关系系数数都都落落在在2 2倍倍标标准准差差的的范范围围以以内内,而而且且通通常常由由非非零零自自相相关关系系数数衰衰减减为为小值波动的过程非常突然。小值波动的过程非常突然。这时,通常视为这时,通常视为(偏偏)自相关系数截尾。截尾阶数为自相关系数截尾。截尾阶数为d d。第95页/共172页例例3.9n n选择合适的模型拟合1950年2008年我国邮路及农村投递线路每年新增里程数序列。第96页/共172页序列时序图序列时序图第97页/共172页白噪声检验白噪声检验白噪声检验白噪声检验n n时序图显示序列没有显著非平稳特征。白噪声检验显示序列值彼此之间蕴含着相关关系,为非白噪声序列。第98页/共172页序列自相关图序列自相关图序列自相关图序列自相关图第99页/共172页序列偏自相关图序列偏自相关图第100页/共172页拟合模型识别拟合模型识别n n样本自相关图显示除了延迟样本自相关图显示除了延迟1-31-3阶的自相关系数在阶的自相关系数在2 2倍标准差范围之外,其他阶倍标准差范围之外,其他阶数的自相关系数都在数的自相关系数都在2 2倍标准差范围内波动。根据自相关系数的这个特点可以倍标准差范围内波动。根据自相关系数的这个特点可以判断该序列具有短期相关性,进一步确定序列平稳。判断该序列具有短期相关性,进一步确定序列平稳。n n考察自相关系数衰减向零的过程,可以看到有明显的正弦波动轨迹,这说明考察自相关系数衰减向零的过程,可以看到有明显的正弦波动轨迹,这说明自相关系数衰减到零不是一个突然的过程,而是一个有连续轨迹的过程,这自相关系数衰减到零不是一个突然的过程,而是一个有连续轨迹的过程,这是相关系数拖尾的典型特征是相关系数拖尾的典型特征n n考察偏自相关系数衰减向零的过程,除了考察偏自相关系数衰减向零的过程,除了1-21-2阶偏自相关系数在阶偏自相关系数在2 2倍标准差范围倍标准差范围之外,其他阶数的自相关系数都在之外,其他阶数的自相关系数都在2 2倍标准差范围内做小值无序波动,这是一倍标准差范围内做小值无序波动,这是一个典型的相关系数个典型的相关系数2 2阶截尾特征阶截尾特征n n本例中,根据自相关系数拖尾,偏自相关系数本例中,根据自相关系数拖尾,偏自相关系数2 2阶截尾属性,我们可以初步确阶截尾属性,我们可以初步确定拟合模型为定拟合模型为AR(2)AR(2)模型。模型。第101页/共172页例例3.10美国科罗拉多州某一加油站连续美国科罗拉多州某一加油站连续5757天的天的OVERSHORTOVERSHORT序列序列 第102页/共172页序列自相关图序列自相关图第103页/共172页序列偏自相关图序列偏自相关图第104页/共172页拟合模型识别拟合模型识别n n自相关图显示除了延迟自相关图显示除了延迟1 1阶的自相关系数在阶的自相关系数在2 2倍标准差倍标准差范围之外,其它阶数的自相关系数都在范围之外,其它阶数的自相关系数都在2 2倍标准差范围倍标准差范围内波动。根据这个特点可以判断该序列具有短期相关内波动。根据这个特点可以判断该序列具有短期相关性,进一步确定序列平稳。同时,可以认为该序列自性,进一步确定序列平稳。同时,可以认为该序列自相关系数相关系数1 1阶截尾阶截尾n n偏自相关系数显示出典型非截尾的性质。偏自相关系数显示出典型非截尾的性质。n n综合该序列自相关系数和偏自相关系数的性质,为拟综合该序列自相关系数和偏自相关系数的性质,为拟合模型定阶为合模型定阶为MA(1)MA(1)第105页/共172页例例3.11n n1880-19851880-1985全球气表平均温度改变值差分序列全球气表平均温度改变值差分序列 第106页/共172页序列自相关图序列自相关图第107页/共172页序列偏自相关图序列偏自相关图第108页/共172页拟合模型识别拟合模型识别n n自相关系数显示出不截尾的性质n n偏自相关系数也显示出不截尾的性质n n综合该序列自相关系数和偏自相关系数的性质,可以尝试使用ARMA(1,1)模型拟合该序列第109页/共172页参数估计参数估计n n待估参数n n 个未知参数个未知参数n n常用估计方法n n矩估计矩估计n n极大似然估计极大似然估计n n最小二乘估计最小二乘估计第110页/共172页矩估计矩估计n n原理n n样本自相关系数估计总体自相关系数样本自相关系数估计总体自相关系数n n样本一阶均值估计总体均值,样本方差估计总体方差样本一阶均值估计总体均值,样本方差估计总体方差第111页/共172页例例例例3.12:3.12:求求求求AR(2)AR(2)模型系数的矩估计模型系数的矩估计模型系数的矩估计模型系数的矩估计n nAR(2)模型n nYule-Walker方程n n矩估计(Yule-Walker方程的解)第112页/共172页例例3.13:求求MA(1)模型系模型系数的矩估计数的矩估计n nMA(1)模型n n方程n n矩估计第113页/共172页例例3.14:求求ARMA(1,1)模模型系数的矩估计型系数的矩估计n nARMA(1,1)模型n n方程n n矩估计第114页/共172页对矩估计的评价对矩估计的评价n n优点优点n n估计思想简单直观估计思想简单直观n n不需要假设总体分布不需要假设总体分布n n计算量小(低阶模型场合)计算量小(低阶模型场合)n n缺点缺点n n信息浪费严重信息浪费严重n n只用到了只用到了p+qp+q个样本自相关系数信息,其他信息都被忽略个样本自相关系数信息,其他信息都被忽略n n估计精度差估计精度差n n通常矩估计方法被用作极大似然估计和最小二乘估计迭代计算的初始值通常矩估计方法被用作极大似然估计和最小二乘估计迭代计算的初始值 第115页/共172页极大似然估计极大似然估计n n原理n n在极大似然准则下,认为样本来自使该样本出在极大似然准则下,认为样本来自使该样本出现概率最大的总体。因此未知参数的极大似然现概率最大的总体。因此未知参数的极大似然估计就是使得似然函数(即联合密度函数)达估计就是使得似然函数(即联合密度函数)达到最大的参数值到最大的参数值 第116页/共172页似然方程似然方程n n由于 和 都不是 的显式表达式。因而似然方程组实际上是由p+q+1个超越方程构成,通常需要经过复杂的迭代算法才能求出未知参数的极大似然估计值 第117页/共172页对极大似然估计的评价对极大似然估计的评价n n优点n n极大似然估计充分应用了每一个观察值所提供极大似然估计充分应用了每一个观察值所提供的信息,因而它的估计精度高的信息,因而它的估计精度高n n同时还具有估计的一致性、渐近正态性和渐近同时还具有估计的一致性、渐近正态性和渐近有效性等许多优良的统计性质有效性等许多优良的统计性质n n缺点n n需要假定总体分布需要假定总体分布第118页/共172页最小二乘估计最小二乘估计n n原理n n使残差平方和达到最小的那组参数值即为最小使残差平方和达到最小的那组参数值即为最小二乘估计值二乘估计值 第119页/共172页条件最小二乘估计条件最小二乘估计n n实际中最常用的参数估计方法实际中最常用的参数估计方法n n假设条件假设条件n n残差平方和方程残差平方和方程n n解法解法n n迭代法迭代法第120页/共172页对最小二乘估计的评价对最小二乘估计的评价n n优点n n最小二乘最小二乘估计充分应用了每一个观察值所提供估计充分应用了每一个观察值所提供的信息,因而它的估计精度高的信息,因而它的估计精度高n n条件最小二乘估计方法使用率最高条件最小二乘估计方法使用率最高n n缺点n n需要假定总体分布需要假定总体分布第121页/共172页例例3.9续续n n确定1950年2008年我国邮路及农村投递线路每年新增里程数序列拟合模型的口径。n n拟合模型:拟合模型:AR(AR(2 2)n n估计方法:极大似然估计估计方法:极大似然估计n n模型口径模型口径第122页/共172页例例3.10续续n n确定美国科罗拉多州某一加油站连续57天的OVERSHORTS序列拟合模型的口径 n n拟合模型:拟合模型:MA(1)MA(1)n n估计方法:条件最小二乘估计估计方法:条件最小二乘估计n n模型口径模型口径第123页/共172页例例3.11续续n n确定1880-1985全球气表平均温度改变值差分序列拟合模型的口径 n n拟合模型:拟合模型:ARMA(1,1)ARMA(1,1)n n估计方法:条件最小二乘估计估计方法:条件最小二乘估计n n模型口径模型口径第124页/共172页模型的显著性检验模型的显著性检验n n目的目的n n检验模型的有效性检验模型的有效性(对信息的提取是否充分)(对信息的提取是否充分)n n检验对象检验对象n n残差序列残差序列n n判定原则判定原则n n一个好的拟合模型应该能够提取观察值序列中几乎所有一个好的拟合模型应该能够提取观察值序列中几乎所有的样本相关信息,即残差序列应该为白噪声序列的样本相关信息,即残差序列应该为白噪声序列 n n反之,如果残差序列为非白噪声序列,那就意味着残差反之,如果残差序列为非白噪声序列,那就意味着残差序列中还残留着相关信息未被提取,这就说明拟合模型序列中还残留着相关信息未被提取,这就说明拟合模型不够有效不够有效第125页/共172页假设条件假设条件n n原假设:残差序列为白噪声序列n n备择假设:残差序列为非白噪声序列第126页/共172页检验统计量检验统计量n nLB统计量第127页/共172页模型检验模型检验n n模型的显著性检验n n整个模型对信息的提取是否充分整个模型对信息的提取是否充分n n参数的显著性检验n n模型结构是否最简模型结构是否最简第128页/共172页例例3.9续续n n检验1950年2008年我国邮路及农村投递线路每年新增里程数序列拟合模型的显著性 n n残差白噪声序列检验结果延迟阶数LB统计量P值检验结论62.340.6736拟合模型显著有效123.270.9744184.070.9988第129页/共172页参数显著性检验参数显著性检验n n目的n n检验每一个未知参数是否显著非零。删除不显检验每一个未知参数是否显著非零。删除不显著参数使模型结构最精简著参数使模型结构最精简 n n假设条件n n检验统计量第130页/共172页例例3.9续续n n检验1950年2008年我国邮路及农村投递线路每年新增里程数序列拟合模型参数的显著性 n n参数检验结果检验参数t统计量P值结论3.500.0005显著非零6.460.0001显著非零-4.750.0001显著非零第131页/共172页例例例例3.103.10续续续续:对对对对OVERSHORTSOVERSHORTS序列的拟合模型进行检验序列的拟合模型进行检验序列的拟合模型进行检验序列的拟合模型进行检验 n n残差白噪声检验残差白噪声检验n n参数显著性检验参数显著性检验检验参数t统计量P值结论均值3.750.0004显著非零10.600.0001显著非零延迟阶数LB统计量P值结论63.150.6772模型显著有效129.050.6171第132页/共172页例例例例3.113.11续续续续:对对对对1880-19851880-19851880-19851880-1985全球气表平均温度改变值差分序列拟合模型进行检验全球气表平均温度改变值差分序列拟合模型进行检验全球气表平均温度改变值差分序列拟合模型进行检验全球气表平均温度改变值差分序列拟合模型进行检验 n n残差白噪声检验残差白噪声检验n n参数显著性检验参数显著性检验检验参数t统计量P值结论16.340.0001显著非零3.50.0007显著非零延迟阶数LB统计量P值结论65.280.2595模型显著有效1210.300.4247第133页/共172页模型优化模型优化n n问题提出n n当一个拟合模型通过了检验,说明在一定的置当一个拟合模型通过了检验,说明在一定的置信水平下,该模型能有效地拟合观察值序列的信水平下,该模型能有效地拟合观察值序列的波动,但这种有效模型并不是唯一的。波动,但这种有效模型并不是唯一的。n n优化的目的n n选择相对最优模型选择相对最优模型 第134页/共172页例例3.15:拟合某一化学序列拟合某一化学序列第135页/共172页序列自相关图序列自相关图第136页/共172页序列偏自相关图序列偏自相关图第137页/共172页拟合模型一拟合模型一n n根据自相关系数2阶截尾,拟合MA(2)模型n n参数估计n n模型检验n n模型显著有效模型显著有效 n n三参数均显著三参数均显著 第138页/共172页拟合模型二拟合模型二n n根据偏自相关系数根据偏自相关系数1 1阶截尾,拟合阶截尾,拟合MA(1)MA(1)模型模型n n参数估计参数估计n n模型检验模型检验n n模型显著有效模型显著有效 n n两参数均显著两参数均显著 第139页/共172页问题问题n n同一个序列可以构造两个拟合模型,两个模型都显著有效,那么到底该选择哪个模型用于统计推断呢?n n解决办法n n确定适当的比较准则,构造适当的统计量,确确定适当的比较准则,构造适当的统计量,确定相对最优定相对最优第140页/共172页AIC准则准则n n最小信息量准则(An Information Criterion)n n指导思想n n似然函数值越大越好似然函数值越大越好 n n未知参数的个数越少越好未知参数的个数越少越好 n nAIC统计量第141页/共172页SBC准则准则n nAIC准则的缺陷n n在样本容量趋于无穷大时,由在样本容量趋于无穷大时,由AICAIC准则选择的准则选择的模型不收敛于真实模型,它通常比真实模型所模型不收敛于真实模型,它通常比真实模型所含的未知参数个数要多含的未知参数个数要多 n nSBC统计量第142页/共172页例例3.15续续n n用AIC准则和SBC准则评判例3.15中两个拟合模型的相对优劣 n n结果n nAR(1)AR(1)优于优于MA(2)MA(2)模型AICSBCMA(2)536.4556543.2011AR(1)535.7896540.2866第143页/共172页本章结构本章结构本章结构本章结构方法性工具方法性工具1.ARMA模型模型2.平稳序列建模平稳序列建模3.序列预测序列预测4.第144页/共172页序列预测序列预测n n线性预测函数n n预测方差最小原则第145页/共172页序列分解序列分解预测误预测误差差预测值预测值第146页/共172页误差分析误差分析n n估计误差n n期望n n方差第147页/共172页AR(p)序列的预测序列的预测n n预测值n n预测方差n n95置信区间第148页/共172页例例3.16n n已知某超市月销售额近似服从AR(2)模型(单位:万元/每月)n n今年第一季度该超市月销售额(万元)分别为:101,