平稳时间序列模型的建立.pptx

平稳时间序列模型的建立平稳时间序列模型的建立流程图流程图流程图流程图平平稳稳非非白白噪噪声声序序列列计计算算样样本本相相关关系系数数模型模型识别识别参数参数估计估计模型模型检验检验模模型型优优化化序序列列预预测测YN第1页/共99页一、平稳性检验一、平稳性检验二、纯随机性检验二、纯随机性检验三、计算样本自相关函数三、计算样本自相关函数四、关于非零均值的平稳序列四、关于非零均值的平稳序列第一节第一节 时间序列的预处理时间序列的预处理第2页/共99页本章所介绍的是对本章所介绍的是对零均值平稳序列零均值平稳序列建建立立ARMA模型，因此，在对实际的序模型，因此，在对实际的序列进行模型识别之前，应首先检验序列进行模型识别之前，应首先检验序列是否平稳，若序列非平稳，应先通列是否平稳，若序列非平稳，应先通过适当变换将其化为平稳序列，然后过适当变换将其化为平稳序列，然后再进行模型识别再进行模型识别.第3页/共99页序列的非平稳包括序列的非平稳包括均值非平稳均值非平稳和和方差非方差非平稳平稳.均值非平稳序列平稳化的方法：差分变均值非平稳序列平稳化的方法：差分变换换.方差非平稳序列平稳化的方法：对数变方差非平稳序列平稳化的方法：对数变换、平方根变换等换、平方根变换等.序列平稳性的检验方法和手段主要有序列平稳性的检验方法和手段主要有：序列趋势图、自相关图、单位根检验、序列趋势图、自相关图、单位根检验、非参数检验方法等等非参数检验方法等等.第4页/共99页一、平稳性检验一、平稳性检验图检验方法图检验方法（一）时序图检验（一）时序图检验 根据平稳时间序列均值、方差为常数的性根据平稳时间序列均值、方差为常数的性质，平稳序列的时序图应该显示出该序列质，平稳序列的时序图应该显示出该序列始终在一个常数值附近随机波动，而且波始终在一个常数值附近随机波动，而且波动的范围有界、无明显趋势及周期特征动的范围有界、无明显趋势及周期特征.（二）自相关图检验（二）自相关图检验 平平稳稳序序列列通通常常具具有有短短期期相相关关性性.该该性性质质用用自自相相关关函函数数来来描描述述就就是是随随着着延延迟迟期期数数的的增增加加，平平稳稳序序列列的的自自相相关关函函数数会会很很快快地地衰衰减减向零向零.第5页/共99页例题例题例例1l l检验检验检验检验19641964年年年年19991999年中国纱年中国纱年中国纱年中国纱年产量序列年产量序列年产量序列年产量序列的平稳性的平稳性的平稳性的平稳性例例2l l检验检验检验检验19621962年年年年1 1月月月月19751975年年年年1212月月月月平均每头奶牛月产奶量序列的平平均每头奶牛月产奶量序列的平平均每头奶牛月产奶量序列的平平均每头奶牛月产奶量序列的平稳性稳性稳性稳性例例3l l检验检验检验检验1949194919491949年年年年1998199819981998年北京市每年北京市每年北京市每年北京市每年最高气温序列的平稳性年最高气温序列的平稳性年最高气温序列的平稳性年最高气温序列的平稳性第6页/共99页例例1 时序图时序图第7页/共99页例例1 自相关图自相关图第8页/共99页例例2 时序图时序图第9页/共99页例例2 自相关图自相关图第10页/共99页例例3 时序图时序图第11页/共99页例例3 自相关图自相关图第12页/共99页（一）纯随机序列的定义（一）纯随机序列的定义（一）纯随机序列的定义（一）纯随机序列的定义纯随机序列也称为白噪声纯随机序列也称为白噪声序列，它满足如下两条性序列，它满足如下两条性质质 二、纯随机性检验二、纯随机性检验 第13页/共99页（二）纯随机性检验（二）纯随机性检验（二）纯随机性检验（二）纯随机性检验 检验原理检验原理 假设条件假设条件 检验统计量检验统计量 判别原则判别原则应用举例应用举例第14页/共99页BarlettBarlett定理定理 如果一个时间序列是纯随机的，如果一个时间序列是纯随机的，得到一个观察期数为得到一个观察期数为 的观察的观察序列，那么该序列的延迟非零序列，那么该序列的延迟非零期的样本自相关系数将近似服期的样本自相关系数将近似服从均值为零，方差为序列观察从均值为零，方差为序列观察期数倒数的正态分布期数倒数的正态分布1 1、检验原理、检验原理、检验原理、检验原理第15页/共99页2 2 2 2、假设条件、假设条件、假设条件、假设条件原假设：延迟期数小于或等于原假设：延迟期数小于或等于 期的序列值期的序列值之间相互独立之间相互独立备择假设：延迟期数小于或等于备择假设：延迟期数小于或等于 期的序期的序列值之间有相关性列值之间有相关性 第16页/共99页3 3、检验统计量、检验统计量、检验统计量、检验统计量Q统计量统计量 LB统计量统计量 第17页/共99页4 4 4 4、判别原则、判别原则、判别原则、判别原则拒绝原假设拒绝原假设l l当检验统计量大于当检验统计量大于当检验统计量大于当检验统计量大于 分位点，分位点，分位点，分位点，或该统计量的或该统计量的或该统计量的或该统计量的P P值小于值小于值小于值小于 时，则时，则时，则时，则可以以可以以可以以可以以 的置信水平拒绝原的置信水平拒绝原的置信水平拒绝原的置信水平拒绝原假设，认为该序列为非白噪声假设，认为该序列为非白噪声假设，认为该序列为非白噪声假设，认为该序列为非白噪声序列序列序列序列接受原假设接受原假设l l当检验统计量小于当检验统计量小于当检验统计量小于当检验统计量小于 分位点，分位点，分位点，分位点，或该统计量的或该统计量的或该统计量的或该统计量的P P值大于值大于值大于值大于 时，则时，则时，则时，则认为在认为在认为在认为在 的置信水平下无法的置信水平下无法的置信水平下无法的置信水平下无法拒绝原假设，即不能显著拒绝拒绝原假设，即不能显著拒绝拒绝原假设，即不能显著拒绝拒绝原假设，即不能显著拒绝序列为纯随机序列的假定序列为纯随机序列的假定序列为纯随机序列的假定序列为纯随机序列的假定 第18页/共99页例例例例4 4 4 4、标准正态白噪声序列纯随机性检验、标准正态白噪声序列纯随机性检验、标准正态白噪声序列纯随机性检验、标准正态白噪声序列纯随机性检验样本自相关图样本自相关图5 5、应用举例、应用举例第19页/共99页检验结果检验结果延迟延迟统计量检验统计量检验统计量值统计量值P值值延迟延迟6期期2.360.8838延迟延迟12期期5.350.9454由于由于P值显著大于显著性水平值显著大于显著性水平 ，所以该序列，所以该序列不能拒绝纯随机的原假设不能拒绝纯随机的原假设.第20页/共99页例例例例5 5、对对对对19501950年年年年19981998年北京市城乡居民定期储蓄所占比例序列的平年北京市城乡居民定期储蓄所占比例序列的平年北京市城乡居民定期储蓄所占比例序列的平年北京市城乡居民定期储蓄所占比例序列的平稳性与纯随机性进行检验稳性与纯随机性进行检验稳性与纯随机性进行检验稳性与纯随机性进行检验 第21页/共99页 自相关图自相关图第22页/共99页白噪声检验结果白噪声检验结果延迟阶数延迟阶数LB统计量检验统计量检验LB检验统计量的值检验统计量的值P值值675.460.00011282.57p以后截尾，即以后截尾，即kp 时，时，而且它的自相关函数，而且它的自相关函数 拖拖尾，则可判断此序列是尾，则可判断此序列是AR(p)序列序列.第29页/共99页若序列若序列xt的自相关函数的自相关函数 在在kq以后截尾，以后截尾，即即kq 时，时，而且它的偏自相关函数，而且它的偏自相关函数 拖尾，则可判断此序列是拖尾，则可判断此序列是MA(q)序列序列.若序列若序列xt的自相关函数、偏相关函数都呈拖的自相关函数、偏相关函数都呈拖尾形态，则可断言此序列是尾形态，则可断言此序列是ARMA序列序列.若序列的自相关函数和偏自相关函数不但都若序列的自相关函数和偏自相关函数不但都不截尾，而且至少有一个下降趋势势缓慢或不截尾，而且至少有一个下降趋势势缓慢或呈周期性衰减，则可认为它也不是拖尾的，呈周期性衰减，则可认为它也不是拖尾的，此时序列是非平稳序列，应先将其转化为平此时序列是非平稳序列，应先将其转化为平稳序列后再进行模型识别稳序列后再进行模型识别.第30页/共99页模型定阶的困难模型定阶的困难模型定阶的困难模型定阶的困难因为由于样本的随机性，样本的相关系数不会因为由于样本的随机性，样本的相关系数不会因为由于样本的随机性，样本的相关系数不会因为由于样本的随机性，样本的相关系数不会呈现出理论截尾的完美情况，本应截尾的呈现出理论截尾的完美情况，本应截尾的呈现出理论截尾的完美情况，本应截尾的呈现出理论截尾的完美情况，本应截尾的 或或或或 仍会呈现出小值振荡的情况仍会呈现出小值振荡的情况仍会呈现出小值振荡的情况仍会呈现出小值振荡的情况由于平稳时间序列通常都具有短期相关性，随由于平稳时间序列通常都具有短期相关性，随由于平稳时间序列通常都具有短期相关性，随由于平稳时间序列通常都具有短期相关性，随着延迟阶数着延迟阶数着延迟阶数着延迟阶数 ，与与与与 都会衰减至零值附都会衰减至零值附都会衰减至零值附都会衰减至零值附近作小值波动近作小值波动近作小值波动近作小值波动？当当当当 或或或或 在延迟若干阶之后衰减为小值波动时，在延迟若干阶之后衰减为小值波动时，在延迟若干阶之后衰减为小值波动时，在延迟若干阶之后衰减为小值波动时，什么情况下该看作为相关系数截尾，什么情况什么情况下该看作为相关系数截尾，什么情况什么情况下该看作为相关系数截尾，什么情况什么情况下该看作为相关系数截尾，什么情况下该看作为相关系数在延迟若干阶之后正常衰下该看作为相关系数在延迟若干阶之后正常衰下该看作为相关系数在延迟若干阶之后正常衰下该看作为相关系数在延迟若干阶之后正常衰减到零值附近作拖尾波动呢？减到零值附近作拖尾波动呢？减到零值附近作拖尾波动呢？减到零值附近作拖尾波动呢？二、模型定阶二、模型定阶第31页/共99页样本相关系数的近似分布样本相关系数的近似分布样本相关系数的近似分布样本相关系数的近似分布BarlettQuenouille1 1、经验定阶方法、经验定阶方法第32页/共99页95的置信区间的置信区间第33页/共99页模型定阶的经验方法模型定阶的经验方法如如果果样样本本(偏偏)自自相相关关系系数数在在最最初初的的p阶阶明明显显大大于于两两倍倍标标准准差差范范围围，而而后后几几乎乎95的的自自相相关关系系数数都都落落在在2倍倍标标准准差差的的范范围围以以内内，而而且且通通常常由由非非零零自自相相关关系系数数衰衰减减为为小小值值波波动动的的过过程程非非常常突突然然.这这时时，通通常常视视为为(偏偏)自相关系数截尾自相关系数截尾.截尾阶数为截尾阶数为p.第34页/共99页例例1上海延中实业股票数据识别（一阶差分后）上海延中实业股票数据识别（一阶差分后）平均每日生产汽车废品数据的识别平均每日生产汽车废品数据的识别(n n=45)=45)美国女性失业月数据识别（差分后）美国女性失业月数据识别（差分后）第35页/共99页上海延中实业股份有限公司是上海首家向社上海延中实业股份有限公司是上海首家向社会公开发行股票的企业会公开发行股票的企业.1985.1985年年1 1月底发行股月底发行股票票500500万元，其中由上海延中复印工业公司出万元，其中由上海延中复印工业公司出资资3030万元万元.上海延中实业股票收盘价基本反映上海延中实业股票收盘价基本反映了沪市股票的大致走向了沪市股票的大致走向.总观测期总观测期n n619619，先，先作出原序列的样本自相关函数和样本偏相关作出原序列的样本自相关函数和样本偏相关函数，其结果见表函数，其结果见表1 1和图和图1.1.上海延中实业股票数据识别（一阶差分后）上海延中实业股票数据识别（一阶差分后）第36页/共99页表表1 延中股票的样本自相关和样本偏自相关函数值延中股票的样本自相关和样本偏自相关函数值第37页/共99页美国美国1961年年1月至月至1985年年12月间女性失业月月间女性失业月人数时间序列人数时间序列美国女性失业月数据识别（差分后）美国女性失业月数据识别（差分后）第38页/共99页第39页/共99页第40页/共99页第41页/共99页第42页/共99页第43页/共99页第44页/共99页2 2 2 2、残差方差图定阶、残差方差图定阶、残差方差图定阶、残差方差图定阶法法法法（1 1 1 1）基本思想）基本思想）基本思想）基本思想如果拟合的模型阶数与真正阶数不符合，则模如果拟合的模型阶数与真正阶数不符合，则模如果拟合的模型阶数与真正阶数不符合，则模如果拟合的模型阶数与真正阶数不符合，则模型的残差平方和型的残差平方和型的残差平方和型的残差平方和SSESSESSESSE必然偏大，残差方差将比真必然偏大，残差方差将比真必然偏大，残差方差将比真必然偏大，残差方差将比真正模型的残差方差大。正模型的残差方差大。正模型的残差方差大。正模型的残差方差大。如果是不足拟合，那么逐渐增加模型阶数，模如果是不足拟合，那么逐渐增加模型阶数，模如果是不足拟合，那么逐渐增加模型阶数，模如果是不足拟合，那么逐渐增加模型阶数，模型的残差方差会渐减少，直到残差方差达到最型的残差方差会渐减少，直到残差方差达到最型的残差方差会渐减少，直到残差方差达到最型的残差方差会渐减少，直到残差方差达到最小。小。小。小。如果是过度拟合，此时逐渐少模型阶数，模型如果是过度拟合，此时逐渐少模型阶数，模型如果是过度拟合，此时逐渐少模型阶数，模型如果是过度拟合，此时逐渐少模型阶数，模型残差方差分逐渐下降，直到残差方差达到最小。残差方差分逐渐下降，直到残差方差达到最小。残差方差分逐渐下降，直到残差方差达到最小。残差方差分逐渐下降，直到残差方差达到最小。第45页/共99页（2 2 2 2）残差方差的估计公式）残差方差的估计公式）残差方差的估计公式）残差方差的估计公式注：式中注：式中“实际观察值个数实际观察值个数”是指拟合模型时实际使用是指拟合模型时实际使用的观察值项数，即经过的观察值项数，即经过平稳化后的有效样本容量平稳化后的有效样本容量。设原序列有设原序列有n n个样本，若建立的模型中有含有自回归个样本，若建立的模型中有含有自回归ARAR部分部分,且阶数为且阶数为p p，则实际观察值个数为，则实际观察值个数为n-pn-p个。若没有个。若没有ARAR部分，则部分，则实际观察值个数即为实际观察值个数即为n n个。个。模型的参数个数指模型中所含的参数个数，如：若是不模型的参数个数指模型中所含的参数个数，如：若是不带常数项的带常数项的ARMA(p,q)ARMA(p,q)模型，参数个数为模型，参数个数为p+qp+q个，若带有个，若带有常数项，则参数个数为常数项，则参数个数为p+q+1p+q+1个。个。第46页/共99页用用EviewsEviews建立建立ARMAARMA模型后，模型后，可直接得到剩余平方和可直接得到剩余平方和SSE(Sum squared resid)SSE(Sum squared resid)输出结果中也可直接得到残输出结果中也可直接得到残差标准差：差标准差：S.E.of regression S.E.of regression，此项，此项的平方即为残差方差。因此，的平方即为残差方差。因此，对不同的模型残差方差进行对不同的模型残差方差进行比较，直接比较此项既可。比较，直接比较此项既可。第47页/共99页例：以磨轮剖面数据为例，分别建立适应性模例：以磨轮剖面数据为例，分别建立适应性模型，输出结果见图示，从中选择最佳模型。型，输出结果见图示，从中选择最佳模型。第48页/共99页第49页/共99页第50页/共99页第51页/共99页三个模型残差方差比较三个模型残差方差比较第52页/共99页3 3 3 3、F F F F检验定阶法检验定阶法检验定阶法检验定阶法基本思想（以一般情形和基本思想（以一般情形和ARMA(p,q)ARMA(p,q)模型为例）模型为例）先对数据拟合先对数据拟合ARMA(p,q)ARMA(p,q)模型模型(假设假设不含常数项不含常数项)，设其残差平方和为，设其残差平方和为Q Q0 0，再对数据拟合，再对数据拟合 较低阶的模型较低阶的模型ARMA(p-m,q-s)ARMA(p-m,q-s)，设其残差平方和，设其残差平方和为为Q Q1 1。建立原假：建立原假：第53页/共99页在原假设成立的条件下有：在原假设成立的条件下有：于是计算统计量于是计算统计量F，在给定的显著性水平下，在给定的显著性水平下。若若FF，则拒绝原假设，说明两模型差异是显著的，则拒绝原假设，说明两模型差异是显著的，此时模型阶数存在升高的可能性。此时模型阶数存在升高的可能性。若若FF，此不能拒绝原假设，说明两模型差异不显著，此不能拒绝原假设，说明两模型差异不显著，此时模型阶数存在降低的可能性。此时模型阶数存在降低的可能性。注：注：F检验定阶法的应用条件：两模型中有一个为合适模型。检验定阶法的应用条件：两模型中有一个为合适模型。第54页/共99页4 4 4 4、最佳准则函数定阶法、最佳准则函数定阶法、最佳准则函数定阶法、最佳准则函数定阶法最佳准则函数法，即确定出一个最佳准则函数法，即确定出一个准则函数，该函数既要考虑某准则函数，该函数既要考虑某一模型拟合时对原始数据的接一模型拟合时对原始数据的接近程度，同时又要考虑模型中近程度，同时又要考虑模型中所含待定参数的个数。所含待定参数的个数。建模时，使准则函数达到建模时，使准则函数达到极小极小的的是最佳模型。是最佳模型。第55页/共99页4.1 赤池的赤池的AIC准则和准则和BIC准则准则 4.1.1 AIC 准则准则(Akaike iformationcriterion)AIC准则是准则是1973年由赤池年由赤池（Akaike）提出，此准则是对）提出，此准则是对FPE准则准则(用来判别用来判别AR模型的阶模型的阶数是否合适数是否合适)的推广，用来识别的推广，用来识别ARMA模型的阶数。模型的阶数。第56页/共99页AIC准则函数为：准则函数为：式中，式中，M为模型中参数的个数。为模型中参数的个数。AIC的简化式为的简化式为：式中：式中：是残差方差是残差方差 的极大似然估计值的极大似然估计值。第57页/共99页Eviews输出的输出的Akaike info criterion与上述形式略有差别与上述形式略有差别(参参见见Eviews help)，其定义为：，其定义为：其中：其中：n是实际观察值的个数。是实际观察值的个数。第58页/共99页4.1.2 BIC准则准则柴田（柴田（Shibata）1976年证明年证明AIC有过分估计自回归参数的有过分估计自回归参数的倾向，于是倾向，于是Akaike又提出了又提出了AIC方法的贝叶斯扩展，即方法的贝叶斯扩展，即BIC。BIC准则函数为：准则函数为：式中：式中：C为常数。余同前。为常数。余同前。第59页/共99页4.2 施瓦茨施瓦茨(Schwarz)的的SC准准则则此准则此准则1978年由年由Schwarz提提出，被称为出，被称为SBC(Schwartzs Bayesian criterion)。准则函数：准则函数：简化式为：简化式为：第60页/共99页同样同样Eviews输出的结果与上输出的结果与上形式略有差别，其定义为：形式略有差别，其定义为：第61页/共99页准则函数使用注意准则函数使用注意1 1、当样本量趋于无穷时，用、当样本量趋于无穷时，用AICAIC准则挑选的准则挑选的最佳模型的阶数往往比真实模型阶数高，最佳模型的阶数往往比真实模型阶数高，而用而用SBCSBC准则确定的最佳模型的阶数往往与准则确定的最佳模型的阶数往往与真实模型的阶数相一致。真实模型的阶数相一致。2 2、样本量不是很大时，、样本量不是很大时，SBCSBC准则的定阶效果准则的定阶效果不及不及AICAIC。第62页/共99页一、矩估计一、矩估计二、极大似然估计二、极大似然估计三、最小二乘估计三、最小二乘估计 第三节第三节 模型参数估计模型参数估计第63页/共99页一、矩估计一、矩估计原理原理l l样本自相关系数估计总体自相关系数样本自相关系数估计总体自相关系数样本自相关系数估计总体自相关系数样本自相关系数估计总体自相关系数l l样本一阶均值估计总体均值，样本方差估计样本一阶均值估计总体均值，样本方差估计样本一阶均值估计总体均值，样本方差估计样本一阶均值估计总体均值，样本方差估计总体方差总体方差总体方差总体方差第64页/共99页例例1 求求AR(2)模型系数模型系数的矩估计的矩估计AR(2)模型模型Yule-Walker方程方程矩估计（矩估计（Yule-Walker方程的方程的解）解）第65页/共99页例例2 求求MA(1)模型系数模型系数的矩估计的矩估计MA(1)模型模型方程方程矩估计矩估计第66页/共99页例例例例3 3 求求求求ARMAARMA(1,1)(1,1)模型系数的矩估计模型系数的矩估计模型系数的矩估计模型系数的矩估计ARMA(1,1)模型模型方程方程矩估计矩估计第67页/共99页对矩估计的评价对矩估计的评价优点优点优点优点l l估计思想简单直观估计思想简单直观估计思想简单直观估计思想简单直观l l不需要假设总体分布不需要假设总体分布不需要假设总体分布不需要假设总体分布l l计算量小（低阶模型场合）计算量小（低阶模型场合）计算量小（低阶模型场合）计算量小（低阶模型场合）缺点缺点缺点缺点l l信息浪费严重信息浪费严重信息浪费严重信息浪费严重 只用到了只用到了只用到了只用到了p+qp+qp+qp+q个样本自相关系数信息，其他信息都被忽个样本自相关系数信息，其他信息都被忽个样本自相关系数信息，其他信息都被忽个样本自相关系数信息，其他信息都被忽略略略略l l估计精度差估计精度差估计精度差估计精度差通常矩估计方法被用作极大似然估计和最小二通常矩估计方法被用作极大似然估计和最小二通常矩估计方法被用作极大似然估计和最小二通常矩估计方法被用作极大似然估计和最小二乘估计迭代计算的初始值乘估计迭代计算的初始值乘估计迭代计算的初始值乘估计迭代计算的初始值 第68页/共99页二、极大似然估计二、极大似然估计原理原理l l在极大似然准则下，认为样本在极大似然准则下，认为样本在极大似然准则下，认为样本在极大似然准则下，认为样本来自使该样本出现概率最大的来自使该样本出现概率最大的来自使该样本出现概率最大的来自使该样本出现概率最大的总体。因此未知参数的极大似总体。因此未知参数的极大似总体。因此未知参数的极大似总体。因此未知参数的极大似然估计就是使得似然函数（即然估计就是使得似然函数（即然估计就是使得似然函数（即然估计就是使得似然函数（即联合密度函数）达到最大的参联合密度函数）达到最大的参联合密度函数）达到最大的参联合密度函数）达到最大的参数值数值数值数值 第69页/共99页似然方程似然方程由于由于 和和 都不是都不是 的显式的显式表达式。因而似然方程组实际表达式。因而似然方程组实际上是由上是由p+q+1p+q+1个超越方程构成，个超越方程构成，通常需要经过复杂的迭代算法通常需要经过复杂的迭代算法才能求出未知参数的极大似然才能求出未知参数的极大似然估计值估计值 第70页/共99页对极大似然估计的评价对极大似然估计的评价优点优点l l极大似然估计充分应用了每一极大似然估计充分应用了每一极大似然估计充分应用了每一极大似然估计充分应用了每一个观察值所提供的信息，因而个观察值所提供的信息，因而个观察值所提供的信息，因而个观察值所提供的信息，因而它的估计精度高它的估计精度高它的估计精度高它的估计精度高l l同时还具有估计的一致性、渐同时还具有估计的一致性、渐同时还具有估计的一致性、渐同时还具有估计的一致性、渐近正态性和渐近有效性等许多近正态性和渐近有效性等许多近正态性和渐近有效性等许多近正态性和渐近有效性等许多优良的统计性质优良的统计性质优良的统计性质优良的统计性质缺点缺点l l需要假定总体分布需要假定总体分布需要假定总体分布需要假定总体分布第71页/共99页三、最小二乘估计三、最小二乘估计原理原理l l使残差平方和达到最小的那组使残差平方和达到最小的那组使残差平方和达到最小的那组使残差平方和达到最小的那组参数值即为最小二乘估计值参数值即为最小二乘估计值参数值即为最小二乘估计值参数值即为最小二乘估计值 第72页/共99页条件最小二乘估计条件最小二乘估计实际中最常用的参数估计方法实际中最常用的参数估计方法实际中最常用的参数估计方法实际中最常用的参数估计方法假设条件假设条件假设条件假设条件残差平方和方程残差平方和方程残差平方和方程残差平方和方程解法解法解法解法l l迭代法迭代法迭代法迭代法第73页/共99页对最小二乘估计的评价对最小二乘估计的评价优点优点l l最小二乘最小二乘最小二乘最小二乘估计充分应用了每一估计充分应用了每一估计充分应用了每一估计充分应用了每一个观察值所提供的信息，因而个观察值所提供的信息，因而个观察值所提供的信息，因而个观察值所提供的信息，因而它的估计精度高它的估计精度高它的估计精度高它的估计精度高l l条件最小二乘估计方法使用率条件最小二乘估计方法使用率条件最小二乘估计方法使用率条件最小二乘估计方法使用率最高最高最高最高缺点缺点l l需要假定总体分布需要假定总体分布需要假定总体分布需要假定总体分布第74页/共99页例例4 确定确定1950年年1998年北京市年北京市城乡居民定期储蓄比例序列拟城乡居民定期储蓄比例序列拟合模型的口径合模型的口径 l l拟合模型：拟合模型：拟合模型：拟合模型：ARAR(1)(1)l l估计方法：极大似然估计估计方法：极大似然估计估计方法：极大似然估计估计方法：极大似然估计l l模型口径模型口径模型口径模型口径第75页/共99页例例5确定美国科罗拉多州某一加油确定美国科罗拉多州某一加油站连续站连续57天的天的OVERSHORTS序列拟合模型序列拟合模型的口径的口径 l l拟合模型：拟合模型：拟合模型：拟合模型：MAMA(1)(1)l l估计方法：条件最小二乘估计估计方法：条件最小二乘估计估计方法：条件最小二乘估计估计方法：条件最小二乘估计l l模型口径模型口径模型口径模型口径第76页/共99页例例6确定确定1880-19851880-1985全球气表平均全球气表平均温度改变值差分序列拟合模型温度改变值差分序列拟合模型的口径的口径 l l拟合模型：拟合模型：拟合模型：拟合模型：ARMAARMA(1,1)(1,1)l l估计方法：条件最小二乘估计估计方法：条件最小二乘估计估计方法：条件最小二乘估计估计方法：条件最小二乘估计l l模型口径模型口径模型口径模型口径第77页/共99页一、模型检验一、模型检验二、模型的优化二、模型的优化 第四节第四节 模型检验与优化模型检验与优化第78页/共99页一、模型的检验一、模型的检验1 1、模型的平稳可逆性检验、模型的平稳可逆性检验Eviews Eviews 估计结果直接输出自回归部分估计结果直接输出自回归部分所对应的差分方程的特征根所对应的差分方程的特征根:inverted:inverted AR root.AR root.移动平均部分所对应的差分方程的特移动平均部分所对应的差分方程的特征方程的特征根：征方程的特征根：inverted MA root.inverted MA root.第79页/共99页目的目的目的目的l l检验模型的有效性检验模型的有效性检验模型的有效性检验模型的有效性（对信息的提取是否充分）（对信息的提取是否充分）（对信息的提取是否充分）（对信息的提取是否充分）检验对象检验对象检验对象检验对象l l残差序列残差序列残差序列残差序列判定原则判定原则判定原则判定原则l l一个好的拟合模型应该能够提取观察值序列中几乎一个好的拟合模型应该能够提取观察值序列中几乎一个好的拟合模型应该能够提取观察值序列中几乎一个好的拟合模型应该能够提取观察值序列中几乎所有的样本相关信息，即残差序列应该为白噪声序所有的样本相关信息，即残差序列应该为白噪声序所有的样本相关信息，即残差序列应该为白噪声序所有的样本相关信息，即残差序列应该为白噪声序列列列列.l l反之，如果残差序列为非白噪声序列，那就意味着反之，如果残差序列为非白噪声序列，那就意味着反之，如果残差序列为非白噪声序列，那就意味着反之，如果残差序列为非白噪声序列，那就意味着残差序列中还残留着相关信息未被提取，这就说明残差序列中还残留着相关信息未被提取，这就说明残差序列中还残留着相关信息未被提取，这就说明残差序列中还残留着相关信息未被提取，这就说明拟合模型不够有效拟合模型不够有效拟合模型不够有效拟合模型不够有效.2 2、模型的显著性（适应性）检验、模型的显著性（适应性）检验第80页/共99页假设条件假设条件原假设：残差序列为白噪声序原假设：残差序列为白噪声序列列备择假设：残差序列为非白噪备择假设：残差序列为非白噪声序列声序列第81页/共99页检验统计量检验统计量LB统计量统计量第82页/共99页例例1检验检验1950年年1998年北京市年北京市城乡居民定期储蓄比例序列拟城乡居民定期储蓄比例序列拟合模型的显著性合模型的显著性 残差白噪声序列检验结果残差白噪声序列检验结果延迟阶数LB统计量P值检验结论65.830.3229拟合模型显著有效1210.280.50501811.380.8361第83页/共99页3 3 3 3、参数显著性检验、参数显著性检验、参数显著性检验、参数显著性检验目的目的l l检验每一个未知参数是否显著检验每一个未知参数是否显著检验每一个未知参数是否显著检验每一个未知参数是否显著非零非零非零非零.删除不显著参数使模型结删除不显著参数使模型结删除不显著参数使模型结删除不显著参数使模型结构最精简构最精简构最精简构最精简 假设条件假设条件检验统计量检验统计量第84页/共99页例例2检验检验检验检验19501950年年年年19981998年北京市城乡居民定期储年北京市城乡居民定期储年北京市城乡居民定期储年北京市城乡居民定期储蓄比例序列极大似然估计模型的参数是否显蓄比例序列极大似然估计模型的参数是否显蓄比例序列极大似然估计模型的参数是否显蓄比例序列极大似然估计模型的参数是否显著著著著 参数检验结果参数检验结果参数检验结果参数检验结果检验参数检验参数t统计量统计量P值值结论结论均值均值46.120.0001显著显著6.720.0001显著显著第85页/共99页例例例例3 3 对对对对OVERSHORTSOVERSHORTS序列的拟合模型进行检验序列的拟合模型进行检验序列的拟合模型进行检验序列的拟合模型进行检验 残差白噪声检验残差白噪声检验残差白噪声检验残差白噪声检验参数显著性检验参数显著性检验参数显著性检验参数显著性检验检验参数检验参数t统计量统计量P值值结论结论均值均值3.750.0004显著显著10.600.0001显著显著延迟阶数延迟阶数LB统计量统计量P值值结论结论63.150.6772模型显著模型显著有效有效129.050.6171第86页/共99页例例例例4 4 对对对对1880-19851880-19851880-19851880-1985全球气表平均温度改变值差分序全球气表平均温度改变值差分序全球气表平均温度改变值差分序全球气表平均温度改变值差分序列拟合模型进行检验列拟合模型进行检验列拟合模型进行检验列拟合模型进行检验 残差白噪声检验残差白噪声检验残差白噪声检验残差白噪声检验参数显著性检验参数显著性检验参数显著性检验参数显著性检验检验参数检验参数t统计量统计量P值值结论结论16.340.0001显著显著3.50.0007显著显著延迟阶数延迟阶数LB统计量统计量P值值结论结论65.280.2595模型显著模型显著有效有效1210.300.4247第87页/共99页二、模型优化二、模型优化问题提出问题提出l l当一个拟合模型通过了检验，当一个拟合模型通过了检验，当一个拟合模型通过了检验，当一个拟合模型通过了检验，说明在一定的置信水平下，该说明在一定的置信水平下，该说明在一定的置信水平下，该说明在一定的置信水平下，该模型能有效地拟合观察值序列模型能有效地拟合观察值序列模型能有效地拟合观察值序列模型能有效地拟合观察值序列的波动，但这种有效模型并不的波动，但这种有效模型并不的波动，但这种有效模型并不的波动，但这种有效模型并不是唯一的是唯一的是唯一的是唯一的.优化的目的优化的目的l l选择相对最优模型选择相对最优模型选择相对最优模型选择相对最优模型 第88页/共99页例例7 拟合某一化学序列拟合某一化学序列第89页/共99页序列自相关图序列自相关图第90页/共99页序列偏自相关图序列偏自相关图第91页/共99页拟合模型一拟合模型一根据自相关系数根据自相关系数2阶截尾，拟合阶截尾，拟合MA(2)模型模型参数估计参数估计模型检验模型检验l l模型显著有效模型显著有效模型显著有效模型显著有效 l l三参数均显著三参数均显著三参数均显著三参数均显著 第92页/共99页拟合模型二拟合模型二根据偏自相关系数根据偏自相关系数根据偏自相关系数根据偏自相关系数1 1阶截尾，拟合阶截尾，拟合阶截尾，拟合阶截尾，拟合ARAR(1)(1)模型模型模型模型参数估计参数估计参数估计参数估计模型检验模型检验模型检验模型检验l l模型显著有效模型显著有效模型显著有效模型显著有效 l l两参数均显著两参数均显著两参数均显著两参数均显著 第93页/共99页例例7 用用AIC准则和准则和SBC准则评判两准则评判两个拟合模型的相对优劣个拟合模型的相对优劣 结果结果l lARAR(1)(1)优于优于优于优于MAMA(2)(2)模型模型AICSBCMA(2)536.4556543.2011AR(1)535.7896540.2866第94页/共99页第五节第五节 其它建模方法其它建模方法一、一、Pandit-WuPandit-Wu建模方法的基本思想建模方法的基本思想二、建模步骤二、建模步骤二、建模步骤二、建模步骤三、三、Pandit-WuPandit-Wu方法建模举例方法建模举例第95页/共99页一、一、Pandit-WuPandit-Wu建模方法的基本思想建模方法的基本思想Pandit-WuPandit-Wu建模方法以下面认识为依据：即任一平稳建模方法以下面认识为依据：即任一平稳建模方法以下面认识为依据：即任一平稳建模方法以下面认识为依据：即任一平稳序列总可以用一个序列总可以用一个序列总可以用一个序列总可以用一个ARMA(n,n-1)ARMA(n,n-1)模型来表示，而模型来表示，而模型来表示，而模型来表示，而AR(p)AR(p)，MA(q)MA(q)以及以及以及以及ARMA(p,q)ARMA(p,q)都可看作是都可看作是都可看作是都可看作是ARMA(n,n-1)ARMA(n,n-1)模型的特例。模型的特例。模型的特例。模型的特例。Pandit-WuPandit-Wu方法的基本思想为：逐渐增加模型的阶数，方法的基本思想为：逐渐增加模型的阶数，方法的基本思想为：逐渐增加模型的阶数，方法的基本思想为：逐渐增加模型的阶数，拟合较高阶的拟合较高阶的拟合较高阶的拟合较高阶的ARMA(n,n-1)ARMA(n,n-1)模型，直到再增加模型模型，直到再增加模型模型，直到再增加模型模型，直到再增加模型的阶数而剩余平方和不显著减少为止。的阶数而剩余平方和不显著减少为止。的阶数而剩余平方和不显著减少为止。的阶数而剩余平方和不显著减少为止。第96页/共99页二、建模步骤二、建模步骤1 1、将序列平稳化、零均值化、将序列平稳化、零均值化(也也可将均值作为一个参数估计可将均值作为一个参数估计)。2 2、从、从p=1p=1开始，逐渐增加模型阶开始，逐渐增加模型阶数，拟合数，拟合ARMA(2n,2n-1)ARMA(2n,2n-1)，并进，并进行模型的适性检验。行模型的适性检验。3 3、模型的检验。、模型的检验。4 4、选择最优模型。、选择最优模型。第97