数据分析方法及应用ab.ppt

数据分析方法及应用讲义2022/10/27数据分析方法及应用数据分析方法及应用第十二章第十二章吴建军吴建军Email:YF408Tel:51683970数据分析方法及应用讲义2022/10/27第十二章第十二章 平稳时间序列分析平稳时间序列分析数据分析方法及应用讲义2022/10/27本章结构本章结构12.1 12.1 方法性工具方法性工具 12.2 ARMA12.2 ARMA模型模型 12.3 12.3 平稳序列建模平稳序列建模12.4 12.4 序列预测序列预测 数据分析方法及应用讲义2022/10/2712.1 方法性工具方法性工具 差分运算差分运算延迟算子延迟算子线性差分方程线性差分方程数据分析方法及应用讲义2022/10/27差分运算差分运算一阶差分一阶差分 阶差分阶差分 步差分步差分数据分析方法及应用讲义2022/10/27延迟算子延迟算子延迟算子类似于一个时间指针，当前序列值乘以延迟算子类似于一个时间指针，当前序列值乘以一个延迟算子，就相当于把当前序列值的时间向一个延迟算子，就相当于把当前序列值的时间向过去拨了一个时刻过去拨了一个时刻 记记B为延迟算子，有为延迟算子，有 数据分析方法及应用讲义2022/10/27延迟算子的性质延迟算子的性质 ，其中其中 数据分析方法及应用讲义2022/10/27用延迟算子表示差分运算用延迟算子表示差分运算 阶差分阶差分 步差分步差分数据分析方法及应用讲义2022/10/27线性差分方程线性差分方程 线性差分方程线性差分方程齐次线性差分方程齐次线性差分方程数据分析方法及应用讲义10对于非齐次线性差分方程解的问题，通常分下下对于非齐次线性差分方程解的问题，通常分下下列两个步骤进行：首先求出对应齐次线性差分方列两个步骤进行：首先求出对应齐次线性差分方程的通解程的通解 ，然后再求出该非齐次线性差分方，然后再求出该非齐次线性差分方程的一个特解程的一个特解 ，即，即 满足：满足：则非齐次线性差分方程则非齐次线性差分方程 的解为对应齐次线性差分方程的解的解为对应齐次线性差分方程的解 和该非齐和该非齐次线性差分方程的一个特解次线性差分方程的一个特解 之和，即之和，即 数据分析方法及应用讲义2022/10/27齐次线性差分方程的解齐次线性差分方程的解特征方程特征方程特征方程的根称为特征根，记作特征方程的根称为特征根，记作齐次线性差分方程的通解齐次线性差分方程的通解不相等实数根场合有相等实根场合复根场合数据分析方法及应用讲义2022/10/27非齐次线性差分方程的解非齐次线性差分方程的解 非齐次线性差分方程的非齐次线性差分方程的特解特解使得非齐次线性差分方程成立的任意一个解非齐次线性差分方程的通解非齐次线性差分方程的通解齐次线性差分方程的通解和非齐次线性差分方程的特解之和数据分析方法及应用讲义2022/10/2712.2 ARMA模型的定义模型的定义 ARMA模型全称为自回归移动平均模型模型全称为自回归移动平均模型(Autoregressive Integrated Moving Average Model,简记简记ARMA)，是由，是由博克思博克思(Box)和和詹金斯詹金斯(Jenkins)于于70年代初提出的一著名年代初提出的一著名时间序列预测时间序列预测方法方法，所以又称为，所以又称为box-jenkins模型、博克思模型、博克思-詹詹金斯法。其中金斯法。其中ARMA（p，d，q）称为差分自回）称为差分自回归移动平均模型，归移动平均模型，AR是自回归是自回归,p为自回归项为自回归项;MA为移动平均，为移动平均，q为移动平均项数，为移动平均项数，d为时间序为时间序列成为平稳时所做的差分次数。列成为平稳时所做的差分次数。数据分析方法及应用讲义2022/10/2712.2 ARMA模型的基本思想模型的基本思想 ARMA模型的基本思想是：将预测对象随时模型的基本思想是：将预测对象随时间推移而形成的数据序列视为一个随机序列，用间推移而形成的数据序列视为一个随机序列，用一定的一定的数学模型数学模型来近似描述这个序列。这个模型来近似描述这个序列。这个模型一旦被识别后就可以从时间序列的过去值及现在一旦被识别后就可以从时间序列的过去值及现在值来预测未来值。现代统计方法、值来预测未来值。现代统计方法、计量经济模型计量经济模型在某种程度上已经能够帮助企业对未来进行预测。在某种程度上已经能够帮助企业对未来进行预测。http:/ ARMA模型的性质模型的性质 AR模型（模型（Auto Regression Model）MA模型（模型（Moving Average Model）ARMA模型（模型（Auto Regression Moving Average model）数据分析方法及应用讲义2022/10/27AR模型是一种线性预测，即已知N个数据，可由模型推出第N点前面或后面的数据（设推出P点），所以其本质类似于插值，其目的都是为了增加有效数据，只是AR模型是由N点递推，而插值是由两点（或少数几点）去推导多点，所以AR模型要比插值方法效果更好。AR模型模型 数据分析方法及应用讲义2022/10/27AR模型模型的定义的定义具有如下结构的模型称为具有如下结构的模型称为 阶自回归模型，简阶自回归模型，简记为记为特别当特别当 时，称为中心化时，称为中心化 模型模型数据分析方法及应用讲义2022/10/27 AR(P)序列中心化变换序列中心化变换称称 为为 的中心化序列的中心化序列，令，令数据分析方法及应用讲义2022/10/27自回归系数多项式自回归系数多项式引进延迟算子，中心化引进延迟算子，中心化 模型又可以简记为模型又可以简记为 自回归系数多项式自回归系数多项式数据分析方法及应用讲义2022/10/27AR模型平稳性判别模型平稳性判别 判别原因判别原因AR模型是常用的平稳序列的拟合模型之一，但并非所有的AR模型都是平稳的 判别方法判别方法单位根判别法平稳域判别法数据分析方法及应用讲义2022/10/27例例12.1:考察如下四个考察如下四个模型的平稳性模型的平稳性数据分析方法及应用讲义2022/10/27例例12.1平稳序列时序图平稳序列时序图数据分析方法及应用讲义2022/10/27例例12.1非平稳序列时序图非平稳序列时序图数据分析方法及应用讲义2022/10/27AR模型平稳性判别方法模型平稳性判别方法特征根判别特征根判别AR(p)模型平稳的充要条件是它的p个特征根都在单位圆内根据特征根和自回归系数多项式的根成倒数的性质，等价判别条件是该模型的自回归系数多项式的根都在单位圆外平稳域判别平稳域判别 平稳域数据分析方法及应用讲义2022/10/27AR(1)模型平稳条件模型平稳条件特征根特征根平稳域平稳域数据分析方法及应用讲义2022/10/27AR(2)模型平稳条件模型平稳条件特征根特征根平稳域平稳域数据分析方法及应用讲义2022/10/27例例12.1平稳性判别平稳性判别模型特征根判别平稳域判别结论(1)平稳(2)非平稳(3)平稳(4)非平稳数据分析方法及应用讲义2022/10/27平稳平稳AR模型的统计性质模型的统计性质均值均值方差方差协方差协方差自相关系数自相关系数偏自相关系数偏自相关系数数据分析方法及应用讲义2022/10/27均值均值 如果如果AR(p)模型满足平稳性条件，则有模型满足平稳性条件，则有根据平稳序列均值为常数，且根据平稳序列均值为常数，且 为白噪声序列，有为白噪声序列，有推导出推导出数据分析方法及应用讲义2022/10/27Green函数定义函数定义AR模型的传递形式模型的传递形式其中系数其中系数 称为称为Green函数函数数据分析方法及应用讲义2022/10/27Green函数递推公式函数递推公式原理原理方法方法待定系数法递推公式递推公式数据分析方法及应用讲义2022/10/27方差方差平稳平稳AR模型的传递形式模型的传递形式两边求方差得两边求方差得数据分析方法及应用讲义2022/10/27例例12.2:求平稳求平稳AR(1)模型的方差模型的方差平稳平稳AR(1)模型的传递形式为模型的传递形式为Green函数为函数为平稳平稳AR(1)模型的方差模型的方差数据分析方法及应用讲义2022/10/27协方差函数协方差函数在平稳在平稳AR(p)模型两边同乘模型两边同乘 ，再求期望，再求期望根据根据得协方差函数的递推公式得协方差函数的递推公式数据分析方法及应用讲义2022/10/27例例12.3:求平稳求平稳AR(1)模型的协方差模型的协方差递推公式递推公式平稳平稳AR(1)模型的方差为模型的方差为协方差函数的递推公式为协方差函数的递推公式为数据分析方法及应用讲义2022/10/27例例12.4:求平稳求平稳AR(2)模型的协方差模型的协方差平稳平稳AR(2)模型的协方差函数递推公式为模型的协方差函数递推公式为数据分析方法及应用讲义2022/10/27自相关系数自相关系数自相关系数的定义自相关系数的定义平稳平稳AR(P)模型的自相关系数递推公式模型的自相关系数递推公式数据分析方法及应用讲义2022/10/27常用常用AR模型自相关系数递推公式模型自相关系数递推公式AR(1)模型模型AR(2)模型模型数据分析方法及应用讲义2022/10/27AR模型自相关系数的性质模型自相关系数的性质拖尾性拖尾性呈复指数衰减呈复指数衰减数据分析方法及应用讲义2022/10/27例例12.5:考察如下考察如下AR模型的自相关图模型的自相关图数据分析方法及应用讲义2022/10/27例例12.5自相关系数按复指数单调收敛到零自相关系数按复指数单调收敛到零数据分析方法及应用讲义2022/10/27例例12.5:数据分析方法及应用讲义2022/10/27例例12.5:自相关系数呈现出自相关系数呈现出“伪周期伪周期”性性数据分析方法及应用讲义2022/10/27例例12.5:自相关系数不规则衰减自相关系数不规则衰减数据分析方法及应用讲义2022/10/27偏自相关系数偏自相关系数定义定义 对于平稳对于平稳AR(p)序列，所谓滞后序列，所谓滞后k偏自相关系数就是指偏自相关系数就是指在给定中间在给定中间k-1个随机变量个随机变量 的条件下，的条件下，或者说，在剔除了中间或者说，在剔除了中间k-1个随机变量的干扰之后，个随机变量的干扰之后，对对 影响的相关度量。用数学语言描述就是影响的相关度量。用数学语言描述就是数据分析方法及应用讲义2022/10/27偏自相关系数的计算偏自相关系数的计算滞后滞后k偏自相关系数实际上就等于偏自相关系数实际上就等于k阶自回归模型阶自回归模型第个第个k回归系数的值。回归系数的值。数据分析方法及应用讲义2022/10/27AR模型偏自相关系数的计算模型偏自相关系数的计算数据分析方法及应用讲义2022/10/27AR（1）偏自相关系数的计算）偏自相关系数的计算数据分析方法及应用讲义2022/10/27AR（2）偏自相关系数的计算）偏自相关系数的计算数据分析方法及应用讲义2022/10/27AR（2）偏自相关系数的计算）偏自相关系数的计算数据分析方法及应用讲义2022/10/27偏自相关系数的截尾性偏自相关系数的截尾性AR(p)模型偏自相关系数模型偏自相关系数P阶截尾阶截尾数据分析方法及应用讲义2022/10/27例例12.5续续:考察如下考察如下AR模型的偏自相关图模型的偏自相关图数据分析方法及应用讲义2022/10/27例例12.5理论偏自相关系数理论偏自相关系数样本偏自相关图样本偏自相关图数据分析方法及应用讲义2022/10/27例例12.5:理论偏自相关系数理论偏自相关系数样本偏自相关图样本偏自相关图数据分析方法及应用讲义2022/10/27例例12.5:理论偏自相关系数理论偏自相关系数样本偏自相关图样本偏自相关图数据分析方法及应用讲义2022/10/27例例12.5:理论偏自相关系数理论偏自相关系数样本偏自相关系数图样本偏自相关系数图数据分析方法及应用讲义例例3.2 设设AR(2)模型：模型：试判别试判别 的平稳性。的平稳性。解：根据上述关于平稳条件的讨论，可以通过两解：根据上述关于平稳条件的讨论，可以通过两种径进行讨论：种径进行讨论：数据分析方法及应用讲义数据分析方法及应用讲义2022/10/27MA模型模型的定义的定义具有如下结构的模型称为具有如下结构的模型称为 阶自回归模型，简阶自回归模型，简记为记为特别当特别当 时，称为中心化时，称为中心化 模型模型数据分析方法及应用讲义2022/10/27移动平均系数多项式移动平均系数多项式引进延迟算子，中心化引进延迟算子，中心化 模型又可以简记模型又可以简记为为 阶移动平均系数多项式阶移动平均系数多项式数据分析方法及应用讲义2022/10/27MA模型的统计性质模型的统计性质常数均值常数均值常数方差常数方差数据分析方法及应用讲义2022/10/27MA模型的统计性质模型的统计性质自协方差函数自协方差函数P阶拖尾阶拖尾自相关系数自相关系数P阶截尾阶截尾数据分析方法及应用讲义2022/10/27常用常用MA模型的自相关系数模型的自相关系数MA(1)模型模型MA(2)模型模型数据分析方法及应用讲义2022/10/27MA模型的统计性质模型的统计性质偏自相关系数拖尾偏自相关系数拖尾数据分析方法及应用讲义2022/10/27例例12.6:考察如下考察如下MA模型的相关性质模型的相关性质数据分析方法及应用讲义2022/10/27MA模型的自相关系数截尾模型的自相关系数截尾 数据分析方法及应用讲义2022/10/27MA模型的自相关系数截尾模型的自相关系数截尾 数据分析方法及应用讲义2022/10/27MA模型的偏自相关系数拖尾模型的偏自相关系数拖尾 数据分析方法及应用讲义2022/10/27MA模型的偏自相关系数拖尾模型的偏自相关系数拖尾 数据分析方法及应用讲义2022/10/27MA模型的可逆性模型的可逆性MA模型自相关系数的不唯一性模型自相关系数的不唯一性例12.6中不同的MA模型具有完全相同的自相关系数和偏自相关系数数据分析方法及应用讲义2022/10/27可逆的定义可逆的定义可逆可逆MA模型定义模型定义若一个MA模型能够表示称为收敛的AR模型形式，那么该MA模型称为可逆MA模型可逆概念的重要性可逆概念的重要性一个自相关系数唯一对应一个可逆MA模型。数据分析方法及应用讲义2022/10/27可逆可逆MA(1)模型模型 数据分析方法及应用讲义2022/10/27MA模型的可逆条件模型的可逆条件MA(q)模型的可逆条件是：模型的可逆条件是：MA(q)模型的特征根都在单位圆内等价条件是移动平滑系数多项式的根都在单位圆外MA(q)模型的可逆概念和AR（p）模型的平稳概念是完全对偶的概念数据分析方法及应用讲义2022/10/27逆函数的递推公式逆函数的递推公式原理原理方法方法待定系数法递推公式递推公式数据分析方法及应用讲义2022/10/27例例12.6续续:考察如下考察如下MA模型的可逆性模型的可逆性数据分析方法及应用讲义2022/10/27(1)(2)逆函数逆函数逆转形式逆转形式数据分析方法及应用讲义2022/10/27(3)(4)逆函数逆函数逆转形式逆转形式数据分析方法及应用讲义2022/10/27ARMA模型模型的定义的定义具有如下结构的模型称为自回归移动平均模型，具有如下结构的模型称为自回归移动平均模型，简记为简记为特别当特别当 时，称为中心化时，称为中心化 模型模型数据分析方法及应用讲义2022/10/27系数多项式系数多项式引进延迟算子，中心化引进延迟算子，中心化 模型又可模型又可以简记为以简记为 阶自回归系数多项式阶自回归系数多项式 阶移动平均系数多项式阶移动平均系数多项式数据分析方法及应用讲义2022/10/27平稳条件与可逆条件平稳条件与可逆条件ARMA(p,q)模型的平稳条件模型的平稳条件P阶自回归系数多项式 的根都在单位圆外即ARMA(p,q)模型的平稳性完全由其自回归部分的平稳性决定ARMA(p,q)模型的可逆条件模型的可逆条件q阶移动平均系数多项式 的根都在单位圆外即ARMA(p,q)模型的可逆性完全由其移动平滑部分的可逆性决定数据分析方法及应用讲义2022/10/27传递形式与逆转形式传递形式与逆转形式传递形式传递形式逆转形式逆转形式数据分析方法及应用讲义2022/10/27ARMA(p,q)模型的统计性质模型的统计性质均值均值协方差协方差自相关系数自相关系数数据分析方法及应用讲义2022/10/27ARMA模型的相关性模型的相关性自相关系数拖尾自相关系数拖尾偏自相关系数拖尾偏自相关系数拖尾数据分析方法及应用讲义2022/10/27例例12.7:考察考察ARMA模型的相关性模型的相关性拟合模型拟合模型ARMA(1,1):ARMA(1,1):并直观地考察该模型自相关系数和偏自相关系数并直观地考察该模型自相关系数和偏自相关系数的性质。的性质。数据分析方法及应用讲义2022/10/27自相关系数和偏自相关系数拖尾性自相关系数和偏自相关系数拖尾性样本自相关图样本自相关图样本偏自相关图样本偏自相关图数据分析方法及应用讲义2022/10/27ARMA模型相关性特征模型相关性特征模型模型自相关系数自相关系数偏自相关系数偏自相关系数AR(P)拖尾拖尾P阶截尾阶截尾MA(q)q阶截尾阶截尾拖尾拖尾ARMA(p,q)拖尾拖尾拖尾拖尾数据分析方法及应用讲义2022/10/2712.3平稳序列建模平稳序列建模 建模步骤建模步骤模型识别模型识别参数估计参数估计模型检验模型检验模型优化模型优化序列预测序列预测数据分析方法及应用讲义2022/10/27建模步骤建模步骤平平稳稳非非白白噪噪声声序序列列计计算算样样本本相相关关系系数数模型模型识别识别参数参数估计估计模型模型检验检验模模型型优优化化序序列列预预测测YN数据分析方法及应用讲义2022/10/27计算样本相关系数计算样本相关系数样本自相关系数样本自相关系数样本偏自相关系数样本偏自相关系数数据分析方法及应用讲义2022/10/27模型识别模型识别基本原则基本原则选择模型选择模型拖尾拖尾P阶截尾阶截尾AR(P)q阶截尾阶截尾拖尾拖尾MA(q)拖尾拖尾拖尾拖尾ARMA(p,q)数据分析方法及应用讲义2022/10/27模型定阶的困难模型定阶的困难因为由于样本的随机性，样本的相关系数不会呈现出理论因为由于样本的随机性，样本的相关系数不会呈现出理论截尾的完美情况，本应截尾的截尾的完美情况，本应截尾的 或或 仍会呈现出小值振仍会呈现出小值振荡的情况荡的情况由于平稳时间序列通常都具有短期相关性，随着延迟阶数由于平稳时间序列通常都具有短期相关性，随着延迟阶数 ，与与 都会衰减至零值附近作小值波动都会衰减至零值附近作小值波动当当 或或 在延迟若干阶之后衰减为小值波动时，什么情况在延迟若干阶之后衰减为小值波动时，什么情况下该看作为相关系数截尾，什么情况下该看作为相关系数下该看作为相关系数截尾，什么情况下该看作为相关系数在延迟若干阶之后正常衰减到零值附近作拖尾波动呢？在延迟若干阶之后正常衰减到零值附近作拖尾波动呢？数据分析方法及应用讲义2022/10/27样本相关系数的近似分布样本相关系数的近似分布BarlettQuenouille数据分析方法及应用讲义2022/10/27模型定阶经验方法模型定阶经验方法95的置信区间的置信区间模型定阶的经验方法模型定阶的经验方法如果样本(偏)自相关系数在最初的d阶明显大于两倍标准差范围，而后几乎95的自相关系数都落在2倍标准差的范围以内，而且通常由非零自相关系数衰减为小值波动的过程非常突然。这时，通常视为(偏)自相关系数截尾。截尾阶数为d。数据分析方法及应用讲义2022/10/27例例11.5续续选选择择合合适适的的模模型型ARMA拟拟合合1950年年1998年年北北京市城乡居民定期储蓄比例序列。京市城乡居民定期储蓄比例序列。数据分析方法及应用讲义2022/10/27序列自相关图序列自相关图数据分析方法及应用讲义2022/10/27序列偏自相关图序列偏自相关图数据分析方法及应用讲义2022/10/27拟合模型识别拟合模型识别自相关图显示延迟自相关图显示延迟3阶之后，自相关系数全部衰减到阶之后，自相关系数全部衰减到2倍标准差倍标准差范围内波动，这表明序列明显地短期相关。但序列由显著非零范围内波动，这表明序列明显地短期相关。但序列由显著非零的相关系数衰减为小值波动的过程相当连续，相当缓慢，该自的相关系数衰减为小值波动的过程相当连续，相当缓慢，该自相关系数可视为不截尾相关系数可视为不截尾 偏自相关图显示除了延迟偏自相关图显示除了延迟1阶的偏自相关系数显著大于阶的偏自相关系数显著大于2倍标准倍标准差之外，其它的偏自相关系数都在差之外，其它的偏自相关系数都在2倍标准差范围内作小值随机倍标准差范围内作小值随机波动，而且由非零相关系数衰减为小值波动的过程非常突然，波动，而且由非零相关系数衰减为小值波动的过程非常突然，所以该偏自相关系数可视为一阶截尾所以该偏自相关系数可视为一阶截尾 所以可以考虑拟合模型为所以可以考虑拟合模型为AR(1)数据分析方法及应用讲义2022/10/27例例12.8美国科罗拉多州某一加油站连续美国科罗拉多州某一加油站连续57天的天的OVERSHORT序列序列 数据分析方法及应用讲义2022/10/27序列自相关图序列自相关图数据分析方法及应用讲义2022/10/27序列偏自相关图序列偏自相关图数据分析方法及应用讲义2022/10/27拟合模型识别拟合模型识别自相关图显示除了延迟自相关图显示除了延迟1阶的自相关系数在阶的自相关系数在2倍标准差范倍标准差范围之外，其它阶数的自相关系数都在围之外，其它阶数的自相关系数都在2倍标准差范围内倍标准差范围内波动。根据这个特点可以判断该序列具有短期相关性，波动。根据这个特点可以判断该序列具有短期相关性，进一步确定序列平稳。同时，可以认为该序列自相关系进一步确定序列平稳。同时，可以认为该序列自相关系数数1阶截尾阶截尾偏自相关系数显示出典型非截尾的性质。偏自相关系数显示出典型非截尾的性质。综合该序列自相关系数和偏自相关系数的性质，为拟合综合该序列自相关系数和偏自相关系数的性质，为拟合模型定阶为模型定阶为MA(1)数据分析方法及应用讲义2022/10/27例例12.91880-19851880-1985全球气表平均温度改变值差分序列全球气表平均温度改变值差分序列 数据分析方法及应用讲义2022/10/27序列自相关图序列自相关图数据分析方法及应用讲义2022/10/27序列偏自相关图序列偏自相关图数据分析方法及应用讲义2022/10/27拟合模型识别拟合模型识别自相关系数显示出不截尾的性质自相关系数显示出不截尾的性质偏自相关系数也显示出不截尾的性质偏自相关系数也显示出不截尾的性质综合该序列自相关系数和偏自相关系数的性质，综合该序列自相关系数和偏自相关系数的性质，可以尝试使用可以尝试使用ARMA(1,1)模型拟合该序列模型拟合该序列数据分析方法及应用讲义2022/10/27参数估计参数估计待估参数待估参数 个未知参数常用估计方法常用估计方法矩估计极大似然估计最小二乘估计数据分析方法及应用讲义2022/10/27矩估计矩估计原理原理样本自相关系数估计总体自相关系数样本一阶均值估计总体均值，样本方差估计总体方差数据分析方法及应用讲义2022/10/27例例12.10:求求AR(2)模型系数的矩估计模型系数的矩估计AR(2)模型模型Yule-Walker方程方程矩估计（矩估计（Yule-Walker方程的解）方程的解）数据分析方法及应用讲义2022/10/27例例12.11:求求MA(1)模型系数的矩估计模型系数的矩估计MA(1)模型模型方程方程矩估计矩估计数据分析方法及应用讲义2022/10/27例例12.12:求求ARMA(1,1)模型系数的矩估计模型系数的矩估计ARMA(1,1)模型模型方程方程矩估计矩估计数据分析方法及应用讲义2022/10/27对矩估计的评价对矩估计的评价优点优点估计思想简单直观不需要假设总体分布计算量小（低阶模型场合）缺点缺点信息浪费严重只用到了p+q个样本自相关系数信息，其他信息都被忽略估计精度差通常矩估计方法被用作极大似然估计和最小二乘估计迭代通常矩估计方法被用作极大似然估计和最小二乘估计迭代计算的初始值计算的初始值 数据分析方法及应用讲义2022/10/27极大似然估计极大似然估计原理原理在极大似然准则下，认为样本来自使该样本出现概率最大的总体。因此未知参数的极大似然估计就是使得似然函数（即联合密度函数）达到最大的参数值 数据分析方法及应用讲义2022/10/27似然方程似然方程由于由于 和和 都不是都不是 的显式表达式。因而似然的显式表达式。因而似然方程组实际上是由方程组实际上是由p+q+1p+q+1个超越方程构成，通常需个超越方程构成，通常需要经过复杂的迭代算法才能求出未知参数的极大要经过复杂的迭代算法才能求出未知参数的极大似然估计值似然估计值 数据分析方法及应用讲义2022/10/27对极大似然估计的评价对极大似然估计的评价优点优点极大似然估计充分应用了每一个观察值所提供的信息，因而它的估计精度高同时还具有估计的一致性、渐近正态性和渐近有效性等许多优良的统计性质缺点缺点需要假定总体分布数据分析方法及应用讲义2022/10/27最小二乘估计最小二乘估计原理原理使残差平方和达到最小的那组参数值即为最小二乘估计值 数据分析方法及应用讲义2022/10/27条件最小二乘估计条件最小二乘估计实际中最常用的参数估计方法实际中最常用的参数估计方法假设条件假设条件残差平方和方程残差平方和方程解法解法迭代法数据分析方法及应用讲义2022/10/27对最小二乘估计的评价对最小二乘估计的评价优点优点最小二乘估计充分应用了每一个观察值所提供的信息，因而它的估计精度高条件最小二乘估计方法使用率最高缺点缺点需要假定总体分布数据分析方法及应用讲义2022/10/27例例11.5续续确定确定1950年年1998年北京市城乡居民定期储蓄年北京市城乡居民定期储蓄比例序列拟合模型的口径比例序列拟合模型的口径 拟合模型：AR(1)估计方法：极大似然估计模型口径数据分析方法及应用讲义2022/10/27例例12.8续续确定美国科罗拉多州某一加油站连续确定美国科罗拉多州某一加油站连续57天的天的OVERSHORTS序列拟合模型的口径序列拟合模型的口径 拟合模型：MA(1)估计方法：条件最小二乘估计模型口径数据分析方法及应用讲义2022/10/27例例12.9续续确定确定1880-19851880-1985全球气表平均温度改变值差分序列全球气表平均温度改变值差分序列拟合模型的口径拟合模型的口径 拟合模型：ARMA(1,1)估计方法：条件最小二乘估计模型口径数据分析方法及应用讲义2022/10/27模型检验模型检验模型的显著性检验模型的显著性检验整个模型对信息的提取是否充分参数的显著性检验参数的显著性检验模型结构是否最简数据分析方法及应用讲义2022/10/27模型的显著性检验模型的显著性检验目的目的检验模型的有效性（对信息的提取是否充分）检验对象检验对象残差序列判定原则判定原则一个好的拟合模型应该能够提取观察值序列中几乎所有的样本相关信息，即残差序列应该为白噪声序列 反之，如果残差序列为非白噪声序列，那就意味着残差序列中还残留着相关信息未被提取，这就说明拟合模型不够有效数据分析方法及应用讲义2022/10/27假设条件假设条件原假设：残差序列为白噪声序列原假设：残差序列为白噪声序列备择假设：残差序列为非白噪声序列备择假设：残差序列为非白噪声序列数据分析方法及应用讲义2022/10/27检验统计量检验统计量LB统计量统计量数据分析方法及应用讲义2022/10/27例例11.5续续检验检验1950年年1998年北京市城乡居民定期储蓄年北京市城乡居民定期储蓄比例序列拟合模型的显著性比例序列拟合模型的显著性 残差白噪声序列检验结果残差白噪声序列检验结果延迟阶数延迟阶数LB统计量统计量P值值检验结论检验结论65.830.3229拟合模型显拟合模型显著有效著有效1210.280.50501811.380.8361数据分析方法及应用讲义2022/10/27参数显著性检验参数显著性检验目的目的检验每一个未知参数是否显著非零。删除不显著参数使模型结构最精简 假设条件假设条件检验统计量检验统计量数据分析方法及应用讲义2022/10/27例例11.5续续检验检验1950年年1998年北京市城乡居民定期储蓄比例序年北京市城乡居民定期储蓄比例序列极大似然估计模型的参数是否显著列极大似然估计模型的参数是否显著 参数检验结果参数检验结果检验参数检验参数t统计量统计量P值值结论结论均值均值46.120.0001显著显著6.720.0001显著显著数据分析方法及应用讲义2022/10/27例例12.8续续:对对OVERSHORTS序列的拟合模型进行检序列的拟合模型进行检验验 残差白噪声检验残差白噪声检验参数显著性检验参数显著性检验检验参数检验参数t统计量统计量P值值结论结论均值均值12.750.0004显著显著10.600.0001显著显著延迟阶数延迟阶数LB统计量统计量P值值结论结论63.150.6772模型显著有模型显著有效效129.050.6171数据分析方法及应用讲义2022/10/27例例12.9续续:对对1880-19851880-1985全球气表平均温度改变值差全球气表平均温度改变值差分序列拟合模型进行检验分序列拟合模型进行检验 残差白噪声检验残差白噪声检验参数显著性检验参数显著性检验检验参数检验参数t统计量统计量P值值结论结论16.340.0001显著显著3.50.0007显著显著延迟阶数延迟阶数LB统计量统计量P值值结论结论65.280.2595模型显著有模型显著有效效1210.300.4247数据分析方法及应用讲义2022/10/27模型优化模型优化问题提出问题提出当一个拟合模型通过了检验，说明在一定的置信水平下，该模型能有效地拟合观察值序列的波动，但这种有效模型并不是唯一的。优化的目的优化的目的选择相对最优模型 数据分析方法及应用讲义2022/10/27例例12.13:拟合某一化学序列拟合某一化学序列数据分析方法及应用讲义2022/10/27序列自相关图序列自相关图数据分析方法及应用讲义2022/10/27序列偏自相关图序列偏自相关图数据分析方法及应用讲义2022/10/27拟合模型一拟合模型一根据自相关系数根据自相关系数2阶截尾，拟合阶截尾，拟合MA(2)模型模型参数估计参数估计模型检验模型检验模型显著有效 三参数均显著 数据分析方法及应用讲义2022/10/27拟合模型二拟合模型二根据偏自相关系数根据偏自相关系数1阶截尾，拟合阶截尾，拟合MA(1)模型模型参数估计参数估计模型检验模型检验模型显著有效 两参数均显著 数据分析方法及应用讲义2022/10/27问题问题同一个序列可以构造两个拟合模型，两个模型都同一个序列可以构造两个拟合模型，两个模型都显著有效，那么到底该选择哪个模型用于统计推显著有效，那么到底该选择哪个模型用于统计推断呢？断呢？解决办法解决办法确定适当的比较准则，构造适当的统计量，确定相对最优数据分析方法及应用讲义2022/10/27AIC准则准则最小信息量准则（最小信息量准则（An Information Criterion）指导思想指导思想似然函数值越大越好 未知参数的个数越少越好 AIC统计量统计量数据分析方法及应用讲义2022/10/27SBC准则准则AIC准则的缺陷准则的缺陷在样本容量趋于无穷大时，由AIC准则选择的模型不收敛于真实模型，它通常比真实模型所含的未知参数个数要多 SBC统计量统计量数据分析方法及应用讲义2022/10/27例例12.13续续用用AIC准则和准则和SBC准则评判例准则评判例12.13中两个拟合模中两个拟合模型的相对优劣型的相对优劣 结果结果AR(1)优于MA(2)模型模型AICSBCMA(2)536.4556543.2011AR(1)535.7896540.2866数据分析方法及应用讲义2022/10/27序列预测序列预测线性预测函数线性预测函数预测方差最小原则预测方差最小原则数据分析方法及应用讲义2022/10/27序列分解序列分解预测误差预测误差预测值预测值数据分析方法及应用讲义2022/10/27误差分析误差分析估计误差估计误差期望期望方差方差数据分析方法及应用讲义2022/10/27AR(p)序列的预测序列的预测预测值预测值预测方差预测方差95置信区间置信区间数据分析方法及应用讲义2022/10/27例例12.14已知某超市月销售额近似服从已知某超市月销售额近似服从AR(2)模型（单位：模型（单位：万元万元/每月）每月）今年第一季度该超市月销售额分别为：今年第一季度该超市月销售额分别为：101，96，97.2万元万元请确定该超市第二季度每月销售额的请确定该超市第二季度每月销售额的95的置信的置信区间区间 数据分析方法及应用讲义2022/10/27例例12.14解：预测值计算解：预测值计算四月份四月份五月份五月份六月份六月份数据分析方法及应用讲义2022/10/27例例12.14解：预测方差的计算解：预测方差的计算GREEN函数函数方差方差数据分析方法及应用讲义2022/10/27例例12.14解：置信区间解：置信区间公式公式估计结果估计结果预测时期预测时期95置信区间置信区间四月份四月份（85.36，108.88）五月份五月份（83.72，111.15）六月份六月份（81.84，113.35）数据分析方法及应用讲义2022/10/27例例11.5:北京市城乡居民定期储蓄比例序列拟北京市城乡居民定期储蓄比例序列拟合与预测图合与预测图 数据分析方法及应用讲义2022/10/27MA(q)序列的预测序列的预测预测值预测值预测方差预测方差数据分析方法及应用讲义2022/10/27例例12.15已知某地区每年常驻人口数量近似服从已知某地区每年常驻人口数量近似服从MA(3)模型（单位：万）：模型（单位：万）：最近最近3年的常驻人口数量及一步预测数量如下：年的常驻人口数量及一步预测数量如下：预测未来预测未来5年该地区常住人口的年该地区常住人口的95置信区间置信区间年份年份统计人数统计人数预测人数预测人数200210411020031081002004105109数据分析方法及应用讲义2022/10/27例例12.15解：随机扰动项的计算解：随机扰动项的计算数据分析方法及应用讲义2022/10/27例例12.15解：估计值的计算解：估计值的计算数据分析方法及应用讲义2022/10/27例例12.15解：预测方差的计算解：预测方差的计算数据分析方法及应用讲义2022/10/27例例12.15解：置信区间的计算解：置信区间的计算预测年份预测年份95置信区间置信区间2005（99，119）2006（83，109）2007（87，115）2008（86，114）2009（86，114）数据分析方法及应用讲义2022/10/27ARMA(p,q)序列预测序列预测预测值预测值预测方差预测方差数据分析方法及应用讲义2022/10/27例例12.16已知模型为：已知模型为：且且 预测未来预测未来3期序列值的期序列值的95的置信区间。的置信区间。数据分析方法及应用讲义2022/10/27例例12.16解：估计值的计算解：估计值的计算数据分析方法及应用讲义2022/10/27例例12.16解：预测方差的计算解：预测方差的计算Green函数函数方差方差数据分析方法及应用讲义2022/10/27例例12.16解：置信区间的计算解：置信区间的计算时期时期95置信区间置信区间101（0.136，0.332）102（0.087，0.287）103（0.049，0.251）数据分析方法及应用讲义2022/10/27修正预测修正预测定义定义所谓的修正预测就是研究如何利