第十章 多元线性回归自相关问题优秀PPT.ppt

《第十章 多元线性回归自相关问题优秀PPT.ppt》由会员分享，可在线阅读，更多相关《第十章 多元线性回归自相关问题优秀PPT.ppt（32页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第十章 多元线性回归自相关问题1第一页，本课件共有32页一、序列相关性的定义线性回归模型假设要求线性回归模型假设要求 对任意对任意 都成立都成立误差序列相关比较基本和重要类型误差序列相关比较基本和重要类型一阶自回归：一阶自回归：其中其中 满足满足2第二页，本课件共有32页二、序列相关性的后果1、参数估计量是无偏的和一致的，但不再是、参数估计量是无偏的和一致的，但不再是BLUE的，是的，是非有效。非有效。2、OLS估计量的方差是有偏的估计量的方差是有偏的3、检验统计量不再生效，变量显著性检验失去意义。、检验统计量不再生效，变量显著性检验失去意义。3、模型的预测失效。、模型的预测失效。3第三页，本

2、课件共有32页三、序列相关性的发现和判断（一）残差序列图分析（一）残差序列图分析如形成锯齿形或循环状，可断定残差序列存在相关如形成锯齿形或循环状，可断定残差序列存在相关4第四页，本课件共有32页三、三、序列相关性的发现和判断发现和判断分析误差序列相关残差分布图分析误差序列相关残差分布图5第五页，本课件共有32页三、三、序列相关性的发现和判断发现和判断例例7.1 美国进口支出函数美国进口支出函数 给出美国给出美国1968年到年到1987年期进口支出与个人可支配收入年期进口支出与个人可支配收入（PDI）数据，建立美国支出函数模型，检验残差序列）数据，建立美国支出函数模型，检验残差序列的自相关性。的

3、自相关性。p 绘出残差序列随时间变化的趋势绘出残差序列随时间变化的趋势p 绘出残差序列与其滞后项绘出残差序列与其滞后项6第六页，本课件共有32页三、三、序列相关性的发现和判断发现和判断（二）回归检验法（二）回归检验法 首先应用首先应用OLS估计模型并求出估计模型并求出的估计值即残差的估计值即残差e，然后以，然后以et 为被解释变量，以各种可能的相关变量如为被解释变量，以各种可能的相关变量如 等作为等作为自变量进行线性拟合如：自变量进行线性拟合如：对各种拟合形式进行统计检验，选择显著的最优的拟合形式作对各种拟合形式进行统计检验，选择显著的最优的拟合形式作为序列相关的具体形式。为序列相关的具体形式

4、。7第七页，本课件共有32页三、三、序列相关性的发现和判断发现和判断（三）游程检验（三）游程检验 游程：为同一符号或属性（例如游程：为同一符号或属性（例如+或或-)的一个不间断历程。的一个不间断历程。如：如：记残差的符号记残差的符号(+或或-),有有 (+)(-)(+)(-)(+)总共有总共有20个残差构成了个残差构成了5个游程。其中一个个游程。其中一个7个正值的游程个正值的游程（其长度为（其长度为7）。若游程太多，则意味着）。若游程太多，则意味着e在频繁地变换着符号，在频繁地变换着符号，表明存在负的序列相关；如果游程太少，则意味着存在正的自表明存在负的序列相关；如果游程太少，则意味着存在正的

5、自相关。在残差是独立的假设下，史威德（相关。在残差是独立的假设下，史威德（Swed）和艾森哈特）和艾森哈特（Eisenhart）建立了游程检验的临界值。）建立了游程检验的临界值。8第八页，本课件共有32页三、三、序列相关性的发现和判断发现和判断（三）游程检验（三）游程检验 令令N为观察值的总个数，为观察值的总个数，N1表示表示+号（正的残差）的个数，号（正的残差）的个数，N2表表示示-号（负的残差）的个数，号（负的残差）的个数，k表示游程个数，在残差是独立的假表示游程个数，在残差是独立的假设下，设下，Swed-Eisenhart给出了游程检验的上下临界值，如果实给出了游程检验的上下临界值，如果

6、实际游程个数小于或等于下临界值，或是大于或等于上临界值，际游程个数小于或等于下临界值，或是大于或等于上临界值，则可以拒绝零假设，说明所观察的序列是随机的则可以拒绝零假设，说明所观察的序列是随机的实例实例7-2 利用游程检验判断美国抵押债务方程残差项的利用游程检验判断美国抵押债务方程残差项的 自相关性自相关性9第九页，本课件共有32页三、三、序列相关性的发现和判断发现和判断（四）杜宾（四）杜宾-瓦尔森瓦尔森(D-W)检验（适应于一阶自相检验（适应于一阶自相关情况的检验）关情况的检验）DW检验的原理检验的原理 对线性回归模型对线性回归模型 如果误差项有一阶自回归问题，那么如果误差项有一阶自回归问题

7、，那么 其中的其中的 ，是均值为是均值为0的独立同分布随机变量。的独立同分布随机变量。10第十页，本课件共有32页三、三、序列相关性的发现和判断发现和判断根据根据 和和 的性质，有的性质，有因此因此11第十一页，本课件共有32页三、三、序列相关性的发现和判断发现和判断考虑与考虑与 有密切关系的有密切关系的DW统计量统计量12第十二页，本课件共有32页三、三、序列相关性的发现和判断发现和判断检验误差序列正自相关性检验误差序列正自相关性DW检验区域图检验区域图 一阶自相关一阶自相关 无法判断无法判断 无一阶自相关性无一阶自相关性 无法判断无法判断 一阶负自相关一阶负自相关实例实例7-3 利用利用杜

8、宾杜宾-瓦尔森检验瓦尔森检验判断美国抵押债务方程残差判断美国抵押债务方程残差项的项的 自相关性自相关性13第十三页，本课件共有32页三、三、序列相关性的发现和判断发现和判断DW检验序列相关性的主要不足：检验序列相关性的主要不足：（1）D.W.统计量的扰动项在原假设下依赖于系数矩阵统计量的扰动项在原假设下依赖于系数矩阵X；（2）回归方程右边如果存在滞后变量，）回归方程右边如果存在滞后变量，D.W.检验不再有检验不再有效；效；（3）仅仅检验残差是否存在一阶序列相关）仅仅检验残差是否存在一阶序列相关 14第十四页，本课件共有32页三、三、序列相关性的发现和判断发现和判断（五）相关图和（五）相关图和Q

9、统计量检验序列相关统计量检验序列相关 可以应用所估计回归方程残差序列的自相关和偏自相关可以应用所估计回归方程残差序列的自相关和偏自相关系数以及系数以及Ljung-Box Q统计量来检验序列相关。统计量来检验序列相关。Q统计量的统计量的表达式为表达式为 其中其中rj是残差序列的是残差序列的j阶自相关系数，阶自相关系数，T为样本容量，为样本容量，p为设为设定的滞后阶数。定的滞后阶数。15第十五页，本课件共有32页三、三、序列相关性的发现和判断发现和判断（五）相关图和（五）相关图和Q统计量检验序列相关统计量检验序列相关 p阶滞后的阶滞后的Q统计量的原假设是：序列不存在统计量的原假设是：序列不存在p阶

10、自相关；备选假阶自相关；备选假设为：序列存在序列相关。在实际检验中，通常会计算出不同设为：序列存在序列相关。在实际检验中，通常会计算出不同滞后阶数的滞后阶数的Q统计量、自相关系数和偏自相关系数。如果各阶统计量、自相关系数和偏自相关系数。如果各阶Q统统计量都没有超过临界值，则接受原假设，即不存在序列相关，并计量都没有超过临界值，则接受原假设，即不存在序列相关，并且此时各阶的自相关和偏自相关系数都接近于且此时各阶的自相关和偏自相关系数都接近于0；如果存在某一；如果存在某一滞后阶数滞后阶数p，Q统计量超过设定的显著性水平的临界值，则拒绝原假设，统计量超过设定的显著性水平的临界值，则拒绝原假设，说明残

11、差存在说明残差存在p阶自相关。阶自相关。16第十六页，本课件共有32页三、三、序列相关性的发现和判断发现和判断（五）相关图和（五）相关图和Q统计量检验序列相关统计量检验序列相关Eviews 实现实现 View-Residual Tests-Correlogram and Q-statistics17第十七页，本课件共有32页三、三、序列相关性的发现和判断发现和判断（五）序列相关（五）序列相关LM检验检验LM检验原假设为：直到检验原假设为：直到p阶滞后不存在序列相关，阶滞后不存在序列相关，p为预先定义好的整为预先定义好的整数；备择假设为：存在数；备择假设为：存在p阶自相关阶自相关检验过程：估计回

12、归方程，并求出残差，对原始回归变量检验过程：估计回归方程，并求出残差，对原始回归变量X和直到和直到p阶阶的滞后残差作回归。的滞后残差作回归。LM检验通常给出两个统计量：检验通常给出两个统计量：F统计量和统计量和nR2统计量。统计量。F统计量是对以上回归方程中所有滞后残差联合显著统计量是对以上回归方程中所有滞后残差联合显著性的检验。性的检验。nR2统计量是统计量是Breusch-Godfrey LM检验统计量，是观检验统计量，是观测值个数测值个数n乘以以上方程的乘以以上方程的R2,一般地它服从渐近地一般地它服从渐近地2 2(p)分布。分布。18第十八页，本课件共有32页三、三、序列相关性的发现和

13、判断发现和判断（五）序列相关（五）序列相关LM检验检验在给定地显著性水平下，如果统计量大于临界值，则说明序列在给定地显著性水平下，如果统计量大于临界值，则说明序列存在序列相关性，否则不存在序列相关性。存在序列相关性，否则不存在序列相关性。Eviews 实现实现 View-Residual Tests-Correlogram and Q-statistics实例：美国的投资方程实例：美国的投资方程建立美国国内私人投资建立美国国内私人投资INV和和GNP平减指数、利息率之间的方程，平减指数、利息率之间的方程，并检验序列相关性。并检验序列相关性。19第十九页，本课件共有32页四、误差序列相关的处理和

14、克服（一）一阶差分法（一）一阶差分法（二）广义差分法（二）广义差分法（三）杜宾（三）杜宾(Durbin)两步法两步法（四）广义最小二乘法（四）广义最小二乘法20第二十页，本课件共有32页（一）一阶差分法（一）一阶差分法设线性回归模型为设线性回归模型为已知已知 有很强的一阶自相关性，即有很强的一阶自相关性，即 把滞后一期的观测值代入变量关系，得方程：把滞后一期的观测值代入变量关系，得方程：可得可得21第二十一页，本课件共有32页由于由于 ，因此，因此令令 ，可得可得因为因为 ，所以上式近似为，所以上式近似为 注意注意 相当于相当于DW趋于趋于0。22第二十二页，本课件共有32页（二）广义差分法（

15、二）广义差分法设线性回归模型为设线性回归模型为已知已知 有一阶自相关性，即有一阶自相关性，即 把滞后一期的观测值代入变量关系，得方程：把滞后一期的观测值代入变量关系，得方程：23第二十三页，本课件共有32页可得可得使使根据根据 可得可得如果记如果记 ，所以上式为，所以上式为24第二十四页，本课件共有32页（三）杜宾两步法（三）杜宾两步法从两变量模型的广义差分式从两变量模型的广义差分式整理后可得整理后可得,25第二十五页，本课件共有32页接受上述多元线性回归得到的接受上述多元线性回归得到的 估计值估计值 ，利用广义差分变换，利用广义差分变换 ，得到得到 对它进行最小二乘估计，并把估计回归结果计算

16、的对它进行最小二乘估计，并把估计回归结果计算的 和和1，作为原模型参数的估计。，作为原模型参数的估计。26第二十六页，本课件共有32页（四）广义最小二乘法（四）广义最小二乘法广义最小二乘法的一般原理广义最小二乘法的一般原理 设线性回归模型为设线性回归模型为 其中其中 但但 对对 进行分析进行分析 27第二十七页，本课件共有32页（四）广义最小二乘法（四）广义最小二乘法记记得到得到其中误差向量满足其中误差向量满足对变换过的模型进行最小二乘估计，得参数估计对变换过的模型进行最小二乘估计，得参数估计28第二十八页，本课件共有32页（四）广义最小二乘法（四）广义最小二乘法 以误差序列一阶自相关问题为例

17、以误差序列一阶自相关问题为例 设模型为设模型为 其误差满足其误差满足 其中其中 ，是均值为是均值为0、独立同分布的随机变量，且方差、独立同分布的随机变量，且方差为为 。29第二十九页，本课件共有32页（四）广义最小二乘法（四）广义最小二乘法不同时期误差之间的协方差可以表示为：不同时期误差之间的协方差可以表示为：由于由于 30第三十页，本课件共有32页（四）广义最小二乘法（四）广义最小二乘法因此可以得到协方差矩阵，为因此可以得到协方差矩阵，为31第三十一页，本课件共有32页（五）应用举例（五）应用举例例例1：修正美国投资方程残差序列的自相关性：修正美国投资方程残差序列的自相关性例例2：考虑美国消费：考虑美国消费CS和和GDP及前期消费之间的关系。数据及前期消费之间的关系。数据区间：区间：1947年第年第1季度到季度到1995年第年第1季度，数据中已消除了季度，数据中已消除了季节要素。建立模型，检验序列相关性，并进行修正。季节要素。建立模型，检验序列相关性，并进行修正。32第三十二页，本课件共有32页