《计量经济学》第4章.多重共线性.ppt

《《计量经济学》第4章.多重共线性.ppt》由会员分享，可在线阅读，更多相关《《计量经济学》第4章.多重共线性.ppt（45页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 第四章第四章 多重共线性多重共线性Multi-Collinearity计量经济学计量经济学引子：引子：国内生产总值增加会减少财政收入吗？国内生产总值增加会减少财政收入吗？为了分析各主要因素对国家财政收入的影响，建立为了分析各主要因素对国家财政收入的影响，建立财政收入财政收入(亿元亿元)(CZSR)为被解释变量，财政支出为被解释变量，财政支出（亿元）（亿元）（CZZC）、国内生产总值）、国内生产总值(亿元亿元)(GDP)、税收总额税收总额(亿元亿元)(SSZE)等为解释变量的计量模型。等为解释变量的计量模型。数据样本时期：数据样本时期：1978年年-2011年的统计数据。年的统计数据。设定的理

2、论模型为：设定的理论模型为：采用普通最小二乘法得到以下估计结果采用普通最小二乘法得到以下估计结果财政收入模型的财政收入模型的EViewsEViews估计结果估计结果VariableCoefficientStd.Errort-StatisticProb.截距119.0786107.12361.1116000.2751财政支出0.1223550.0488462.5049100.0179国内生产总值国内生产总值-0.0341040.005068-6.7291010.0000税收总额1.1811570.06967616.952040.0000R-squared0.999791Meandependent

3、var18185.17AdjustedR-squared0.999770S.D.dependentvar26129.67S.E.ofregression395.9401Akaikeinfocriterion14.91053Sumsquaredresid4703056.Schwarzcriterion15.09011Loglikelihood-249.4791Hannan-Quinncriter.14.97177F-statistic47897.29Durbin-Watsonstat1.025140Prob(F-statistic)0.000000 可决系数为可决系数为0.99979，校正的可决

4、系数为，校正的可决系数为0.999770.99977，模型拟合很好。模型对财政收入的解释程度高达模型拟合很好。模型对财政收入的解释程度高达99.9%99.9%。F F统计量为统计量为47897.2947897.29，说明，说明0.050.05水平下回归方程整水平下回归方程整体上很显著。体上很显著。t t 检验结果表明，各个解释变量检验结果表明，各个解释变量对财政收入的影对财政收入的影响均显著，但是国内生产总值对财政收入的回归系响均显著，但是国内生产总值对财政收入的回归系数的符号为负，即经济增长反而会使财政收入减少。数的符号为负，即经济增长反而会使财政收入减少。这显然与理论分析和实践经验不相符。

5、为什么会出这显然与理论分析和实践经验不相符。为什么会出现这样的异常结果？如果现这样的异常结果？如果模型设定和数据真实性没模型设定和数据真实性没问题，问题会出在哪里呢？问题，问题会出在哪里呢？模型估计与检验结果分析模型估计与检验结果分析第四章第四章 多重共线性多重共线性 本章讨论五个问题：本章讨论五个问题：什么是多重共线性什么是多重共线性 多重共线性的经济背景多重共线性的经济背景 多重共线性产生的后果多重共线性产生的后果 多重共线性的检验多重共线性的检验 多重共线性的补救措施多重共线性的补救措施一、多重共线性的含义一、多重共线性的含义或者说或者说,时，表明在数据矩阵时，表明在数据矩阵 中，至少有

6、中，至少有一个列向量可以用其余的列向量线性表示，则说明存在完全的多一个列向量可以用其余的列向量线性表示，则说明存在完全的多重共线性。重共线性。对于解释变量对于解释变量 ，如果存在不全为，如果存在不全为0 0的的数数 ，使得，使得则称解释变量则称解释变量 之间存在着之间存在着完全的多完全的多重共线性重共线性完全的多重共线性完全的多重共线性不完全的多重共线性不完全的多重共线性若解释变量若解释变量 ，存在不全为存在不全为0 0的数的数，使得使得 为随机变量为随机变量其中其中，具有近似的多重共线性具有近似的多重共线性则称则称 ，解释变量间毫无线性关系，变量间相互正交。这时已不需要作多元回归，每个参数j

7、都可以通过Y 对 Xj 的一元回归来估计。回归模型中解释变量的关系回归模型中解释变量的关系 可能表现为三种情形：可能表现为三种情形：(1)，解释变量间完全共线性。此时模型参数将无法确定。，解释变量间存在一定程度的线性关系。实际中常遇到的情形。(2)(3)二、产生多重共线性的背景二、产生多重共线性的背景 多重共线性产生的经济背景主要有几种情形：多重共线性产生的经济背景主要有几种情形：1.经济变量之间具有共同变化趋势。经济变量之间具有共同变化趋势。时间序列数据时间序列数据：经济繁荣时期，各基本经济变量（收入、消费、投资、价格）都趋于增长；衰退时期，又同时趋于下降横截面数据横截面数据：变量变化与发展

8、规模有关，例如在生产函数中，资本投入与劳动力投入往往出现高度相关情况，大企业二者都大，小企业都小 2.模型中包含滞后变量。模型中包含滞后变量。例如，消费=f(当期收入,前期收入）3.样本数据自身的原因。样本数据自身的原因。抽样取值有限三、三、多重共线性产生的后果多重共线性产生的后果如果存在如果存在完全共线性完全共线性，则，则(X(XX)X)-1-1不存在，无法得不存在，无法得到唯一的参数估计量。到唯一的参数估计量。1 1、完全共线性下参数估计量无意义、完全共线性下参数估计量无意义OLS估计量为：X1和X2前的参数1、2并不反映各自与被解释变量之间的结构关系，而是反映它们对被解释变量的共同影响。

9、1、2已经失去了应有的经济含义，于是经常表现出似似乎乎反反常常的的现现象象：例如1本来应该是正的，结果恰是负的。这时，实际只能确定综合参数1+2的估计值以离差形式的二元回归模型为例如果两个解释变量完全相关，如x2=x1，则m+=2211xxy近似共线性下，可以得到OLS参数估计量，但参数估计量方差方差的表达式为 由于|XX|0，引起(XX)-1主对角线元素较大，使参数估计值的方差增大，OLSOLS参参数数估估计计量量非非有有效效，亦亦会会使使变变量量的的显显著著性性检检验验和和预预测测检检验验失失去意义去意义 2 2、不完全共线性下估计量方差偏大、不完全共线性下估计量方差偏大四、四、多重共线性

10、的检验多重共线性的检验 本节基本内容：本节基本内容：简单相关系数检验法简单相关系数检验法 方差扩大（膨胀）因子法方差扩大（膨胀）因子法 直观判断法直观判断法 逐步回归法逐步回归法两个问题两个问题(1)(1)是否存在是否存在(2)(2)哪些变量存在？哪些变量存在？1、简单相关系数检验法、简单相关系数检验法判断规则：判断规则：一般而言，如果每两个解释变量的简单一般而言，如果每两个解释变量的简单相关系数相关系数(零阶相关系数零阶相关系数)比较高，例如大于比较高，例如大于0.80.8，则可认为存在着较严重的多重共线性。则可认为存在着较严重的多重共线性。计算解释变量之间的相关系数或相关矩阵计算解释变量之

11、间的相关系数或相关矩阵注意注意：较高的简单相关系数只是多重共线性存在的充分条件，：较高的简单相关系数只是多重共线性存在的充分条件，而不是必要条件而不是必要条件 2 2、方差扩大（膨胀）因子法、方差扩大（膨胀）因子法统计统计上可以上可以证证明，明，的方差可表示的方差可表示为为(Variance Inflation Factor)，即，即其中的其中的是是变变量量的方差扩大因子的方差扩大因子其中其中 是是Xj关于其余解关于其余解释变释变量的量的辅辅助回助回归归的可决系数的可决系数经验规则经验规则方差膨胀因子越大，表明解释变量之间的多重共方差膨胀因子越大，表明解释变量之间的多重共性越严重。反过来，方差

12、膨胀因子越接近于性越严重。反过来，方差膨胀因子越接近于1，多重共线性越弱。多重共线性越弱。经验表明，方差膨胀因子经验表明，方差膨胀因子10时，说明解释变量时，说明解释变量与其余解释变量之间有严重的多重共线性，且这与其余解释变量之间有严重的多重共线性，且这种多重共线性可能会过度地影响最小二乘估计。种多重共线性可能会过度地影响最小二乘估计。3、直观判断法、直观判断法1.1.当增加或剔除一个解释变量，或者改变一个观测值当增加或剔除一个解释变量，或者改变一个观测值时，回归参数的估计值发生较大变化时，回归参数的估计值发生较大变化2.2.一些重要的解释变量的回归系数的标准误差较大，一些重要的解释变量的回归

13、系数的标准误差较大，在回归方程中没有通过显著性检验时在回归方程中没有通过显著性检验时3.3.有些解释变量的回归系数所带正负号与定性分析结有些解释变量的回归系数所带正负号与定性分析结果违背时果违背时4.4.模型的可决系数较高，模型的可决系数较高，F F检验显著，回归系数的方差检验显著，回归系数的方差较大，较大，t t值较小，即在统计上均不显著。值较小，即在统计上均不显著。根据经验，通常以下情况的出现可能是由于存在多重共线性根据经验，通常以下情况的出现可能是由于存在多重共线性4、逐步回归检测法、逐步回归检测法 逐步回归的基本思想逐步回归的基本思想 将变量逐个的引入模型，每引入一个解释变量后，都将变

14、量逐个的引入模型，每引入一个解释变量后，都要进行检验，并对已经选入的解释变量逐个进行要进行检验，并对已经选入的解释变量逐个进行t 检验，当原来引入的解释变量由于后面解释变量的引检验，当原来引入的解释变量由于后面解释变量的引入而变得不再显著时，则将其剔除。以确保每次引入入而变得不再显著时，则将其剔除。以确保每次引入新的变量之前回归方程中只包含显著的变量。新的变量之前回归方程中只包含显著的变量。在逐步回归中，高度相关的解释变量，在引入时会被在逐步回归中，高度相关的解释变量，在引入时会被剔除。因而也是一种检测多重共线性的有效方法。剔除。因而也是一种检测多重共线性的有效方法。五、五、多重共线性的补救措

15、多重共线性的补救措施施 本节基本内容本节基本内容:修正多重共线性的经验方法修正多重共线性的经验方法 逐步回归法逐步回归法1、修正多重共线性的经验方法、修正多重共线性的经验方法 (1).剔除变量法剔除变量法把方差扩大因子最大者所对应的自变量首先把方差扩大因子最大者所对应的自变量首先剔除再重新建立回归方程，直至回归方程中剔除再重新建立回归方程，直至回归方程中不再存在严重的多重共线性。不再存在严重的多重共线性。注意注意:若剔除了重要变量，可能引起模型的设若剔除了重要变量，可能引起模型的设定误差。定误差。(2).增大样本容量增大样本容量如果样本容量增加，会减小回归参数的方差，如果样本容量增加，会减小回

16、归参数的方差，标准误差也同样会减小。因此尽可能地收集足标准误差也同样会减小。因此尽可能地收集足够多的样本数据可以改进模型参数的估计。够多的样本数据可以改进模型参数的估计。问题：问题：增加样本数据在实际计量分析中常面临增加样本数据在实际计量分析中常面临许多困难。许多困难。(3).变换模型形式变换模型形式(一般适用于时间序列数据一般适用于时间序列数据)一般而言，差分后变量之间的相关性要比差分一般而言，差分后变量之间的相关性要比差分前弱得多，所以差分后的模型可能降低出现共前弱得多，所以差分后的模型可能降低出现共线性的可能性，此时可直接估计差分方程。线性的可能性，此时可直接估计差分方程。问题：问题：差

17、分会丢失一些信息，差分模型的误差差分会丢失一些信息，差分模型的误差项可能存在序列相关，可能会违背经典线性回项可能存在序列相关，可能会违背经典线性回归模型的相关假设，在具体运用时要慎重。归模型的相关假设，在具体运用时要慎重。(4).利用非样本先验信息利用非样本先验信息通过经济理论分析能够得到某些参数之间的关通过经济理论分析能够得到某些参数之间的关系，可以将这种关系作为约束条件，将此约束系，可以将这种关系作为约束条件，将此约束条件和样本信息结合起来进行约束最小二乘估计。条件和样本信息结合起来进行约束最小二乘估计。(5).横截面数据与时序数据并用横截面数据与时序数据并用首先利用横截面数据估计出部分参

18、数，再利用首先利用横截面数据估计出部分参数，再利用时序数据估计出另外的部分参数，最后得到整时序数据估计出另外的部分参数，最后得到整个方程参数的估计。个方程参数的估计。注意：注意：这里包含着假设，即参数的横截面估计和这里包含着假设，即参数的横截面估计和从纯粹时间序列分析中得到的估计是一样的。从纯粹时间序列分析中得到的估计是一样的。(6).变量变换变量变换变量变换的主要方法：变量变换的主要方法：(1)计算相对指标计算相对指标(2)将名义数据转换为实际数据将名义数据转换为实际数据(3)将小类指标合并成大类指标将小类指标合并成大类指标(4)对数变换对数变换变量数据的变换有时可得到较好的结果，但无变量数

19、据的变换有时可得到较好的结果，但无法保证一定可以得到很好的结果。法保证一定可以得到很好的结果。2、逐步回归法、逐步回归法（1）用被解释变量对每一个所考虑的解释变量做简单）用被解释变量对每一个所考虑的解释变量做简单回归。回归。（2）以对被解释变量贡献最大的解释变量所对应的回）以对被解释变量贡献最大的解释变量所对应的回归方程为基础，按对被解释变量贡献大小的顺序逐归方程为基础，按对被解释变量贡献大小的顺序逐个引入其余的解释变量。个引入其余的解释变量。(a)(a)若新变量的引入改进了若新变量的引入改进了 和和 检验，且回归参检验，且回归参数的数的t t 检验在统计上也是显著的，则在模型中保检验在统计上

20、也是显著的，则在模型中保留该变量。留该变量。(b)(b)若新变量的引入未能改进若新变量的引入未能改进 和和 检验，且对其检验，且对其他回归参数估计值的他回归参数估计值的t t 检验也未带来什么影响，则检验也未带来什么影响，则认为该变量是多余变量。认为该变量是多余变量。(c)(c)若新变量的引入未能改进若新变量的引入未能改进 和和 检验，且显著检验，且显著地影响了其他回归参数估计值的数值或符号，同时地影响了其他回归参数估计值的数值或符号，同时本身的回归参数也通不过本身的回归参数也通不过t t 检验，说明出现了严重检验，说明出现了严重的多重共线性。的多重共线性。(d)(d)已被引入回归方程的变量在

21、引入新变量后，也已被引入回归方程的变量在引入新变量后，也可能失去重要性而被剔除。可能失去重要性而被剔除。六、案例分析案例分析一、研究的目的要求一、研究的目的要求提出研究的问题提出研究的问题为了规划中国未来国内旅游产业为了规划中国未来国内旅游产业的发展，需要定量地分析影响中国国内旅游市场发展的发展，需要定量地分析影响中国国内旅游市场发展的主要因素。的主要因素。二、模型设定及其估计二、模型设定及其估计影响因素分析与确定影响因素分析与确定影响因素主要有国内旅游影响因素主要有国内旅游人数人数 ，城镇居民人均旅游支出，城镇居民人均旅游支出 ，农村居民人，农村居民人均均旅游支出旅游支出 ，并以铁路里程，并

22、以铁路里程 作为相关基础设作为相关基础设施的代表施的代表 理论模型的设定理论模型的设定其中其中：第第 t 年全国国内旅游收入年全国国内旅游收入数据的收集与处理1994年年2011年中国旅游收入及相关数据年中国旅游收入及相关数据年份年份国国内内旅旅游游收收入入Y（亿元）（亿元）国国内内旅旅游游人人数数X2（万人次）（万人次）城城镇镇居居民民人人均均旅旅游游花花费费X3（元）（元）农农村村居居民民人人均均旅旅游游花花费费X4（元）（元）铁铁 路路 里里 程程X5（万公里）（万公里）19941023.552400414.754.95.9019951375.762900464.061.55.97199

23、61638.463900534.170.56.4919972112.764400599.8145.76.6019982391.269450607.0197.06.6419992831.971900614.8249.56.7420003175.574400678.6226.66.8720013522.478400708.3212.77.0120023878.487800739.7209.17.1920033442.387000684.9200.07.3020044710.7110200731.8210.27.4420055285.9121200737.1227.67.5420066229.741

24、39400766.4221.97.7120077770.62161000906.9222.57.8020088749.3 171200849.4 275.38.0 200910183.7 190200801.1 295.38.6 201012579.8 210300883.0306.09.1 201119305.4 264100877.8 471.49.3 该模型，可决系数较高，F检验值225.85,明显显著。但是当时、OLS OLS 估计的结果估计的结果不仅X5的系数不显著，而且X3、X5的符号与预期相反，这表明可能存在严重的多重共线性。计算各解释变量的相关系数计算各解释变量的相关系数表明各

25、解释变量间确实存在严重的线性关系表明各解释变量间确实存在严重的线性关系X2X3X4X5X21.0000000.8371350.8464170.962193X30.8371351.0000000.8241650.902770X40.8464170.8241651.0000000.884279X50.9621930.9027700.8842791.000000将每个解释变量分别作为被解释变量对其余的解释变量将每个解释变量分别作为被解释变量对其余的解释变量进行辅助回归，回归所得到的可决系数和方差扩大因子进行辅助回归，回归所得到的可决系数和方差扩大因子的数值见下表。的数值见下表。被解释变量被解释变量可

26、决系数可决系数 的值的值方差扩大因子方差扩大因子X20.931214.5349X30.83105.9172X40.78564.6642X50.961826.1780经验表明经验表明,方差扩大因子方差扩大因子 VIFj 10时，通常说明该解释变量与其余解释变时，通常说明该解释变量与其余解释变量之间有严重的多重共线性，这里量之间有严重的多重共线性，这里X2、X5的方差扩大因子远大于的方差扩大因子远大于10，表，表明存在严重多重共线性问题。明存在严重多重共线性问题。三、消除多重共线性三、消除多重共线性将各变量进行对数变换，再对以下模型进行估计将各变量进行对数变换，再对以下模型进行估计结果：结果：1.

27、1.可决系数很高可决系数很高2.F2.F检验显著性高检验显著性高3.3.系数都显著系数都显著4.4.所有解释变量所有解释变量的符号都与实际的符号都与实际意义相符意义相符最后消除多重共线性的结果最后消除多重共线性的结果四、回归结果的解释与分析四、回归结果的解释与分析该模型该模型 ，可决系数很高，可决系数很高，F F检验值检验值1540.781540.78，明显显著。，明显显著。所有系数估计值高度显著。所有系数估计值高度显著。另一案例另一案例中国粮食生产函数中国粮食生产函数根据理论和经验分析，影响粮食生产（Y）的主要因素有：农业化肥施用量（X1）；粮食播种面积(X2)成灾面积(X3);农业机械总动

28、力(X4);农业劳动力(X5)已知中国粮食生产的相关数据，建立中国粮食生产函数：Y=0+1 X1+2 X2+3 X3+4 X4+4 X5+u1 1、用、用OLS法估计上述模型法估计上述模型：R2接近于1；给定=5%，得F临界值F0.05(5,12)=3.11F=638.415.19，故认上述粮食生产的总体线性关系显著成立。但X4、X5的参数未通过t检验，且符号不正确，故解释变量间可能存在多重共线性解释变量间可能存在多重共线性。(-0.91)(8.39)(3.32)(-2.81)(-1.45)(-0.14)2 2、检验简单相关系数、检验简单相关系数n发现：发现：X1与X4间存在高度相关性。列出X

29、1，X2，X3，X4，X5的相关系数矩阵：3 3、找出最简单的回归形式、找出最简单的回归形式n可见，应选可见，应选第第1 1个式子个式子为初始的回归模型。为初始的回归模型。分别作Y与X1，X2，X3,X4，X5间的回归：(25.58)(11.49)R2=0.8919 F=132.1 DW=1.56 (-0.49)(1.14)R2=0.075 F=1.30 DW=0.12 (17.45)(6.68)R2=0.7527 F=48.7 DW=1.11 (-1.04)(2.66)R2=0.3064 F=7.07 DW=0.36 4 4、逐步回归、逐步回归 将其他解释变量分别导入上述初始回归模型，寻找最

30、佳回归方程。CX1X2X3X4X52RDWY=f(X1)308684.230.88521.56 t值25.5811.49Y=f(X1,X2)-438714.650.670.95582.01t值-3.0218.475.16Y=f(X1,X2,X3)-119785.260.41-0.190.97521.53t 值0.8519.63.35-3.57Y=f(X1,X2,X3,X4)-130566.170.42-0.17-0.090.97751.80t值-0.979.613.57-3.09-1.55Y=f(X1,X2,X3,X5)-126905.220.40-0.200.070.97981.55t值-0

31、.8717.853.02-3.470.37 回归方程以回归方程以Y=f(Y=f(X1，X2，X3)为最优：为最优：5 5、结论、结论第四章第四章 小结小结1.多重共线性是指各个解释变量之间有准确或近似多重共线性是指各个解释变量之间有准确或近似准确的线性关系。准确的线性关系。2.多重共线性的后果：多重共线性的后果：如果各个解释变量之间有完全的共线性，则它们的如果各个解释变量之间有完全的共线性，则它们的 回归系数是不确定的，并且它们的方差会无穷大。回归系数是不确定的，并且它们的方差会无穷大。如果共线性是高度的但不完全的，回归系数可估计，如果共线性是高度的但不完全的，回归系数可估计，但有较大的标准误

32、差。回归系数不能准确地估计。但有较大的标准误差。回归系数不能准确地估计。3.诊断共线性的经验方法：诊断共线性的经验方法：(1)表现为可决系数异常高而回归系数的表现为可决系数异常高而回归系数的t 检验不显检验不显著。著。(2)变量之间简单相关系数。多个解释变量时，较变量之间简单相关系数。多个解释变量时，较低的零阶相关也可能出现多重共线性，需要检查偏低的零阶相关也可能出现多重共线性，需要检查偏相关系数。相关系数。(4)如果如果 高而偏相关系数低，则多重共线性是可高而偏相关系数低，则多重共线性是可能的。能的。(5)用解释变量间辅助回归的可决系数判断。用解释变量间辅助回归的可决系数判断。4.降低多重共线性的经验方法：降低多重共线性的经验方法：(1)利用外部或先验信息；利用外部或先验信息；(2)横截面与时间序列数据并用；横截面与时间序列数据并用；(3)剔除高度共线性的变量剔除高度共线性的变量(如逐步回归如逐步回归)；(4)数据转换；数据转换；(5)获取补充数据或新数据；获取补充数据或新数据；(6)选择有偏估计量（如岭回归）。选择有偏估计量（如岭回归）。经验方法的效果取决于数据的性质和共线性的严经验方法的效果取决于数据的性质和共线性的严重程度。重程度。第第 四四 章章 结结 束束 了！了！