计量经济学(回归模型的扩展-异方差自相关多重共线)教学内容.ppt

《计量经济学(回归模型的扩展-异方差自相关多重共线)教学内容.ppt》由会员分享，可在线阅读，更多相关《计量经济学(回归模型的扩展-异方差自相关多重共线)教学内容.ppt（106页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、计量经济学(回归模型的扩展-异方差自相关多重共线)1、异方差的定义、异方差的定义分析：分析：2(A)概率密度储蓄Y收入X 异方差的图形表示同方差(B)概率密度储蓄Y收入X异方差3 定义：对于模型如果出现即对于不同的解释变量的值对于不同的解释变量的值，随机误差项的方随机误差项的方差不再是常数差不再是常数，则认为出现了则认为出现了异方差性异方差性(Heteroskedasticity)。ikiki1iiXXXYmbbbb+=L221042、异方差性产生的主要原因（1）假性异方差模型遗漏了重要的变量模型函数形式的设定误差解决方法：通过设定正确的模型来解决。5（2）真正的异方差,随机因素的影响截面数据

2、中，波动(不确定性)与经济规模的比例关系。例如赚钱越多，消费的选择余地越大。时间序列中，波动的系统变化干中学的模型自回归条件异方差ARCH经验表明，横截面数据更易产生异方差性，我们主要研究横截面数据中的异方差问题63、异方差问题的后果计量经济模型一旦出现异方差，如果仍采用OLS估计模型参数，会产生以下后果OLS估计量仍然是线性、无偏的，但是OLS估计不再是有效估计。无法正确估计回归系数的标准差（参数估计的标准差出现偏差，有可能增大也可能偏小）T检验失效模型预测不准确（区间估计与随机误差项的方差有关）74、异方差性的检验、异方差性的检验为了检验模型是否存在异方差性，需要了解随机误差项取值的分布情

3、况。随机误差项取值无法观测，只能通过残差分布情况来推测随机误差项的分布特征8常用方法常用方法（1）图示检验法（2）戈德菲尔德-匡特检验（3）怀特检验（4）帕克检验和戈里瑟检验9（1 1）、图示检验法）、图示检验法相关图分析绘制Y X的散点图考察Y的离散程度与解释变量是否有相关关系Eviews实现Scat x Y1011残差序列分布图考察残差分布图的离散程度。不存在异方差时，参差序列均匀分布在横轴上下一定范围如果随I(Xi)的增大，残差分布增加、减少，则可能存在异方差如果呈现其他规律变化，可能是复杂异方差，也可能是参数变化或者函数设定偏差12(a)(b)13(c)(d)14(e)(f)15残差分

4、析图的eview实现(Sort X)Ls Y C XGenr E1=residGenr E2=abs(E1)或者genr E2=E1*E1Scat x E216（2）、戈德菲尔德-夸特（Goldfeld-Quandt）检验G_Q检验的适用范围：样本容量较大单调异方差（异方差递增或者递减）的情形。对于复杂异方差则无法应用检验思路17具体步骤：1)将样本观察值Xi按大小顺序排列2)将序列中间的c个观察值除去，并将剩下的观察值划分成大小相同的两个子样本，每个子样本的容量为(n-c）/23)对每个子样本分别求回归方程，并计算各自的残差平方和184）提出假设5）构造统计量 当H0成立时，如果 ，误差项存

5、在明显的递增异方差性；如果 ，误差项没有明显的异方差性。19G-Q检验的Eviews实现Sort XSmpl 1 x1Ls Y C X，求RSS1Smpl x2 n Ls Y C X,求RSS2计算F，查F临界值，并进行判断20G-Q检验缺点：无法确定具体形式，对于接下来如何解决异方差没有提供很好的建议对于复杂异方差不适用对于多元的情况，处理比较麻烦21（3）、怀特(white)检验 怀特检验的适用范围（优点）：任何形式的异方差（不仅限于单调异方差）对于多元模型也很方便可以初步推测异方差的形式。22例如：以二元回归模型为例：检验的思路：检验残差平方与所有解释变量的各种形式之间的相关性。23怀特

6、检验步骤（1）估计回归模型，并计算残差平方（2）估计辅助回归方程 即将残差平方关于所有解释变量的一次项，二次 项和交叉项回归。计算辅助回归的判定系数 ，可以证明：同方差假设下（），渐进地有：在给定的显著性水平下，如果24注意：注意：l辅助回归是残差平方（用以表示条件方差）与解释变量各种可能组合的显著性，因此，辅助回归方程中还可引入解释变量的更高次方。不过为了节省自由度，往往到两次就可以了。l在多元回归中，由于辅助回归方程中可能有太多解释变量，从而使自由度减少，有时可去掉交叉项。l检验的是辅助回归方程的整体显著性25White检验的eviews实现建立回归模型：LS Y C X检验异方差性：方程

7、窗口中 viewresidual testwhite heteroskedasticity26（4 4）、帕克（）、帕克（ParkPark）检验和）检验和 戈里瑟戈里瑟(Gleiser)Gleiser)检验检验为什么要进行Park和Gleiser检验White检验形式太过一般，为了具体化，和以后修正异方差的需要。基本思想:利用残差绝对值序列或残差平方序列，分别对Xi（的某种形式）进行一元辅助回归。由回归方程的显著性、拟合优度判断异方差存在。该检验的优点是可以近似给出异方差的具体形式。27帕克检验的模型形式：28通常拟合 和 之间的回归模型：戈里瑟检验形式29Park检验的Eviews实现Ls

8、Y C XGENR LNE2=LOG(RESID2)GENR LNX=LOG(X)LS LNE2 C LNX30Gleiser检验的Eviews实现Ls Y C XGENR E=ABS(RESID)GENR X1=*(如：1/X，x*x等）LS E C X1315、异方差性的解决办法、异方差性的解决办法如果是假性异方差模型遗漏重要变量函数形式设定不当（比如可以取对数）首先修正模型，若检验后发现异方差不存在了，说明原来的异方差是假性异方差。模型修正后就已经解决。325、异方差性的解决办法、异方差性的解决办法如果是真正的异方差（通过模型修正无法改善异方差的情形），利用增长率模型，将与规模有关的异方

9、差去除或减弱。模型变换法加权最小二乘法（WLS）33（1）、模型变换法）、模型变换法思想：通过对存在异方差的总体回归方程作适当的代换使之成为满足同方差假定的模型，然后用OLS估计。变换的关键是事先对异方差 的具体形式有一个合理的假设。若其中2为常数,是不变方差，将上述回归模型两边除以 ，化为同方差（方差为 ）34假设原模型为：变换为新模型：新模型的变量：新模型的随机误差项的方差：35注意：模型的变换在相差一个常数的基础上，都可以化为同方差模型。对于变换后的模型，其方差是满足同方差的随机变量，故可以对模型实施普通最小二乘法估计。对新模型进行最小二乘估计的残差平方和的实质：(加权最小二乘)36。例

10、：当f(Xi)取下列形式时，如何进行模型变换：1、2、3、37（2）、加权最小二乘法（WLS)在一元线性回归分析法中，对各点的残差平方和所提供的信息的重要程度是一视同仁的，它们在决定参数估计的过程中所起的作用是相同的（取了相同的权数）。在异方差的情况下，合理的做法是：对于较大的残差平方赋予较小的权重，而对于较小的残差平方则赋予较大的权重，这样可以提高参数估计的精度。在异方差存在的情况下，WLS估计量才是最优线性无偏估计量（BLUE）38几点说明：例如，模型变换时?理解成权重，则构成了“加权最小二乘法”事实上权数可以选取任一变化趋势与异方差的趋势相反的变量序列396、案例分析40二、自相关问题及

11、解决办法二、自相关问题及解决办法1、自相关性的定义2、自相关性产生的原因3、自相关性的后果4、自相关性的检验5、自相关性的解决方法6、案例分析411、自相关的定义、自相关的定义自相关的概念：如果对于不同的样本点，随机误差项之间存在自相关性，则认为出现了误差序列相关（自相关）,即：422、自相关性产生的原因假性自相关：模型中遗漏了重要的解释变量模型函数形式的设定误差真正的自相关经济惯性（例如：本期投资与前年的投资有关）随机因素的影响的持续性（例如：自然灾害，金融危机等）43OLS估计虽然是线性无偏的，但不再是有效的估计。OLS估计的标准误差估计不再准确。参数显著性 t 检验失效模型预测精度下降3

12、、自相关问题的后果444、自相关的检验、自相关的检验（1）自相关的表示形式：P阶自相关：称为s阶自相关系数。是满足基本假定的随机变量。45一阶自相关误差序列相关比较基本和重要类型（为什么重视一阶自回归？）：这里是自相关系数，|1 0时为正自相关，0时为负自相关。是满足基本假定的随机变量。46（2）、自相关的检验）、自相关的检验、残差序列图分析误差序列随时间变化如果ei随时间变化呈有规律的变化，说明存在自相关。47误差序列自相关残差分布图48、偏相关系数检验、偏相关系数检验偏相关系数是衡量多个变量之间相关程度的重要指标，可以用它来判断自相关性的类型。只要有一个自相关系数显著不为零，就存在自相关。

13、利用eviews可以方便的进行(见92页)方程窗口viewresidual testcorrelogram-Q-statistics49、德宾沃森（、德宾沃森（Durbin-Walson)检验检验DW检验适用条件随机项一阶自相关解释变量与随机项不相关样本容量比较大50DW检验的原理 对线性回归模型 如果误差项有一阶自回归问题，那么 其中的 ，是均值为0的独立同分布随机变量。51根据 和 的性质，有因此52考虑与 有密切关系的DW统计量53因为 所以D-W统计量的值域并且:54检验误差序列正自相关性DW检验区域图一阶自相关 无法判断 无一阶自相关性 无法判断 一阶负自相关 Durbin-Wats

14、on根据样本容量n 和解释变量数目k,在给定的 显著性水平下,建立了D-W统计量的下临界值dL和上临界值dU.55 0ddL,拒绝H0，接受H1。存在一阶正自相关，并且d越靠近0，正自相关越强。4dL d 4,拒绝H0，接受H1。存在一阶负自相关，并且d越靠近4，负自相关越强。dU d 4-dU,接受H0，拒绝H1。不 存在一阶自相关，并且d越靠近2，无相关把握越大。dLddU 或 4-dUd4-dL,不能确定是否存在自相关。56D-W检验的局限性：只适用一阶自回归，不适合高阶自回归不适用解释变量与随机项相关的模型（当有滞后变量作为解释变量时，DW有趋向2的趋势）。需要利用Durbin-h统计

15、量进行判断D-W检验存在两个不能确定的区域，一旦d落入这两个区域，要通过其他方法（或者增加样本数据，或者重新取样，或者用其他检验方法。）Eviews直接给出DW值57、布罗斯戈弗雷检验（Breusch-Godfrey），又称拉格朗日乘数检验（LM检验）简称B-G检验，或LM（lagrange multiphcator)检验分析：对于模型设自相关形式为：假设 ，即不存在自相关性。实际操作中，用 代替58检验步骤用OLS方法估计模型，得残差序列将 关于所有解释变量和残差的滞后值 进行回归，并计算出辅助回归模型的判定系数59检验步骤布罗斯和戈弗雷证明，在大样本情况下，渐近的有：在给定的显著性水平下，

16、60布罗斯戈弗雷检验的eviws实现在方程窗口中，viewresidual testserial correlation LM test需要人为设定滞后期长度，一般从s=1开始，多试几次，比如直到s=10左右。如果检验结果均不显著，则可以认为不存在自相关性。61案例分析（一）案例分析（一）P91【例3】自相关问题的检验625、自相关性的解决方法假性自相关：模型遗漏重要变量模型函数形式设定不当首先修正模型，若检验后发现自相关不存在了，说明原来的自相关假性自相关。模型修正后就已经解决63真正的自相关：广义差分方法（是GLS方法的一种特例）64（一）广义差分法（一）广义差分法（1）相关系数已知时，直

17、接利用广义差分法）相关系数已知时，直接利用广义差分法设线性回归模型为已知 有一阶自相关性，即 把滞后一期的观测值代入变量关系，得方程：可得令 ，根据 可得如果记 ，所以上式为65（2）、相关系数未知时，）、相关系数未知时，先估计相关系数，再采用广义差分先估计相关系数，再采用广义差分根据估计相关系数方法的不同，可以分为下面几种方法：66、近似估计法、近似估计法近似估计法1：然后再利用广义差分方法。67近似估计法2：对于小样本，Theil给出以下近似公式：K为解释变量个数。然后再利用广义差分方法 68近似估计法3：利用残差代替随机误差项，计算再利用广义差分方法69、科克兰内、科克兰内奥克特迭代方法

18、奥克特迭代方法步骤:S1.根据样本观察值数据,用OLS方法估计模型,得到样本回归方程S2.计算残差et,作为ut 的估计.S2.用OLS方法求的初次估计值70S4用 对原模型进行广义差分变换，作第一次迭代。得广义差分模型用OLS方法估计模型，得到残差序列 并进行自相关检验。如果无自相关，迭代结束，求得 如果存在自相关，则重复进行上述工作：S5.计算的第二次估计值，S6.用 对原模型进行广义差分变换，作第二次迭代。得广义差分模型同样的过程可以重复进行，直到 收敛，或达到迭代的预定上限。71、搜索估计法、搜索估计法又称为希尔德雷思卢估计法。在区间-1,1中按照一定间隔选取相关系数然后利用每个 进行

19、广义差分变换，估计相应的广义差分模型并计算每个模型的残差平方和从所有模型中选取一个使残差平方和最小的模型，作为最佳模型。对应的 即为所估计的该方法的特点：保证使得残差平方和总体最小，而达到最优。而迭代方法可能仅是局部最优（与初始值有关）72广义差分方法的广义差分方法的eviews实现实现用OLS估计模型，得残差序列根据残差序列判断自相关的类型利用广义差分法估计模型 LS Y C X AR(1)可以对迭代过程进行控制 方程窗口中,estimate按扭对话框中options在迭代程序对话框中输入最大迭代次数或收敛精度。73（3）广义差分法案例分析74（二）广义最小二乘法GLS（略）、GLS的基本思

20、想 就是通过对总体方差协方差矩阵的分解，将回归的残差转变成满足古典假定的残差，然后使用OLS估计。可见WLS与广义差分都是的特例75、GLS估计由于是一个正定的对称矩阵，由矩阵代数的知识，我们知道存在一个满秩矩阵P，使得76在古典回归方程两边同乘，得到或者可见77显然变换后的模型满足古典假定，因此可以用OLS对该式进行估计。得到如下结果783、（可行的GLS）p如果已知，那么GLS就是最优的估计方法p如果未知。必须先对矩阵进行估计，得到 ，然后再按照上述GLS的方法对回归模型进行估计，称为FGLS估计。79 三、多重共线性三、多重共线性1、完全多重共线性2、多重共线性的定义3、多重共线性产生的

21、原因4、多重共线性的后果5、多重共线性的检验6、多重共线性的解决方法7、案例801、完全多重共线性 定义：多元线性回归模型中的解释变量之间，存在严格的线性关系。81 对于多元线性回归模型 解释变量之间存在较强的线性关系。或者说存在一组不全为0的常数 ，使得p违反了基本假定811、完全多重共线性原因：通常是模型设定的失误后果：此时无法唯一解出确定的参数估计值，估计的方差无穷大检验：出错提示解决：可以放弃部分解释变量。82（1）（近似）多重共线性定义（注意修正书上P107-108的说法）对于多元线性回归模型 解释变量之间存在较强的线性关系。或者说存在一组不全为0的常数 ，使得p不违反基本假定2、多

22、重共线性及产生原因83（2）多重共线性的原因变量之间的内在联系(如劳动和资本投入在数量上的必然联系）经济变量变化趋势的“共向性”（比如经济繁荣时经济指标趋向增长）滞后变量的引入样本资料的原因。可见，经济变量之间总存在一定程度的线性相关，因此，问题不是多重共线性的有无，而是多重共线性的严重程度。3、多重共线性产生的原因844、多重共线性的后果多重共线性的后果好消息！近似多重共线性不违反任何假设。可以得到参数估计值。OLS估计量仍旧是唯一的，最小方差的线性无偏估计量。854、多重共线性的后果多重共线性的后果后果增大OLS估计的方差，使得参数估计不稳定，异常值多。难以区分每个解释变量的单独影响t检验

23、的可靠性降低。（单个参数的t检验不显著，甚至符号相反。）回归模型缺乏稳定性865、多重共线性的检验 多重共线性并不违反经典假设，多重共线性普遍存在，因此对于不严重的多重共线性我们无需处理，只有当多重共线性比较严重时才需要处理。所以我们检验的不是多重共线性的有无，而是多重共线性的强弱。下面给出的不是严格的统计方法,而是基于经验的判断。87 (1)、相关系数检验主要针对两个解释变量的情况。一般，如果两个解释变量简单相关系数比较高（如，大于0.8)，可以认为存在较严重的多重共线性注意，该方法对解释变量多于两个时，不一定有效。此时变量之间两两相关系数很低，也可能存在严重的多重共线性。88(2)、辅助回

24、归模型检验当模型解释变量个数多于两个，而且呈现复杂相关关系时采用用每一个解释变量对其他解释变量构造辅助回归方程来检验多重共线性。如果方程整体显著（F)，则表明存在多重共线性。若有 ,则怀疑有多重共线性看辅助回归方程的拟合度 的大小。89(3)方差膨胀因子检验分析思路：多重共线性使得参数估计方差放大。通过考察参数估计被放大的程度，判断模型存在多重共线性的程度。可以推出，在多元回归中有:90当 时，当 时，方差扩大因子，记作常以方差扩大因子是否大于10来判断第j个解释变量是否存在较强的、必须加以处理的多重共线性。对应的辅助方程的判决系数为0.991R200.50.80.90.950.980.990

25、.999VIF1251020501001000当完全共线时，R21，VIF无穷大92与VIF等价的指标。“容许度”判别显然，一般当TOL0.1，认为模型存在较严重的多重共线性。93看参数估计量的符号、数值是否与理论相符和？如果与定性分析结果违背，可能可能存在多重共线性。（当然也可能模型设定出现了问题）若回归整体显著性F拒绝H0，但参数t检验多数都不显著。当增加或者剔除一个解释变量，回归参数的估计值和标准差发生较大变化。(4)、直观判断94(5)特征值检验(略）根据矩阵代数知识，矩阵的特征值为矩阵的特征根的乘积。956、多重共线性的解决方法基本原则如果建模目的是预测，则模型的拟合优度较高，并且相

26、关关系保持不变，就可以忽略多重共线性问题。如果建模目的是结构分析，则需要消除多重共线性的影响。引起多重共线性的原因是模型存在相关的解释变量，因此消除多重共线的根本方法只能是删除这些变量，但剔除变量要要谨慎。否则，去掉了重要的变量，经济意义不合理，或者模型设定出现偏误。96(1)扩大或改变样本原理：多重共线是一种样本现象。可以从样本入手。样本容量越大，变量相关性越小，相关越难。o增加样本容量o采用面板数据o增加数字的字长，进行双精度计算o该方法的局限：o由于资料收集以及调查的困难，改变样本、增加样本容量在实践中有时并不容易。o如果新增加的样本数据与原来具有相同的性质，那么就无法起到作用。可以利用

27、面板数据加以克服。97(2)、从解释变量角度，剔除次要变量、从解释变量角度，剔除次要变量如果考虑了过多的解释变量，其中有些可能是无显著作用的次要变量，可以直接去除。可能引起模型设定误差，违反其他假定。可以借助统计方法帮助选择。首先将变量按照重要程度排序然后逐步添加解释变量。基于t检验,，AIC,SC等准测。98（3 3）逐步回归法）逐步回归法用被解释变量对每一个所考虑的解释变量回归。以对被解释变量贡献最大的解释变量所对应的方程为基础，按照对被解释变量贡献大小，逐个引入其余变量。要求，模型的每个解释变量影响显著，参数符号正确，有所提高如此下去，直至无法加入新的变量为止。99(4)(4)、模型改造

28、和变量替换、模型改造和变量替换将名义变量替换为实际变量。因为名义变量之间由于价格关系可能存在多重共线性问题利用相对数量例如研究需求函数时100、利用先验信息约束估计例：生产函数 ，经对数变换为：如果预先知道所研究的经济有规模报酬不变的性质，即函数中的参数满足 就可以克服多重共线性。101混合估计 混合估计：利用其他方法（如专家调查）估计出部分参数，带入模型。整理后可以建立一个新的模型。然后对新模型进行估计。102混合估计例子例：研究需求规律的模型 可以先求出模型中参数 的估计值（用截面数据等）。前一个模型变为 整理这个模型可以得到 从而估计出 和 的估计值 和 ，得到克服了多重共线性的回归直线103（5）主成分回归主成分回归的思想利用主成分方法将解释变量转换成若干个互不相关的主成分将被解释变量关于这些主成分回归再根据主成分与解释变量的对应关系，求得原回归模型的估计方程104案例分析P118。例7105此课件下载可自行编辑修改，仅供参考！此课件下载可自行编辑修改，仅供参考！感谢您的支持，我们努力做得更好！谢谢感谢您的支持，我们努力做得更好！谢谢