第五讲异方差和自相关ppt课件.ppt
异方差和自相关异方差和自相关变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分对于经典计量模型，我们的基本假设有：对于经典计量模型，我们的基本假设有：假设假设 对于解释变量的所有观测值，随机误差项对于解释变量的所有观测值，随机误差项有相同的方差。有相同的方差。 22)()(iiEVar1,2,.in( )( )( )()Var UEU EU U EUEUUnnEE11)( 21121nnnEI22211100)var(),cov(),cov()var(nnn变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分此时可得：此时可得：在存在异方差的情况下：在存在异方差的情况下：21( )()VarX X211( )()()VarX XXX X X因此，估计结果无偏，但不是有效的（随机误因此，估计结果无偏，但不是有效的（随机误差项方差变大）。差项方差变大）。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分误差项存在异方差：误差项存在异方差：U的方差的方差-协方差矩阵协方差矩阵Var(u)主对角线上的元素不相等主对角线上的元素不相等 。212220.00.0.00.n 变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分异方差是违背了球型扰动项假设的一种情形。异方差是违背了球型扰动项假设的一种情形。在存在异方差的情况下：在存在异方差的情况下：（1）OLS 估计量依然是无偏、一致且渐近估计量依然是无偏、一致且渐近正态的。正态的。（2）估计量方差）估计量方差Var(b|X) 的表达式不再是的表达式不再是2(XX)1，因为，因为Var(|X) 2I。（3）Gauss-Markov 定理不再成立，即定理不再成立，即OLS不再是最佳线性无偏估计（不再是最佳线性无偏估计（BLUE）。）。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分一般截面数据容易产生异方差一般截面数据容易产生异方差而时间序列数据容易产生自相关而时间序列数据容易产生自相关变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分异方差的检验异方差的检验1。残差图。残差图2。怀特检验。怀特检验3。Breusch-Pagan（BP）检验）检验4。 G-Q 检验检验 (Goldfeld-Quandt,1965)5。 Szroeters 秩检验秩检验(Szreter,1978)后两种现在已经基本不用。后两种现在已经基本不用。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分1。画图：散点图和残差图。画图：散点图和残差图。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分1。残差图：。残差图：rvfplot （residual-versus-fitted plot）rvpplot varname （residual-versus-predictor plot）作图命令一定要在回归完成之后进行作图命令一定要在回归完成之后进行rvfplot yline(0)变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分2。怀特检验：。怀特检验：变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分2。怀特检验命令：。怀特检验命令：做完回归后，使用命令：做完回归后，使用命令：estat imtest, white变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分Breusch and Pagan 检验检验根据异方差检验的基本思路，根据异方差检验的基本思路，Breusch and Pagan（1979）和）和Cook and Weisberg（1983）主要思路：用主要思路：用 ei2/avg(ei2) 对一系列可能导致对一系列可能导致异方差的变量作回归。异方差的变量作回归。2201122/().iikkieavg eaa Xa XaXu 变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分H0： a1=a2=.=0 （不存在）（不存在）H1： a1，a2.不全为不全为0 （存在）（存在）Step1：估计原方程，提取残差，并求其平方：估计原方程，提取残差，并求其平方ei2。Step2：计算残差平方和的均值：计算残差平方和的均值avg(ei2) 。Step3：估计方程，被解释变量为：估计方程，被解释变量为ei2/avg(ei2) ，解释变量依然为原解释变量。解释变量依然为原解释变量。Step4：构造统计量：构造统计量Score=0.5*RSS服从自由度为服从自由度为k的卡方分布。查表检验整个方程的显著性。的卡方分布。查表检验整个方程的显著性。 注意：在第注意：在第3步中，方便起见也可以用被解释变量的步中，方便起见也可以用被解释变量的拟合值作为解释变量。拟合值作为解释变量。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分3。BP 检验：做完回归后，使用命令：检验：做完回归后，使用命令：estat hettest ,normal（使用拟合值（使用拟合值y ）estat hettest,rhs （使用方程右边的解释变量，而（使用方程右边的解释变量，而不是不是y ）最初的最初的BP 检验假设扰动项服从正态分布，有一定局检验假设扰动项服从正态分布，有一定局限性。限性。Koenker（1981）将此假定放松为）将此假定放松为iid，在，在实际中较多采用，其命令为：实际中较多采用，其命令为：estat hettest, iidestat hettest, rhs iid变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分1.sysuse auto,clear reg price weight length mpg检查是否具有异方差。检查是否具有异方差。2。reg weight length mpg检查是否具有异方差。检查是否具有异方差。3。use production,clear reg lny lnk lnl检查是否具有异方差检查是否具有异方差变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分4。use nerlove,clearreg lntc lnq lnpl lnpf lnpk检验是否具有异方差检验是否具有异方差变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分异方差的处理异方差的处理1。使用。使用“OLS+异方差稳健标准误异方差稳健标准误”（robust standard error）：这是最简单，也是目前比较）：这是最简单，也是目前比较流行的方法。只要样本容量较大，即使在异方差流行的方法。只要样本容量较大，即使在异方差的情况下，只要使用稳健标准误，则所有参数估的情况下，只要使用稳健标准误，则所有参数估计、假设检验均可照常进行。计、假设检验均可照常进行。 sysuse nlsw88, clear reg wage ttl_exp race age industry hours reg wage ttl_exp race age industry hours, r变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分2。利用广义最小二乘法（。利用广义最小二乘法（GLS）广义最小二乘法是对原模型加权，使之变成一个新广义最小二乘法是对原模型加权，使之变成一个新的不存在异方差性的模型，然后采用普通最小二乘的不存在异方差性的模型，然后采用普通最小二乘法估计其参数。法估计其参数。其含义为其含义为Var(b) =2 (XX)-1(XX) (XX)-1 通过加权使得通过加权使得 =I因此，因此，GLS和和WLS要求要求已知。已知。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分加权最小二乘法（加权最小二乘法（WLS）：）：sysuse auto,clearreg price weight length foreignestat hettest,normal假设异方差由假设异方差由weight引起，即：引起，即：22*iilengthreg price weight length foreign aw=1/lengthestat hettest,normal变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分2212*(*)iiialengthaforeign在本题中，造成异方差的更可能是解释变量的线性组在本题中，造成异方差的更可能是解释变量的线性组合，例如：合，例如：此时需要下载命令此时需要下载命令wls0findit wls0wls0 price weight length foreign, wvar(length foreign) type(e2)estat hettest,normal变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分GLS和和WLS的一个缺点是假设扰动项的协方的一个缺点是假设扰动项的协方差矩阵为已知。这常常是一个不现实的假定。差矩阵为已知。这常常是一个不现实的假定。因此，现代计量经济学多使用因此，现代计量经济学多使用“可行广义最可行广义最小二乘法小二乘法”（FGLS）。）。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分可行广义最小二乘法可行广义最小二乘法FGLS(1) 对原方程用对原方程用OLS进行估计，得到残差项进行估计，得到残差项的估计的估计i ，(2) 计算计算ln(i2)(3) 用用ln(2)对所有可能产生异方差的的解对所有可能产生异方差的的解释变量进行回归，然后得到拟合值释变量进行回归，然后得到拟合值 i(4) 计算计算i = exp(i)(5) 用用1/ i 作为权重作为权重,做做WLS回归。回归。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分FGLS的步骤的步骤predict u,resgen lnu2=ln(u2)reg lnu2 x1 x2predict g,xbgen h=exp(g)gen invvar=1/hreg y x1 x2aweight=invvar使用使用FGLS方法对方法对nerlove.dta的方程重新进的方程重新进行估计。行估计。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分结论：结论：1. GLS估计是估计是BLUE的（如果的（如果 矩阵已知且矩阵已知且设置正确），但设置正确），但FGLS不一定是不一定是BLUE的的（ FGLS 估计时要事先估计估计时要事先估计 矩阵的参数，矩阵的参数，需要做一些假设）。需要做一些假设）。2. Robust稳健性估计更加稳健，而稳健性估计更加稳健，而FGLS更更加有效，选择时要在稳健性和有效性之间进行加有效，选择时要在稳健性和有效性之间进行权衡。权衡。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分在实际应用中，避免异方差的两种方法。其一，使在实际应用中，避免异方差的两种方法。其一，使不同变量的测度单位接近。比如，不同国家的收入不同变量的测度单位接近。比如，不同国家的收入和消费数据。如果利用总收入和总消费进行分析，和消费数据。如果利用总收入和总消费进行分析，由于不同国家的总量相差非常巨大，因此模型中难由于不同国家的总量相差非常巨大，因此模型中难免出现异方差。如果利用人均收入和人均消费进行免出现异方差。如果利用人均收入和人均消费进行分析，就可以使得减弱不同国家变量之间的测度差分析，就可以使得减弱不同国家变量之间的测度差异，从而降低异方差的程度甚至消除异方差。异，从而降低异方差的程度甚至消除异方差。其二，可能的情况下对变量取自然对数。变量取对其二，可能的情况下对变量取自然对数。变量取对数降低了变量的变化程度，因此有助于消除异方差。数降低了变量的变化程度，因此有助于消除异方差。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分自相关自相关经典假设经典假设 随机误差项彼此之间不相关随机误差项彼此之间不相关njiji, 2 , 1,如果存在自相关，则：如果存在自相关，则：0)(),(jijiECov( ,)0ijCOV u u 时间序列数往往存在着自相关，即：时间序列数往往存在着自相关，即：1( ,)0iiCOV u u( ,)0iikCOV u u一般时间序列数据中，一般时间序列数据中，i.i.d i.i.d 假设不成立假设不成立变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分如果存在自相关：随机误差项的方差如果存在自相关：随机误差项的方差-协方协方差矩阵的非主对角线上的元素不为差矩阵的非主对角线上的元素不为0 。1222121.1.( ).1nnnnVar u 变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分自相关包含一阶自相关和高阶自相关。自相关包含一阶自相关和高阶自相关。一阶自相关：一阶自相关：1tttuuv212.ttttuuuv高阶自相关：高阶自相关：变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分考察英国政府如何根据长期利率（考察英国政府如何根据长期利率（r20）的）的变化来调整短期利率（变化来调整短期利率（rs），数据集为），数据集为ukrates.dta（1）做如下回归：）做如下回归： ，其中：，其中：回归方程为：回归方程为： use ukrates,clear tsset month reg D.rs LD.r20 tttrrs1201tttrsrsrs211202020tttrrr变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分自相关的检验自相关的检验1。图形法：自相关系数和偏自相关系数。图形法：自相关系数和偏自相关系数 predict e1,res ac e1 pac e1 corrgram e1,lag(10)变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分2。t检验和检验和F检验检验(wooldridge)思想：思想：t检验，如果存在一阶自相关，残差项检验，如果存在一阶自相关，残差项与其一阶滞后项回归后系数显著，如果解释与其一阶滞后项回归后系数显著，如果解释变量非严格外生，回归时可加入解释变量。变量非严格外生，回归时可加入解释变量。 reg e1 L.e1 reg e1 L.e1 LD.r20 同理，可以用同理，可以用F检验检验是否存在高阶自相关检验检验是否存在高阶自相关 reg e1 L(1/2).e1变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分3。DW检验：只能检验一阶自相关的序列相检验：只能检验一阶自相关的序列相关形式，并且要求解释变量严格外生。关形式，并且要求解释变量严格外生。 根据样本个数和自由度查表得到根据样本个数和自由度查表得到DL和和DU，并，并且构造不同的区域。且构造不同的区域。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分reg D.rs LD.r20dwstatReject H0UncertaintyAccept H0UncertaintyReject H00DLDU4-DU4-DL4变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分经验上经验上DW值值1.8-2.2之间接受原假设，之间接受原假设，不存在一阶自相关。不存在一阶自相关。DW值接近于值接近于0或者接近于或者接近于4，拒绝原假，拒绝原假设，存在一阶自相关。设，存在一阶自相关。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分4。Q检验和检验和Bartlett检验检验 reg D.rs LD.r20 predict e2,res wntestq e2 wntestq e2,lag(2) wntestb e2变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分如果不能保证解释变量严格外生，例如解释变量如果不能保证解释变量严格外生，例如解释变量中包含被解释变量的滞后项，可以用以下方法：中包含被解释变量的滞后项，可以用以下方法：5。D-Ws h检验检验 estat durbinalt estat durbinalt,lag(2) 变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分6。对于高阶自相关的检验方法：。对于高阶自相关的检验方法：B-G检验检验 bgodfrey bgodfrey,lag(2)变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分自相关的处理自相关的处理1. 使用使用OLS+异方差自相关稳健的标准误异方差自相关稳健的标准误（HAC）方法被称为方法被称为Newey-West估计法（估计法（Newey and West，1987） reg D.rs LD.r20 newey D.rs LD.r20 ,lag(1)（假设存在一阶（假设存在一阶自相关）自相关） newey D.rs LD.r20 ,lag(2) （假设存在二阶（假设存在二阶自相关）自相关）系数完全相同，但标准差和系数完全相同，但标准差和t值不同。值不同。 变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分可行广义最小二乘法（可行广义最小二乘法（FGLS）：广义差分法：）：广义差分法： CO-PW方法方法Cochrane-Orcutt(1949) 估计估计(舍弃第一期观察值舍弃第一期观察值)Prais-Winsten(1954) 估计估计(对第一期观察值对第一期观察值进行处理进行处理 sqrt(1-rho2)*y1)变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分 Cochrane-Orcutt(1949) 估计估计(舍弃第一期观察舍弃第一期观察值值) prais D.rs LD.r20,corc prais D.rs LD.r20,rho(dw) corc Prais-Winsten(1954) 估计估计(对第一期观察值进行对第一期观察值进行处理处理 sqrt(1-rho2)*y1) prais D.rs LD.r20 prais D.rs LD.r20,rho(dw) 时间序列一般样本不会太大，因此不要轻易舍弃。时间序列一般样本不会太大，因此不要轻易舍弃。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分多重共线性多重共线性直观上说：当模型的直观上说：当模型的R2非常高，但多数解释变量都非常高，但多数解释变量都不显著，甚至系数符号相反，可能存在多重共线性不显著，甚至系数符号相反，可能存在多重共线性完全的多重共线性完全的多重共线性stata会自动会自动drop掉，例如掉，例如 gen dom=1-foreign reg price weight length foreign dom 多重共线性的检验：膨胀因子多重共线性的检验：膨胀因子 estat vif 经验上当经验上当 (1) VIF 的均值的均值 =2 (2) VIF 的最大值的最大值 接近或者超过接近或者超过10 认为有较为严重的多重共线性。认为有较为严重的多重共线性。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分多重共线性的处理多重共线性的处理1。不作处理：如果模型重点关注的是整体对被解。不作处理：如果模型重点关注的是整体对被解释变量的解释能力，而不是具体回归系数是否显著，释变量的解释能力，而不是具体回归系数是否显著，则可不处理。则可不处理。2。不作处理：如果存在多重共线性，但变量显著，。不作处理：如果存在多重共线性，但变量显著，此时消除多重共线性，只会使变量更加显著，此时此时消除多重共线性，只会使变量更加显著，此时可不作处理。可不作处理。3。删除引起多重共线性的某个变量。删除引起多重共线性的某个变量。4。合并引起多重共线性的变量，例如，。合并引起多重共线性的变量，例如，a和和b是引是引起多重共线性的变量，引入新变量起多重共线性的变量，引入新变量c=a/b，同时删，同时删除除a和和b。5。增大样本容量。增大样本容量。变电站电气主接线是指变电站的变压器、输电线路怎样与电力系统相连接，从而完成输配电任务。变电站的主接线是电力系统接线组成中一个重要组成部分 reg price mpg weight length foreign estat vif 还可以利用解释变量的相关系数还可以利用解释变量的相关系数 pwcorr mpg weight length foreign 结论：结论：weight和和length具有严重的多重共线性具有严重的多重共线性 可以考虑去掉可以考虑去掉weight。 reg price mpg length foreign estat vif pwcorr mpg length foreign 多重共线性基本消除多重共线性基本消除
