异方差的性质.ppt

第六章第六章 异方差异方差 异方差异方差一、异方差及其影响一、异方差及其影响二、假性异方差二、假性异方差三、异方差的发现和判断三、异方差的发现和判断四、异方差的克服和处理四、异方差的克服和处理引子：引子：更为接近真实的结论是什么？更为接近真实的结论是什么？根根据据四四川川省省20002000年年2121个个地地市市州州医医疗疗机机构构数数与与人人口口数数资资料料，分分析析医医疗疗机机构构与与人人口口数数量量的的关关系系，建建立立卫卫生生医医疗疗机机构构数数与与人人口数的回归模型。对模型估计的结果如下：口数的回归模型。对模型估计的结果如下：式式中中 表表示示卫卫生生医医疗疗机机构构数数（个个），表表示示人人口口数数量量（万人）。（万人）。模型显示的结果和问题模型显示的结果和问题 人口数量对应参数的标准误差较小；人口数量对应参数的标准误差较小；t统计量远大于临界值，可决系数和修正的可决系统计量远大于临界值，可决系数和修正的可决系 数结果较好，数结果较好，F检验结果明显显著；检验结果明显显著；表明该模型的估计效果不错，可以认为人口数量表明该模型的估计效果不错，可以认为人口数量 每增加每增加1 1万人，平均说来医疗机构将增加万人，平均说来医疗机构将增加5.37355.3735人。人。然而，这里得出的结论可能是不可靠的，平均说来每增加然而，这里得出的结论可能是不可靠的，平均说来每增加1 1万人口可能并不需要增加这样多的医疗机构，所得结论并万人口可能并不需要增加这样多的医疗机构，所得结论并不符合真实情况。不符合真实情况。有什么充分的理由说明这一回归结果不可靠呢？更为接近有什么充分的理由说明这一回归结果不可靠呢？更为接近真实的结论又是什么呢？真实的结论又是什么呢？一、异方差及其影响一、异方差及其影响异方差可以表示为异方差可以表示为 或或即对于不同的样本点，随机误差项的方差不再是常即对于不同的样本点，随机误差项的方差不再是常数，而互不相同，则认为出现了数，而互不相同，则认为出现了异方差性异方差性。异方差产生的原因异方差产生的原因普遍性：两类数据都有，横截面数据更多。普遍性：两类数据都有，横截面数据更多。原因：原因：1.按照边错边改学习模型，人们在学习过程中，其行为误按照边错边改学习模型，人们在学习过程中，其行为误差随时间而减少。在这种情形下，方差差随时间而减少。在这种情形下，方差 会逐渐变小。会逐渐变小。例如，随着打字练习小时数的增加，不仅平时打错的个例如，随着打字练习小时数的增加，不仅平时打错的个数而且打错的方差都有所下降。数而且打错的方差都有所下降。2.随着收入的增长，人们有更多的备用收入，从而如何支随着收入的增长，人们有更多的备用收入，从而如何支配他们的收入有更大的选择范围。因此，在作出储蓄对配他们的收入有更大的选择范围。因此，在作出储蓄对收入的回归时，很可能发现，由于人们对其储蓄行为有收入的回归时，很可能发现，由于人们对其储蓄行为有更多的选择，更多的选择，与收入俱增。因此，以增长为导向的公与收入俱增。因此，以增长为导向的公司比之于已发展定型的公司在红利支付方面也可能表现司比之于已发展定型的公司在红利支付方面也可能表现更多的变异。更多的变异。异方差产生的原因异方差产生的原因3.随着数据采集技术的改进，随着数据采集技术的改进，可能减小。例如，有可能减小。例如，有精巧数据处理设备的银行，在他们对账户的每月或精巧数据处理设备的银行，在他们对账户的每月或每季收支说明书中，比之于没有这种设备的银行，每季收支说明书中，比之于没有这种设备的银行，会出现更少的差错。会出现更少的差错。4.异方差还会异常值的出现而产生。异方差还会异常值的出现而产生。5.异方差还会因为模型的设定错误而产生。异方差还会因为模型的设定错误而产生。案例分析案例分析例例：截面资料下研究居民家庭的储蓄行为 Yi=0+1Xi+iYi:第i个家庭的储蓄额 Xi:第i个家庭的可支配收入 高收入家庭：储蓄的差异较大 低收入家庭：储蓄则更有规律性，差异较小i的方差呈现单调递增型变化的方差呈现单调递增型变化二、假性异方差二、假性异方差有些定式误差也会表现出异方差的特征有些定式误差也会表现出异方差的特征 例：真实关系为例：真实关系为 ，其中，其中 满足线性回归模型所有假设，包括满足线性回归模型所有假设，包括 和和 。如果误以为模型为如果误以为模型为 ，那么，那么 若记若记 则则异方差的危害异方差的危害1、参数估计量非有效、参数估计量非有效 OLS估计量仍然具有无偏性，但不具有估计量仍然具有无偏性，但不具有有效性有效性 因为在有效性证明中利用了因为在有效性证明中利用了 E()=2I 而且，在大样本情况下，尽管参数估而且，在大样本情况下，尽管参数估计量具有计量具有一致性一致性，但仍然不具有，但仍然不具有渐近有效渐近有效性。性。2、变量的显著性检验失去意义、变量的显著性检验失去意义变量的显著性检验中，变量的显著性检验中，构造了构造了t统计量统计量 其他检验也是如此。其他检验也是如此。3、模型的预测失效、模型的预测失效 一一方方面面，由由于于上上述述后后果果，使使得得模模型型不不具具有有良良好好的的统计性质；统计性质；所所以以，当当模模型型出出现现异异方方差差性性时时，参参数数OLS估估计计值值的的变变异异程程度度增增大大，从从而而造造成成对对Y的的预预测误差变大，降低预测精度，预测功能失效。测误差变大，降低预测精度，预测功能失效。三、异方差的发现和判断三、异方差的发现和判断检验思路：检验思路：由于由于异方差性异方差性就是相对于不同的解释变就是相对于不同的解释变量观测值，随机误差项具有不同的方差。量观测值，随机误差项具有不同的方差。那么：那么：检验异方差性，也就是检验随机误差项检验异方差性，也就是检验随机误差项的方差与解释变量观测值之间的的方差与解释变量观测值之间的相关性相关性及及其相关的其相关的“形式形式”。（一）残差序列分析（一）残差序列分析（二）戈德菲尔德（二）戈德菲尔德-夸特检验夸特检验（三）戈里瑟检验（三）戈里瑟检验（四）怀特检验（四）怀特检验（一）残差序列分析（一）残差序列分析(a)(b)(c)(d)(e)(f)（二）戈德菲尔德（二）戈德菲尔德-夸特检验夸特检验戈德菲尔德戈德菲尔德-夸特检验是最常用的异方差专门检夸特检验是最常用的异方差专门检验方法之一。这种方法适合于检验样本容量较大验方法之一。这种方法适合于检验样本容量较大的线性回归模型的递增或递减型异方差性。的线性回归模型的递增或递减型异方差性。对于存在递增异方差模型，步骤：首先将样本按对于存在递增异方差模型，步骤：首先将样本按X X值的大小顺序将观测值排列，然后略去居中的值的大小顺序将观测值排列，然后略去居中的C C个观测值，并将其余的个观测值，并将其余的(n-C)(n-C)个观测值分成两组，个观测值分成两组，每组每组(n-C)/2(n-C)/2个，分别对两个子样本进行回归，个，分别对两个子样本进行回归，并分别获得残差平方和，自由度都为（并分别获得残差平方和，自由度都为（n-C)/2-n-C)/2-K-1K-1。（二）戈德菲尔德（二）戈德菲尔德-夸特检验夸特检验计算统计量：计算统计量：如果如果 ，误差项存在明显的递增异方差，误差项存在明显的递增异方差性；性；如果如果 ，误差项没有明显的异方差性。，误差项没有明显的异方差性。（二）戈德菲尔德（二）戈德菲尔德-夸特检验夸特检验对于递减异方差性模型，检验的方法相似，对于递减异方差性模型，检验的方法相似，只要把前面构造的只要把前面构造的F统计量的分子分母互统计量的分子分母互换，就可以用同样的程序检验模型是否存换，就可以用同样的程序检验模型是否存在递减型的异方差问题。在递减型的异方差问题。但该方法的有效性还依赖于但该方法的有效性还依赖于C的选择，还的选择，还有，当模型出现多于一个有，当模型出现多于一个X变量时，就可变量时，就可以按任意一个以按任意一个X变量的大小顺序将观测值变量的大小顺序将观测值排列。排列。（三）戈里瑟检验（三）戈里瑟检验（三）戈里瑟检验（三）戈里瑟检验通常拟合通常拟合 和和 之间的回归模型：之间的回归模型：根据图形中的分布选择根据图形中的分布选择还可以拟合还可以拟合 和和 之间的回归模型之间的回归模型 （四）怀特检验（四）怀特检验怀特检验是通过建立辅助回归模型的方式来判断异方差的。怀特检验是通过建立辅助回归模型的方式来判断异方差的。不妨设回归模型为三变量线性回归模型：不妨设回归模型为三变量线性回归模型：怀特检验的具体步骤为：怀特检验的具体步骤为：（1）估计回归模型，得到每一个残差的平方）估计回归模型，得到每一个残差的平方 （2）估计辅助回归模型：）估计辅助回归模型：即将残差平方关于所有解释变量的一次项、二次项和交即将残差平方关于所有解释变量的一次项、二次项和交叉乘积项进行回归。若继续引入高次项会使自由度下降，叉乘积项进行回归。若继续引入高次项会使自由度下降，故一般只引入二次项。故一般只引入二次项。（四）怀特检验（四）怀特检验（3）得到辅助回归模型中的可决系数）得到辅助回归模型中的可决系数R的平方。可以证明，的平方。可以证明，在同方差的假定下，即在原假设为：在同方差的假定下，即在原假设为：渐进的有：渐进的有：自由度自由度q为辅助回归模型中解释变量的个数。为辅助回归模型中解释变量的个数。（4）对于给定的显著性水平，若）对于给定的显著性水平，若 ，则拒，则拒绝原假设，模型存在异方差性，反之，则认为不存在绝原假设，模型存在异方差性，反之，则认为不存在异方差性。异方差性。（四）怀特检验（四）怀特检验在在Eviews中首先对原模型进行回归，然后中首先对原模型进行回归，然后在窗口中点击在窗口中点击ViewResidual TestWhite Heteroskedasticity.此时可选择是否包含交叉乘积项，若是原模此时可选择是否包含交叉乘积项，若是原模型只包含一个解释变量，辅助回归模型中型只包含一个解释变量，辅助回归模型中就没有交叉乘积项，若是含有两个及两个就没有交叉乘积项，若是含有两个及两个以上解释变量，就应选择含有交叉乘积项。以上解释变量，就应选择含有交叉乘积项。四、异方差的克服和处理四、异方差的克服和处理如线性回归模型为如线性回归模型为经检验，误差项有如下异方差性经检验，误差项有如下异方差性可以用可以用 除模型各项，得到除模型各项，得到四、异方差的克服和处理四、异方差的克服和处理新模型的误差项方差为新模型的误差项方差为对新模型进行最小二乘估计的残差平方和对新模型进行最小二乘估计的残差平方和加权最小二乘法加权最小二乘法加权最小二乘法加权最小二乘法在上述公式中的在上述公式中的 =理解成权重，则构成了理解成权重，则构成了“加权最小二乘法加权最小二乘法”例例6-1在研究某地区居民的储蓄倾向时，得到了如表在研究某地区居民的储蓄倾向时，得到了如表61所示的数据所示的数据资料。判断用线性回归模型研究居民储蓄倾向时，误差项是否资料。判断用线性回归模型研究居民储蓄倾向时，误差项是否存在异方差，并给出处理的方法。存在异方差，并给出处理的方法。n储蓄S收入in储蓄收入n储蓄收入12345678910112641059013112210740650343158889887779210995410508109791191212747134991426915522167301213141516171819202122950779819122217021578165114001829220020171766318575196352116322880241272560426500276702830027430232425262728293031210516002250242025701720190021002300295602815032100325003525033500360003620038200I与与S的散点图的散点图对样本进行线性回归的结果对样本进行线性回归的结果 怀特检验结果怀特检验结果残差序列图残差序列图戈德菲尔德夸特检验戈德菲尔德夸特检验对第一个样本进行回归结果对第一个样本进行回归结果戈德菲尔德夸特检验戈德菲尔德夸特检验对第二个样本进行回归结果对第二个样本进行回归结果F749990.8/150867.94.97这两个统计量的自由度都为这两个统计量的自由度都为11119，查表，查表得显著性水平为得显著性水平为0.05的临界值为的临界值为F（9，9）3.18，而，而4.973.18，意味着两个残差平方和有，意味着两个残差平方和有显著差异，也就是原模型误差项有明显的异方差显著差异，也就是原模型误差项有明显的异方差性。性。戈里瑟检验戈里瑟检验常数项不显著，去掉再回归常数项不显著，去掉再回归戈里瑟检验戈里瑟检验戈里瑟检验戈里瑟检验戈里瑟检验戈里瑟检验由于根据残差序列图可看出回归残差的绝对值有随由于根据残差序列图可看出回归残差的绝对值有随X线性增长的趋势，因此考虑直接对模型做变换为线性增长的趋势，因此考虑直接对模型做变换为S/I的残差序列图的残差序列图S/i0.5的残差序列图的残差序列图S/E的残差序列图的残差序列图