异方差与加权小二乘法.pptx

一、异方差的概念一、异方差的概念二、异方差的类型二、异方差的类型三、实际经济问题中的异方差性三、实际经济问题中的异方差性四、异方差性的后果四、异方差性的后果五、异方差性的检验五、异方差性的检验六、异方差的修正六、异方差的修正七、案例七、案例第1页/共51页什么是异方差？第2页/共51页(A)概率密度储蓄Y收入X储蓄Y与收入X：异方差的图形表示同方差(B)概率密度储蓄Y收入X异方差第3页/共51页（A)与(B)的比较：相同点：收入增加，储蓄平均来说也增加。不同点：（A）储蓄的方差在所有的收入水平上保持不变。（B）储蓄的方差随收入的增加而增加。解释：随收入增长，人们有更多的备用收入，从 而如何支配他们的收入有更大的选择范围。第4页/共51页对于模型如果出现即对于不同的样本点对于不同的样本点，随机误差项的方差不再随机误差项的方差不再是常数是常数，而互不相同而互不相同，则认为出现了则认为出现了异方差性(Heteroskedasticity)。一、异方差的概念一、异方差的概念第5页/共51页二、异方差的类型二、异方差的类型 同方差：i2=常数 f(Xi)异方差：i2=f(Xi)（注：方差与x有关）异方差一般可归结为三种类型：(1)单调递增型：i2随X的增大而增大 (2)单调递减型：i2随X的增大而减小 (3)复 杂 型：i2与X的变化呈复杂形式第6页/共51页第7页/共51页附：产生异方差的原因模型中缺少某些解释变量；从而干扰项产生系统模式。模型中缺少某些解释变量；从而干扰项产生系统模式。样本数据观测误差；随着数据采集技术的改进，干扰样本数据观测误差；随着数据采集技术的改进，干扰项的方差可能减少。项的方差可能减少。模型设置不正确；模型设置不正确；经济结构发生了变化，但模型参数没作相应调整。比经济结构发生了变化，但模型参数没作相应调整。比如按照边错边改学习模型，人们在学习的过程中，其如按照边错边改学习模型，人们在学习的过程中，其行为误差随时间而减少。行为误差随时间而减少。异常值的出现也会产生。异常值的出现也会产生。(通常，截面数据较时间序列数据更易产生异方通常，截面数据较时间序列数据更易产生异方差差)Why)Why？比如成员的大小不一，收入有大中小之分！？比如成员的大小不一，收入有大中小之分！第8页/共51页三、实际经济问题中的异方差性三、实际经济问题中的异方差性 例7.1.1：截面资料下研究居民家庭的储蓄行为:Yi=0+1Xi+iYi:第i个家庭的储蓄额 Xi:第i个家庭的可支配收入。高收入家庭：储蓄的差异较大 低收入家庭：储蓄则更有规律性，差异较小 i的方差呈现单调递增型变化。（注：随机干扰项的方差也就是Y的方差）第9页/共51页 例7.1.2，以绝对收入假设为理论假设、以截面数据为样本建立居民消费函数：Ci=0+1Yi+I 将居民按照收入等距离分成n组，取组平均数为样本观测值。第10页/共51页一般情况下，居民收入服从正态分布：中等收入组人数多，两端收入组人数少。而人数多的组平均数的误差小，人数少的组平均数的误差大。所以样本观测值的观测误差随着解释变量观测值的不同而不同，往往引起异方差性。第11页/共51页 例7.1.3，以某一行业的企业为样本建立企业生产函数模型：Yi=Ai1 Ki2 Li3ei 被解释变量：产出量Y 解释变量：资本K、劳动L、技术A，那么：每个企业所处的外部环境对产出量的影响被包含在随机误差项中。第12页/共51页 每个企业所处的外部环境对产出量的影响程度不同，造成了随机误差项的异方差性。这时，随机误差项的方差并不随某一个解释变量观测值的变化而呈规律性变化，呈现复杂型。第13页/共51页四、异方差性的后果四、异方差性的后果 计量经济学模型一旦出现异方差性，如果仍采用OLS估计模型参数，会产生下列不良后果：1.1.参数估计量非有效参数估计量非有效 OLS估计量仍然具有无偏性，但不具有有效性 因为在有效性证明中利用了 E()=2I 而且，在大样本情况下，尽管参数估计量具有一致性，但仍然不具有渐近有效性。第14页/共51页 2.2.变量的显著性检验失去意义变量的显著性检验失去意义 变量的显著性检验中，构造了t统计量 其他检验也是如此。第15页/共51页3.3.模型的预测失效模型的预测失效 一方面，由于上述后果，使得模型不具有良好的统计性质；所以，当模型出现异方差性时，参数OLS估计值的变异程度增大，从而造成对Y的预测误差变大，降低预测精度，预测功能失效。第16页/共51页 五、异方差性的检验五、异方差性的检验检验思路：检验思路：由于异方差性异方差性就是相对于不同的解释变量观测值，随机误差项具有不同的方差。那么：检验异方差性，也就是检验随机误差项的方检验异方差性，也就是检验随机误差项的方差与解释变量观测值之间的相关性及其相关的差与解释变量观测值之间的相关性及其相关的“形式形式”。第17页/共51页 问题在于用什么来表示随机误差项的方差问题在于用什么来表示随机误差项的方差 一般的处理方法：一般的处理方法：第18页/共51页几种异方差的检验方法：几种异方差的检验方法：1.1.图示法图示法（1）用X-Y的散点图进行判断 看是否存在明显的散点扩大散点扩大、缩小缩小或复杂复杂型趋势型趋势（即不在一个固定的带形域中）第19页/共51页看是否形成一斜率为零的直线第20页/共51页怎样通过Eviews作x-e2 散点图键入 LS y c x 作回归；键入 GENR E1=resid 调用残差；键入 GENR E2=E12 生成残差平方序列；键入 SCAT E2 X 如果呈现出某种有规律的分布，说明残差中蕴涵着模型（1）未提取净的信息，或（2）可能存在异方差或自相关，或（3）设定有误。当然也可以用菜单操作！第21页/共51页2.2.帕克帕克(Park)检验与戈里瑟检验与戈里瑟(Gleiser)检检验验 基本思想:尝试建立方程：或 选择关于变量X的不同的函数形式，对方程进行估计并进行显著性检验，如果存在某一种函数形式，使得方程显著成立，则说明原模型存在异方差性。（课本上P228-229有具体的函数形式）如：帕克检验常用的函数形式：第22页/共51页或若若 在统计上是显著的，表明存在异方差性在统计上是显著的，表明存在异方差性。注：即回归中看lnX前面的系数的t检验，通过就是异方差 3.3.戈德菲尔德戈德菲尔德-匡特匡特(Goldfeld-Quandt)(Goldfeld-Quandt)检验检验 G-Q检验以F检验为基础，适用于样本容量较大、异方差递增或递减的情况。第23页/共51页 G-QG-Q检验的思想检验的思想：先将样本一分为二，对子样和子样分别作回归，然后利用两个子样的残差平方和之比构造统计量进行异方差检验。由于该统计量服从F分布，因此假如存在递增的异方差，则F远大于1；反之就会等于1（同方差）、或小于1（递减方差）。第24页/共51页G-QG-Q检验的步骤：检验的步骤：将n对样本观察值(Xi,Yi)按观察值Xi的大小排队；将序列中间的c=n/4个观察值除去，并将剩下的观察值划分为较小与较大的相同的两个子样本，每个子样样本容量均为(n-c)/2；对每个子样分别进行OLS回归，并计算各自的残差平方和；第25页/共51页 在同方差性假定下，构造如下满足F分布的统计量第26页/共51页 给定显著性水平，确定临界值F(v1,v2)，若F F(v1,v2)，则拒绝同方差性假设，表明存在异方差。当然，还可根据两个残差平方和对应的子样的顺序判断是递增型异方差还是递减异型方差。第27页/共51页4 4.怀特（怀特（White）检验）检验 怀特检验不需要排序，且适合任何形式的异方差。怀特检验的基本思想与步骤（以二元为例）：然后做如下辅助回归第28页/共51页 可以证明，在同方差假设下：(*)R2为(*)的可决系数，h为(*)式解释变量的个数，表示渐近服从某分布。第29页/共51页注意：注意：辅助回归仍是检验与解释变量可能的组合的显著性，因此，辅助回归方程中还可引入解释变量的更高次方。如果存在异方差性，则表明确实与解释变量的某种组合有显著的相关性，这时往往显示出有较高的判定系数以及某一参数的t检验值较大。当然，在多元回归中，由于辅助回归方程中可能有太多解释变量，从而使自由度减少，有时可去掉交叉项。注：在Eviews中可以很方便地完成！第30页/共51页六、异方差的修正六、异方差的修正 模型检验出存在异方差性，可用加权最小加权最小二乘法二乘法（Weighted Least Squares,WLS）进行估计。加权最小二乘法的基本思想：加权最小二乘法的基本思想：加权最小二乘法加权最小二乘法是对原模型加权，使之变成一个新的不存在异方差性的模型，然后采用OLS估计其参数。第31页/共51页 例如，如果对一多元模型，经检验知：在采用OLS方法时:对较小的残差平方ei2赋予较大的权数；对较大的残差平方ei2赋予较小的权数。第32页/共51页新模型中，存在 即满足同方差性，可用OLS法估计。第33页/共51页 这就是原模型的加权最小二乘估计量加权最小二乘估计量，是无偏、有效的估计量。也就是把原来的解释变量和被解释变量都全除以 ，然后对变换后的变量做普通最小二乘法（OLS），那就变成对原来的变量的加权最小二乘法（WLS）。第34页/共51页但是往往我们并不知道这个方差，也就无法加权。所以我们常常进行假设，然后根据假设去加权。根据假设的不同，WLS也就可以有不同的具体做法。P232-235方法还是像知道方差一样。为未知的情况第35页/共51页举例第36页/共51页 注意：在实际操作中人们通常采用如下的经验方法：不对原模型进行异方差性检验，而是直接选择加权最小二乘法，尤其是采用截面数据作样本时。如果确实存在异方差，则被有效地消除了；如果不存在异方差性，则加权最小二乘法等价于普通最小二乘法。第37页/共51页七、案例七、案例中国农村居民人均消费函数中国农村居民人均消费函数 例7.1.4 中国农村居民人均消费支出主要由人均纯收入来决定。农村人均纯收入包括：(1)从事农业经营的收入；(2)包括从事其他产业的经营性收入(3)工资性收入；(4)财产收入；(4)转移支付收入。考察从事农业经营的收入从事农业经营的收入(X1 1)和其他收入其他收入(X2 2)对中国农村居民消费支出农村居民消费支出(Y)增长的影响:第38页/共51页表 7.1.1 中国 2001年各地区农村居民家庭人均纯收入与消费支出相关数据（单位：元）地区 人均消费 支出 Y 从事农业经营 的收入 1X 其他收入 2X 地区 人均消费 支出 Y 从事农业经营 的收入 1X 其他收入 2X 北 京 3552.1 579.1 4446.4 湖 北 2703.36 1242.9 2526.9 天 津 2050.9 1314.6 2633.1 湖 南 1550.62 1068.8 875.6 河 北 1429.8 928.8 1674.8 广 东 1357.43 1386.7 839.8 山 西 1221.6 609.8 1346.2 广 西 1475.16 883.2 1088.0 内蒙古 1554.6 1492.8 480.5 海 南 1497.52 919.3 1067.7 辽 宁 1786.3 1254.3 1303.6 重 庆 1098.39 764.0 647.8 吉 林 1661.7 1634.6 547.6 四 川 1336.25 889.4 644.3 黑龙江 1604.5 1684.1 596.2 贵 州 1123.71 589.6 814.4 上 海 4753.2 652.5 5218.4 云 南 1331.03 614.8 876.0 江 苏 2374.7 1177.6 2607.2 西 藏 1127.37 621.6 887.0 浙 江 3479.2 985.8 3596.6 陕 西 1330.45 803.8 753.5 安 徽 1412.4 1013.1 1006.9 甘 肃 1388.79 859.6 963.4 福 建 2503.1 1053.0 2327.7 青 海 1350.23 1300.1 410.3 江 西 1720.0 1027.8 1203.8 宁 夏 2703.36 1242.9 2526.9 山 东 1905.0 1293.0 1511.6 新 疆 1550.62 1068.8 875.6 河 南 1375.6 1083.8 1014.1 第39页/共51页普通最小二乘法的估计结果：第40页/共51页异方差检验第41页/共51页进一步的统计检验(1)G-Q检验 将原始数据按X2排成升序，去掉中间的7个数据，得两个容量为12的子样本。对两个子样本分别作OLS回归，求各自的残差平方和RSS1和RSS2：第42页/共51页子样本1：(3.18)(4.13)(0.94)R2=0.7068，RSS1=0.0648 子样本2：(0.43)(0.73)(6.53)R2=0.8339，RSS2=0.2729第43页/共51页计算F F统计量：F=RSS2/RSS1=0.2792/0.0648=4.31 查表 给定=5%，查得临界值 F0.05(9,9)=2.97判断 F F0.05(9,9)否定两组子样方差相同的假设，从而该总体随机项存在递增异方差性。第44页/共51页（2 2）怀特检验 作辅助回归:（-0.04 (0.10)(0.21)(-0.12)(1.47)(-1.11)R2=0.4638 似乎没有哪个参数的t检验是显著的。但 n*R2=31*0.4638=14.38=5%下，临界值 20.05(5)=11.07，拒绝同方差性。第45页/共51页去掉交叉项后的辅助回归结果 (1.36)(-0.64)(064)(-2.76)(2.90)R2=0.4374X2项与X2的平方项的参数的t检验是显著的，且 n R2=31 0.4374=13.56 =5%下，临界值 20.05(4)=9.49，拒绝同方差的原假设。第46页/共51页White检验回归结果的窗口中的View/Residual Tests/White Heteroskedasticity然后查看Obs*R的P值如果大于显著性水平就是同方差的，反之是有异方差的。第47页/共51页第48页/共51页第49页/共51页 原模型的加权最小二乘回归 对原模型进行OLS估计，得到随机误差项的近似估计量i，并以此构成随机干扰项的标准差的估计量；再以1/|i|为权重进行WLS估计，得（可以在软件中演示给大家看）各项统计检验指标全面改善第50页/共51页感谢您的观看。第51页/共51页