《异方差讲解》PPT课件.ppt

第五章第五章 异方差性异方差性Heteroskedasticity一、异方差性的概念一、异方差性的概念二、异方差性的后果二、异方差性的后果三、异方差性的检验三、异方差性的检验四、异方差性的估计四、异方差性的估计五、案例五、案例o 回回归归分分析析，是是在在对对线线性性回回归归模模型型提提出出若若干干基基本本假假设设的的条条件件下下，应应用用普普通通最最小小二二乘乘法法得得到到了了无无偏偏的的、有有效效的参数估计量。的参数估计量。o 但但是是，在在实实际际的的计计量量经经济济学学问问题题中中，完完全全满满足足这这些些基本假设的情况并不多见。基本假设的情况并不多见。o 如如果果违违背背了了某某一一项项基基本本假假设设，那那么么应应用用普普通通最最小小二二乘乘法法估估计计模模型型就就不不能能得得到到无无偏偏的的、有有效效的的参参数数估估计计量量，OLSOLS法失效，这就需要发展新的方法估计模型。法失效，这就需要发展新的方法估计模型。o如如果果随随机机误误差差项项序序列列不不具具有有同同方方差差性性，即即出出现现异异方方差性。差性。说说 明明一、异方差的概念一、异方差的概念 1 1、异方差的概念、异方差的概念回忆同方差性回忆同方差性（homoscedasticity)同方差矩阵假定：模型的假定条件同方差矩阵假定：模型的假定条件 给出给出Var(u)是一个是一个对角矩阵，且主对角线上的元素都是常数且相等。对角矩阵，且主对角线上的元素都是常数且相等。Var(u)=E(u u)=2I=即即对对于于不不同同的的样样本本点点，随随机机误误差差项项的的方方差差不不再再是是常数，则认为出现了常数，则认为出现了异方差性异方差性。(A)概率密度储蓄Y收入X储蓄Y与收入X：异方差的图形表示同同方方差差(B)概率密度储蓄Y收入X异异方方差差2 2、异方差的类型、异方差的类型oo同同方方差差性性假定的意义是指每个i围绕其零平均值的变差，并不随解释变量X的变化而变化，不论解释变量观测值是大还是小，每个i的方差保持相同，即oi2=constconsto在异异方方差差的情况下，i2已不是常数，它随X的变化而变化，即oi2=f(Xf(Xi i)异方差一般可归结为三种类型：异方差一般可归结为三种类型：（1）单调递增单调递增单调递增单调递增型：i2随X的增大而增大；（2）单调递减单调递减单调递减单调递减型：i2随X的增大而减小;（3）复复复复 杂杂杂杂 型：i2与X的变化呈复杂形式。例子1、同方差 2、单调递增型 3、单调递减性 4、条件自回归型 o（1）模型中缺失缺失缺失缺失了某些解释变量解释变量解释变量解释变量oo服装需求函数模型服装需求函数模型服装需求函数模型服装需求函数模型o服装需求量为被解释变量，收入、服装价格和其他商服装需求量为被解释变量，收入、服装价格和其他商品价格为解释变量，于是有：品价格为解释变量，于是有：oi=1,2,ni=1,2,no在该模型中，气候因素没有包括在解释变量中，其影在该模型中，气候因素没有包括在解释变量中，其影响被包含在随机误差项中。如果该项影响构成随机误响被包含在随机误差项中。如果该项影响构成随机误差项的主要部分，则可能出现异方差性。差项的主要部分，则可能出现异方差性。o为什么？为什么？3 3、实际经济问题中的异方差性、实际经济问题中的异方差性oo解释：解释：解释：解释：o对于对于不同的样本点不同的样本点不同的样本点不同的样本点，即对于不同的收入的消费者，由，即对于不同的收入的消费者，由于气候变化带来的对服装需求量的影响是不同的。于气候变化带来的对服装需求量的影响是不同的。高高高高收入者收入者收入者收入者在气候变化时可以拿出在气候变化时可以拿出较多较多较多较多的钱购买服装以适的钱购买服装以适应气候的变化，而应气候的变化，而低收入者低收入者低收入者低收入者的适应能力则很有限。于的适应能力则很有限。于是不同收入的消费者的服装需求量是不同收入的消费者的服装需求量偏离均值偏离均值偏离均值偏离均值的程度是的程度是不同的，也就是说不同收入的消费者的服装需求量具不同的，也就是说不同收入的消费者的服装需求量具有有不同的方差不同的方差不同的方差不同的方差，这就产生了异方差性。更进一步分析，这就产生了异方差性。更进一步分析，在这个例子中，随机误差项的方差是随着解释变量在这个例子中，随机误差项的方差是随着解释变量（收入）的观测值的增大而增大。（收入）的观测值的增大而增大。oo单调递增型单调递增型单调递增型单调递增型（2）样本数据的观测观测观测观测误差 例如，例如，以绝对收入假设为理论假设、以截面数据作样本建以绝对收入假设为理论假设、以截面数据作样本建立居民消费函数：立居民消费函数：C Ci i=0 0+1 1I Ii i+i i 将居民按照收入等距离分成将居民按照收入等距离分成n n组，取组平均数为样本观测值。组，取组平均数为样本观测值。居民消费模型居民消费模型居民消费模型居民消费模型 一一般般情情况况下下：居居民民收收入入服服从从正正态态分分布布，处处于于中中等等收收入入组组中中的的人人数数最最多多，处处于于两两端端收收入入组组中中的的人人数数最最少少。而而人人数数多多的的组组平平均均数数的的误误误误差差差差小小小小，人人数数少少的的组组平平均均数数的的误误误误差差差差大大大大。所所以以样样本本观观测测值值的的观观测测误误差差随随着着解解释释变变量量观观测值的增大而先减后增。测值的增大而先减后增。如如果果样样本本观观测测值值的的观观测测误误差差构构成成随随机机误误差差项项的的主主要要部部分分，那那么么对对于于不不同同的的样样本本点点，随随机机误误差差项项的的方方差差随随着着解解释释变变量量观观测测值值的的增增大大而而先先减减后后增增（即即U U U U型型考考虑虑到到收收入的正态分布入的正态分布），出现了异方差性。），出现了异方差性。以某一行业的企业为样本建立企业生产函数模型以某一行业的企业为样本建立企业生产函数模型Y Yi i=A=Ai i 1 1 K Ki i 2 2 L Li i 3 3e e i i产产出出量量为为被被解解释释变变量量，选选择择资资本本、劳劳动动、技技术术等等投投入入要要素素为为解解释释变变量量，那那么么每每个个企企业业所所处处的的外外外外部部部部环环环环境境境境对对产产出出量量的的影影响被包含在随机误差项中。响被包含在随机误差项中。由于每个企业所处的由于每个企业所处的外部环境外部环境外部环境外部环境(宏观经济政策等等宏观经济政策等等宏观经济政策等等宏观经济政策等等)对对产出量的影响程度不同，造成了随机误差项的异方差性。产出量的影响程度不同，造成了随机误差项的异方差性。企业生产函数模型企业生产函数模型企业生产函数模型企业生产函数模型 这时，随机误差项的方差并不随某一个解释变量观测这时，随机误差项的方差并不随某一个解释变量观测值的变化而呈规律性变化，为值的变化而呈规律性变化，为复杂型复杂型复杂型复杂型的一种。的一种。3 3、实际经济问题中的异方差性、实际经济问题中的异方差性o（1）模型中缺失缺失了某些解释变量解释变量o（2）样本数据的观测误差o补充：o(1)时间序列数据和截面数据中都有可能存在异方差。o(2)经济时间序列中的异方差常为递增型异方差。金融时间序列中的异方差常表现为自回归条件异方差。二、异方差性的后果二、异方差性的后果o1、参数估计量非有效o2、变量的显著性检验失去意义o3、模型的预测失效1 1、参数估计量非有效、参数估计量非有效o 普通最小二乘法参数估计量仍然具有线性仍然具有线性性、无偏性和一致性性、无偏性和一致性，但不具有有效性不具有有效性。因为在有效性证明中利用了E(UU)=2I （同方差条件）（同方差条件）（同方差条件）（同方差条件）o而且，在大样本情况下，参数估计量仍仍然然不具有渐近有效性。不具有渐近有效性。以一元线性回归模型为例进行说明：以一元线性回归模型为例进行说明：（1 1）仍存在无偏性：证明过程与方差无关）仍存在无偏性：证明过程与方差无关由于 iiiXYmbb+=10 的参数1b的 OLS 估计量1b为：iiiiiiixxkYkmbmbb+=+=2111故 1211)()()(bmbb=+=iiiExxEE（2 2）不具备）不具备最小方差性最小方差性由于 =-=222222111)()()()()var(iiiiiixxExxEEmmbbb 2222)()(=iiixExm （注：交叉项)(,jjiijijixxmm的期望为零）在im为同方差的假定下，22)()var(smm=iiE =2222221)()var(iiixxxssb在im存在异方差的情况下 )()()var(222iiiiXfEssmm=假设2)(iiXXf=，并且记异方差情况下1b的 OLS 估计为1b，则 =2222222221)()()var(iiiiiiixXxxxXfxssb对大多数经济资料有：1222iiixXx，因此)var()var(11bb当然，有时也有相反的情况出现。2 2、变量的显著性检验失去意义、变量的显著性检验失去意义在该统计量中包含有随机误差项共同的方差，并且有t统计量服从自由度为(n-k-1)(n-k-1)(n-k-1)(n-k-1)的t t t t分布。如果出现了异方差性，如上所述，异方差下与用OLS法估计得到的结果不同，t检验就失去意义。其它检验也类似。3 3、模型的预测失效、模型的预测失效 一方面，由于上上上上述述述述后后后后果果果果，使得模型不具有良好的统计性质；另一方面，在预测值的置置置置信信信信区区区区间间间间中也包含有随机误差项的异方差矩阵。所以，当模型出现异方差性时，参数OLS估计值的变变变变异异异异程程程程度度度度增增增增大大大大，从而造成对Y的预测误差变大，降低预测精度，预测功能失效。三、异方差性的检验三、异方差性的检验o1、检验的思路o2、图示检验法o3、解析检验法o（1）戈德菲尔德-夸特（Goldfeld-Quandt）检验 o（2）戈里瑟（Gleiser）检验与帕克（Park）检验o（3）White检验（大样本下）o（4）ARCH检验o（5）Spearman等级相关系数检验1 1、检验方法的、检验方法的共同思路共同思路共同思路共同思路o 由于异方差性就是相对于不同的解释变量观测值，由于异方差性就是相对于不同的解释变量观测值，随机误差项具有不同的方差。那么：随机误差项具有不同的方差。那么：检验异方差性，也就是检验检验异方差性，也就是检验随机误差项的方差随机误差项的方差随机误差项的方差随机误差项的方差与与解释变量观测值解释变量观测值解释变量观测值解释变量观测值之间的之间的相关性相关性相关性相关性及其及其相关的相关的相关的相关的“形式形式形式形式”。o 问题在于用什么来表示随机误差项的问题在于用什么来表示随机误差项的方差方差方差方差 一般的处理方法：一般的处理方法：OLSiiiYYe)(-=VarEeiii()()mm=22即用ei2来表示随机误差项的方差。2 2、图示检验法、图示检验法（1）用）用X-YX-Y的散点图进行判断的散点图进行判断 看是否存在明显的散点扩大散点扩大散点扩大散点扩大、缩小缩小缩小缩小或或复杂型趋势复杂型趋势复杂型趋势复杂型趋势（即不在一个固定的带型域中）看是否形成一看是否形成一斜率为零斜率为零斜率为零斜率为零的直线的直线 3 3、解析法、解析法（1 1）戈德菲尔德）戈德菲尔德-夸特（夸特（Goldfeld-QuandtGoldfeld-Quandt）检验）检验 G-QG-Q检验检验以F F F F检验检验检验检验为基础，适用于样本容量较大(一般讲不得低于参数个数两倍两倍两倍两倍以上)、异方差递增或递减的情况且残差要服从正态分布，当然其余条件也要满足（异方差除外）。G-QG-Q检验的思想：检验的思想：先将样本一分为二，对子样和子样分别作回归，然后利用两个子样的残差之比构造统计量进行异方差检验。由于该统计量服从F分布，因此假如存在递增的异方差，则F远大于1；反之就会等于1（同方差）、或小于1（递减方差）。G-QG-Q检验的步骤检验的步骤：将n n对对对对样本观察值(Xi,Yi)按解释变量观察值Xi的大小排列；将序列中间的c=n/4个观察值除去，并将剩下的观察值划分为较小与较大的相同的两个子样本，每个子样样本容量均均均均为(n-c)/2；注意：o 当模型含有多个解释变量时，应以每一个解释变量为基准检验异方差。o 此法只适用于递增型异方差。o 对于截面样本，计算F统计量之前，必须先把数据按解释变量的值从小到大排序。（2 2）戈里瑟（）戈里瑟（GleiserGleiser）检验与帕克（）检验与帕克（ParkPark）检验）检验o戈里瑟检验与帕克检验的思想：戈里瑟检验与帕克检验的思想：如果如果存在存在某一种某一种函数形式函数形式，使得，使得方程显著方程显著成立，则说明成立，则说明原原模型存在异方差性。模型存在异方差性。Glejser检验的思想的判断（检验的思想的判断（一种经验方法一种经验方法）大样本大样本情况下较好情况下较好 根据回归模型的显著性和拟合优度显著性和拟合优度来判断是否存在异方差。H.Glejser曾提出的假定函数形式|ei|=kXi+ui|ei|=kXi+ui|ei|=k/Xi+ui|ei|=k/Xi+ui|ei|=m+kXi+ui注意：注意：由于由于f(Xf(Xj j)的的具体形式未知具体形式未知具体形式未知具体形式未知，因此需要进行各种，因此需要进行各种形式的形式的试验试验试验试验。Glejser检验的特点是：o既可检验递增型异方差，也可检验递减型异方差。o 一旦发现异方差，同时也就发现了异方差的具体表现形式。o 计算量相对较大。o当原模型含有多个解释变量值时，可以把残差拟合成多变量回归形式。(3)White检验（大样本下）检验（大样本下）o基本思路：White检验的具体做法White检验的具体做法(4)ARCH检验ARCH检验的具体做法（5）Spearman等级相关系数检验o利用最小二乘法进行回归分析，计算残差o原假设：同方差；备择假设：异方差o对解释变量Xi和 分别按从小到大的顺序排列，并赋予1到n中的一个顺序号表示其等级o对每个下标i，计算Xi和 的等级差 o计算等级相关系数o计算统计量o当 ，等级相关系数不明显，接受原假设，同方差；否则存在异方差（5）Spearman等级相关系数检验四、异方差性的估计四、异方差性的估计o修正方法修正方法加权最小二乘法加权最小二乘法(WLS)Weighted Least Squareso1、基本思想、基本思想o2、例子、例子o3、一般情况、一般情况o4、求权矩阵的实用方法、求权矩阵的实用方法o5、步骤、步骤o6、注意事项、注意事项o最小二乘法的基本原则是使残差平方和最小使残差平方和最小使残差平方和最小使残差平方和最小。o在同方差同方差同方差同方差的假定下，OLS的运用是每个残差平方有相同的权数相同的权数相同的权数相同的权数（权数为1），也就是在最优化过程中，对各点的残差平方所提供信息的重要程度是一样看待的；o在异方差异方差异方差异方差的假定下，由于不同的解释变量使残差偏离均值的离散程度不一样，这样应该对不同的残差平方和赋予不同的权重不同的权重不同的权重不同的权重。1 1、加权最小二乘法加权最小二乘法加权最小二乘法加权最小二乘法的基本思想的基本思想o加权最小二乘法是对原模型加权，使之变成一加权最小二乘法是对原模型加权，使之变成一个新的不存在异方差性的模型，然后采用普通个新的不存在异方差性的模型，然后采用普通最小二乘法估计其参数。最小二乘法估计其参数。o例如，例如，在递增异方差下，对来自较小Xi的子样本，其真实的总体方差较小，Yi与回归线拟合值之间的残差ei的信度较大，应予以重视;而对较大Xi的子样本，由于真实总体的方差较大，残差反映的信息应打折扣。详细说明详细说明 加权最小二乘法就是对加了权重的残差平方和加权最小二乘法就是对加了权重的残差平方和实施实施OLSOLS法：法：对较小较小较小较小的残差平方ei2赋予较大较大较大较大的权数，对较大较大较大较大的残差平方ei2赋予较小较小较小较小的权数。2 2、一个例子、一个例子例如，如果在检验过程中已经知道：3 3、一般情况、一般情况对于模型 Y=XB+N 存在 ECovE()()()UUUUU=02sW W=wwwn12O 即存在 异方差性异方差性。这就是原模型的加权最小二乘估计量，它是无偏、有效的。这里权矩阵为D-1，它来自于矩阵WW。于是，可以用 OLS 法估计新模型，得$()*B=-X XX Y1 =-()()X DD XX DD YX WXX WY111111114 4、求权矩阵、求权矩阵W W的一种的一种实用方法实用方法实用方法实用方法从前面的推导过程看，它来自于原模型残差项U的方差-协方差矩阵，因此仍然可对原模型首先采用OLSOLSOLSOLS法法法法，得到随机误差项的近似估计量，以此构成权矩阵的估计量，即$W=eeen12222O，=-|/1|1|1211neeeOD 5 5、加权最小二乘法具体步骤、加权最小二乘法具体步骤6 6、注意、注意o 在实际建模过程中，人们通常在实际建模过程中，人们通常并不对原模型进行异并不对原模型进行异方差性检验，而是直接选择加权最小二乘法，尤其是采方差性检验，而是直接选择加权最小二乘法，尤其是采用用截面数据截面数据截面数据截面数据作样本时。作样本时。如果确实存在异方差，则被有效地消除了；如果确实存在异方差，则被有效地消除了；如果不存在异方差性，则加权最小二乘法等价于普如果不存在异方差性，则加权最小二乘法等价于普通最小二乘法。通最小二乘法。五、案例五、案例1某地区居民储蓄模型某地区居民储蓄模型某地区某地区3131年来居民收入与储蓄额数据表年来居民收入与储蓄额数据表 表单位：万元年份 居民收入(X)储蓄(Y)年份 居民收入(X)储蓄(Y)年份 居民收入(X)储蓄(Y)19688777264197917663950199029560210519699210105198018575779199128150160019709954901981195358191992321002250197110508131198221163122219933250024201972109791221983228801072199435250257019731191210719842412715781995335001720197412747406198525604165419963600019001975134995031986265001400199736200210019761426943119872767018291998382002300197715522588198828300220019781673089819892743020171 1、普通最小二乘估计、普通最小二乘估计2 2、异方差检验、异方差检验（1 1）图示检验）图示检验G-QG-Q检验检验求两个子样本（n1=n2=12）回归方程的残差平方和RSSRSSRSSRSS1 1 1 1与RSSRSSRSSRSS2 2 2 2；对第二个子样本（19871998）XY0294.007.11412+=(1.607)(1.337)2R=0.1517,2RSS=2ie=769899.2计算F统计量F=RSS2/RSS1=769899.2/162899.2=4.726从而该总体随机项存在递增异方差性总体随机项存在递增异方差性。ParkPark检验检验显然，lnXi前的参数表现为统计上显著的，表明原数据表明原数据存在异方差性存在异方差性。3 3、异方差模型的估计、异方差模型的估计与与OLSOLS估计结果相比较，拟合效果更差估计结果相比较，拟合效果更差。为什么？关于异方差形式的假定为什么？关于异方差形式的假定与与OLSOLS估计结果相比较，拟合效果更好估计结果相比较，拟合效果更好。五、案例五、案例22居民消费二元模型居民消费二元模型1 1、OLSOLS估计结果估计结果2 2、WLSWLS估计结果估计结果3 3、比较、比较各项统计检验指标全面改善各项统计检验指标全面改善R2:0.9997390.999999F:28682980736e2:43861329437 t:6.4 22.0 4.225.2 134.1 22.9D.W.:1.451.81 案例3 个人储蓄（Y）与可支配（X）收入模型（课本第125页）例5.1o已知某地区的个人储蓄Y，可支配收入X的截面样本数据，建立他们之间的线性计量经济模型并估计。o根据经济理论建立模型：案例案例3 个人储蓄个人储蓄（Y）与可支配与可支配（X）收入模型收入模型 （课本第（课本第125125页）例页）例5.1 5.1 异方差检验o1 图示法o2 Goldfeld-Quandt 检验检验o3 white 检验检验1 图示法2 Goldfeld-Quandt 检验检验 3 white检验检验White检验检验White检验式检验式White检验的检验的EViwes操作：操作：在回归式窗口中点击在回归式窗口中点击View键键选选Residual Tests/White Heteroskedasticity 功能。功能。(含有无交叉项两种选择。含有无交叉项两种选择。)处理异方差的方法处理异方差的方法加权估计（加权估计（WLS）方法（）方法（1）点点击此此处填入填入权数数 加权估计（加权估计（WLS）方法（）方法（1）加权估计（加权估计（WLS）方法（）方法（2）:用加权变量回归用加权变量回归continueo自己把回归式还原为自己把回归式还原为Y对对X回归情形。回归情形。o回归系数回归系数OLS估计结果是估计结果是0.088，WLS估估计结果是计结果是0.090。0.09的统计特性更好。的统计特性更好。对于截面数据一定要先按解释变量排序才有可能观察到异方差对于截面数据一定要先按解释变量排序才有可能观察到异方差案例案例4：取：取1986年中国年中国29个省市自治区农作物种植业产值个省市自治区农作物种植业产值yt（亿元）和农作物播种面积（亿元）和农作物播种面积xt（万亩）数据（万亩）数据（file:hete01，hete02）研究二者之间的关系。得估计的线性模型如下，）研究二者之间的关系。得估计的线性模型如下，yt=-5.6610+0.0123 xt (-0.6)(12.4)R2=0.85,T=29 残差图中看不到异方差（左图）。原因是没有把数残差图中看不到异方差（左图）。原因是没有把数据按解释变量排序。数据排序并估计后得到的残差图据按解释变量排序。数据排序并估计后得到的残差图明显存在异方差（右图）。明显存在异方差（右图）。附录：用附录：用EViews 4.0给序列中的数据排序给序列中的数据排序在在Workfile窗口点击窗口点击Procs键并选择键并选择Sort Series功能，将出功能，将出现一个要求填写以哪一个序列为标准（基准序列）排序的对现一个要求填写以哪一个序列为标准（基准序列）排序的对话框。填写基准序列名，并在下侧的另一个选择框中说明是话框。填写基准序列名，并在下侧的另一个选择框中说明是按从小到大排列（按从小到大排列（Ascending），还是从大到小排列），还是从大到小排列（Descending）。缺省的选择是从小到大排列。）。缺省的选择是从小到大排列。附录：用附录：用EViews 5.0、6.0给序列中的数据排序给序列中的数据排序在在Workfile窗口点击窗口点击Proc键并选键并选Sort Curent Page功能，将出功能，将出现一个警告栏。现一个警告栏。点击点击Yes后，将出现一个要求填写以哪一个序列为标准（基准序后，将出现一个要求填写以哪一个序列为标准（基准序列）排序的对话框。过程与列）排序的对话框。过程与EViews 4.0相同。相同。注意，这种操作是把工作文件中所有的变量都以选定的变量为注意，这种操作是把工作文件中所有的变量都以选定的变量为标准排序。所以若希望保留原数据时，应先备份一个工作文件。标准排序。所以若希望保留原数据时，应先备份一个工作文件。