第8章 复回归分析推断问题优秀PPT.ppt
第8章 复回归分析推断问题现在学习的是第1页，共43页 8.1 正态性假定正态性假定 如果回归分析的目的仅在于对回归模型的参数作点估计，则OLS法就足够了，并不需要对干扰项 的概率分布作任何假定。如果我们的目的还在于区间估计和统计推断，那么，我们还需要假定 遵循某个概率分布。我们假定 这样以来，估计量 也服从正态分布，其均值分别为 ，方差由（7.4.9）至（7.4.16）给出:（7.4.9）2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第2页，共43页 （7.4.10）（7.4.11）或者：（7.4.12）其中，r23是X2和X3的样本相关系数：2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第3页，共43页（7.4.13）（7.4.14）或者：（7.4.15）（7.4.16）2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第4页，共43页 这样可以检验对真实 的假定。不可知，用它的无偏估计 代替，则有：（8.1.1）（8.1.2）（8.1.3）均服从自由度为n-3的t分布。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第5页，共43页 这样，我们就能对 和 进行区间估计和假设检验。修正儿童死亡率的例子修正儿童死亡率的例子 (*)如何检验？2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第6页，共43页8.2 假设检验：内容假设检验：内容2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第7页，共43页8.3 检验关于个别偏回归系数的假设检验关于个别偏回归系数的假设 在假定 下，就可以用t检验统计量对任意一个偏回归系数的假设进行检验。设：利用（8.1.2）式中的t统计量，即可进行检验。如果计算的t值超过选定显著性水平的临界t值就可以拒绝虚拟假设 ；否则就不拒绝它。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第8页，共43页结论，t检验与区间估计的结果相同。对于偏回归系数 也可做同样的分析。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第9页，共43页8.4 检验样本回归的总显著性检验样本回归的总显著性 上一节介绍的是个别的（individual）、单独的（separate）假设检验。现在考察这样的假设：这个虚拟假设是关于 联合地或同时地等于零的一个联合假设（joint hypothesis）。这样的假设检验被称为对所估计回归线的总显著性（overall significance）检验。也就是，检验Y是否与 两者有线性关系。在第8.4节中，对单个偏回归系数做显著性检验时，我们暗含地假定，每一个显著性检验都是根据一个不同的（独立的）样本进行的。也就是说，我们暗含地假定，在假设 下检验 显著性的样本，不同于在假设 下检验 显著性的样本。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第10页，共43页2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第11页，共43页TSS =ESS +RSS （8.4.2）TABLE 8.2 三变量回归的ANOVA表变异来源 SS df MSS来自回归（ESS）2来自残差（RSS）n-3 总计n-12023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第12页，共43页 可以证明，在 的正态性假定下，以及在虚拟假设 下，统计量：遵循自由度为2和 的F分布。F统计量的作用：可以证明，在 的假定下，（8.4.4）2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第13页，共43页再加上一个假定：，便能证明：（8.4.5）因此，如果虚拟假设是真实的，（8.4.4）和（8.4.5）都将对真实 给出同样的估计。也就是说，如果Y与 关系微不足道，则Y变异的唯一来源是来自 所代表的随机势力。换句话说，对Y的联合影响和随机影响 毫无区别（来自随机影响）。然而，如果虚拟假设谬误，即 确实影响Y，则不能在（8.4.4）和（8.4.5）之间划等号。这时，在适当考虑自由度之后，ESS要相对大于RSS。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第14页，共43页 从而，（8.4.3）的F值对真实斜率系数同时为零的这一虚拟假设，提供了一种检验。，拒绝 ；否则就不拒绝它。例子：P241。Table 8.3 F检验的方法可以推广到一般情形：二、F检验的推广 给定 变量回归模型：检验假设：所有斜率系数不同时为零 2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第15页，共43页 计算 （8.4.7）如果 ，则拒绝；否则不拒绝它。其中 ，是显著性水平为 ，个分子自由度和 个分母自由度的临界F值。为包括截距的自变量个数。需要注意的是，个别假设检验和联合假设检验是不同的，有可能根据t检验接受某一系数 为零的假设，但另一方面却拒绝全部系数为零的联合假设。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第16页，共43页 三、和F的关系 假定干扰项 ，且有虚拟假设：（8.4.9）则有：（8.4.10）服从 个自由度的F分布。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第17页，共43页2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第18页，共43页 由此可见，F检验既是所估计回归的总显著性的一个度量，也是 的一个显著性检验。换句话说，检验虚拟假设（8.4.9）等价于检验总体 的虚拟假设。由于F和 之间关系密切，可以由 来表示方差分析表：表8.4 由 表示的ANOVA表 在计算F值时，也将被消掉，F检验只须 和自由度便可进行，很方便。变异来源 SS df MSS来自回归 2来自 残差 n-3总计 n-12023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第19页，共43页 四、一个解释变量的增量或边际贡献（Marginal Contribution）假如我们序贯地（sequentially）引进 ；即先做Y对 的回归，并评估其显著性，然后，再把 加进到模型中，以判明它是否有任何贡献（当然，可以对调 进入的次序）。当增加一个变量到模型中来时，我们观察是否相对于RSS来说“显著地”增加了ESS（从而 ）。这一贡献就叫做一个解释变量的增量（incremental）或边际（marginal）贡献（contribution）.那么，怎样决定一个X变量的引进是否能显著地减少RSS呢？可以通过方差分析来决定。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第20页，共43页 假设我们先做 CM 对 PGDP 的回归，得到P245（8.4.14）式。然后，我们决定把 FLR 加进模型中来，并得到P249 的（8.1.4）式。现在的问题是：FLR 的边际或增量贡献是多少？这个增量贡献在统计上显著吗？根据什么准则把变量加进模型？这些问题同样需要通过方差分析来解决：2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第21页，共43页表8.6 用于评估变量的增量贡献的ANOVA表 变异来源 SS df MSS ESS仅由于 1ESS由于 的加入 1 ESS由于 2 RSS n-3 总计 n-12023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第22页，共43页 评估在扣除 的贡献后 的增量贡献的统计量：（8.4.16）其中，ESS新新模型的ESS（加进新回归元后的 ）ESS老 老模型的ESS（即 ）RSS新 新模型的RSS（指扣除所有回归元 的贡献后的 ）2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第23页，共43页 ,拒绝虚拟假设(虚拟假设：的边际贡献不显著)，认为把 加进模型中显著地增大ESS并因而增大 值，即应该加进 。,不拒绝 ，不应该加进模型。（8.4.16）中的F统计量也可以用 重新表述如下：（8.4.18）例子：P246。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第24页，共43页 何时加进一个新变量：一般的原则是，如果增加一个变量能增加校正 的值，就把这个变量保留在模型中，即使它在统计上并不能显著地减少RSS。进一步地说，如果新增变量的系数的t值在绝对值上大于1，则 就增加。或者：仅当一个新增解释变量的 值大于1时，它的引进才使 增大。何时加进一组变量：从（8.4.18）式中可见：如果一组变量的加入（排除）给出一个大于1的F值，将增加；如果一组变量的加入（排除）给出一个小于1的F值，将减小。是否增加了回归模型的解释能力是加入或删除变量的主要依据。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第25页，共43页8.5 检验两个回归系数是否相等t检验2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第26页，共43页8.7受约束的最小二乘法：受约束的最小二乘法：检验线性等式约束条件检验线性等式约束条件 根据已有的经济理论，某一回归模型中的系数需满足一些线性等式约束条件。如：the Cobb-Douglas production function:(8.7.1)其中：Y产出，劳动投入，资本投入。对数形式：（8.7.2）其中 假设所描述的生产是规模报酬不变，由经济理论可知：（8.7.3）上式就是线性等式约束的例子之一。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第27页，共43页如何判断规模报酬是否不变，即（8.7.3）是否成立？2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第28页，共43页 有两种方法：一、t检验方法 先做无约束的或无限制的回归（unrestricted or unconstrained regression）:（8.7.2）得到 的估计值 。检验统计量：2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第29页，共43页 在虚拟假设 下，有 （8.7.4）其中，分母是 的标准误。如果 则拒绝 ，即规模报酬可变；如果 ，则不拒绝 。（规模报酬不变）。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第30页，共43页 二、F检验法：受约束最小二乘法 前述t检验是一种静观后效法（post mortem examination）。这种方法是在估计“无约束”回归之后再看线性约束是否被满足。一种直接的方法是，一开始便把约束（8.7.3）纳入估计过程中。在本例中，有：把（8.7.5）代入到柯布道格拉斯生产函数：上述程序被称为受约束的最小二乘法（restricted least squares,or RLS）。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第31页，共43页 如何判定 是否真实？可通过F检验来判定。令：m线性约束个数（本例中是1）k无约束回归中的参数个数 n观测次数于是，,即限制使 （8.7.9）服从 个自由度的F分布。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第32页，共43页2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第33页，共43页答：不能。因为因变量不同。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第34页，共43页 ,拒绝 ，规模报酬可变；，不拒绝 ，认为规模报酬不变。F检验还可以通过 来求得：the values obtained from the unstricted regression。the values obtained from the restricted regression。注意：在受约束和无约束的两个模型中因变量不相同，则 和 不可直接比较，这时，可用第7章所述的程序把两个 值转化为可比的。例子：P2542023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第35页，共43页8.8 比较两个回归：检验回归模型的结构稳定性比较两个回归：检验回归模型的结构稳定性同样的回归模型，由于选取的数据的时期不同,模型的参数估计结果可能相差悬殊。比如，中国在1978年前和1978年改革开放以后的情形就有很大的差别。例子：英国在重建时期和重建后时期的储蓄函数的结构可能不同，储蓄函数的参数可能发生了变化。结构性变化可能包括：截距的变化斜率的变化截距和斜率均变化。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第36页，共43页274 表8.9 给出美国19701995年个人可支配收入（Y）和个人储蓄（X）的数据。可以建立Y对X的回归。众所周知，美国1982年遭受其和平时期最大的衰退，城市失业率当年达到了自1948年来的最高水平9.7。1982是否是一个转折点？如何检验呢？可以建立三个回归：2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第37页，共43页用Chow 检验（邹至庄检验检验（邹至庄检验）：（实质上是一种F检验）两条假定：（b）是独立分布的。检验机制如下：第一步：合并 和 次观测值，估计（8.8.3），得残差平方和RSS3，。其中k为所估参数的个数。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第38页，共43页第二步：估计（8.8.1）,获得相应的RSS，称做RSS1 第三步：估计（8.8.2）得到其残差平方RSS2，2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第39页，共43页 ，则拒绝（8.8.1）和(8.8.2)相同的假设，认为模型的结构不稳定。，不拒绝（8.8.1）和(8.8.2)相同，认为结构稳定。2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第40页，共43页8.9 用多元回归做预测用多元回归做预测 （见第9章）2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第41页，共43页第二次作业：用多元回归分析方法写一篇文章要求：规范格式1.题目2.内容摘要和关键词3.经济或社会现象4.文献回顾5.分析方法6.数据来源与说明7.回归结果与解释（用统计软件）8.结论（与建议）2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第42页，共43页第八章结束，谢谢！2023/2/24贵州财经大学经济研究所 白万平 教授现在学习的是第43页，共43页
