4修改前-第四章 多元回归：估计与假设检验.ppt

《4修改前-第四章 多元回归：估计与假设检验.ppt》由会员分享，可在线阅读，更多相关《4修改前-第四章 多元回归：估计与假设检验.ppt（40页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第四章 多元回归：估计与假设检验,多元线性回归模型 多元线性回归模型的参数估计多元线性回归模型的假设检验多元线性回归模型的预测对模型设定的讨论（增减解释变量）,1,4.1 多元线性回归模型,一、多元线性回归模型 二、多元线性回归模型的基本假定,2,一、多元线性回归模型-一般表现形式,多元线性回归模型:线性回归模型中的解释变量有多个。,i=1,2,n,习惯上：把常数项看成为一虚变量的系数，该虚变量的样本观测值始终取1。,j也被称为偏回归系数，表示在其他解释变量保持不变的情况下，Xj每变化1个单位时，Y的均值E(Y)的变化;,3,总体回归模型（总体回归函数的随机表达形式）,总体回归函数（非随机表达

2、式）,一、多元线性回归模型-一般表现形式,样本回归模型（样本回归函数的随机表达形式）,样本回归函数（非随机表达式）,4,一、多元线性回归模型-矩阵表达式,5,样本回归模型（函数）的矩阵表达:,6,二、多元线性回归模型的基本假定,假设1：回归模型是参数线性的，并且正确设定。,假设2：解释变量与随机项不相关。,假设7：随机项满足正态分布。,假设3、4、5：随机误差项具有零均值、同方差及不序列相关性。,假设6：解释变量之间不存在完全共线性。即解释变量之间没有严格的线性关系。,7,假设6：解释变量之间不存在完全共线性。即解释变量之间没有严格的线性关系。,二、多元线性回归模型的基本假定,例：,收入,储蓄

3、,消费,8,4.2 多元线性回归模型的参数估计,一、普通最小二乘估计 二、参数估计量的性质 三、参数估计中的样本容量问题,9,根据最小二乘原理，求参数估计值,其中,一、普通最小二乘估计,结构参数；分布参数,10,于是得到关于待估参数估计值的正规方程组：,i=1,2n,11,例：在的家庭收入-学生数学分数例中，,可求得,于是,12,OLS估计量的方差和标准误,随机误差项的方差的估计,可以证明，随机误差项的方差的无偏估计量为,13,在满足基本假设的情况下，其结构参数 的普通最小二乘估计仍具有： 线性性、无偏性、有效性,二、参数估计量的性质,根据 OLS估计的每一个回归系数都是线性的和无偏的-平均而

4、言，它与真实值一致。在所有的线性无偏估计量中，OLS估计量具有最小方差性-即比其他线性无偏估计量更准确地估计了真实的参数值。,14,三、拟合优度检验,15,度量K个解释变量对应变量Y变动的联合解释比例。,16,古董钟拍卖一例,PRICE = -1300.2010 + 12.5954*AGE + 84.6352*BIDDERS,斜率系数表示：在其他变量保持不变的条件下，钟表价格每增1年，其价格平均上升12.5954元。,R2表示：两个变量解释了拍卖价格89%的变异。,17,对偏回归系数的检验,置信区间法显著性检验法,置信区间法显著性检验法,4.3 多元线性回归模型的统计检验,一、对偏回归系数进行

5、假设检验1、变量的显著性检验（t检验）2、参数的置信区间 二、方程的显著性检验(F检验),18,1、变量的显著性检验（t检验）,1、设计原假设与备择假设：,H0：i=0,H1：i0,（i=1,2k）,3、给定显著性水平，可得到临界值t/2(n-k-1),2、由样本求出统计量t的数值,4、通过比较 拒绝或接受H0 判定对应的解释变量是否应包括在模型中,|t| t/2(n-k-1) 或 |t|t/2(n-k-1),|P| /2,19,2、参数的置信区间,参数的置信区间用来考察：在一次抽样中所估计的参数值离参数的真实值有多“近”。,在(1-)的置信水平下i的置信区间是,其中，t/2为显著性水平为 、

6、自由度为n-k-1的临界值。,20,二、方程的显著性检验(F检验),21,方程的显著性检验，旨在对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出推断。,1、方程的显著性检验（F检验）与变量的显著性检验（T检验）的区别。,F检验的思想来自于总离差平方和的分解式： TSS=ESS+RSS,如果这个比值较大，则X的联合体对Y的解释程度高，可认为总体存在线性关系，反之总体上可能不存在线性关系。因此,可通过该比值的大小对总体线性关系进行推断。,22,2、方差分析技术,23,对TSS各组成部分进行分析,3、方程显著性的F检验,step1、可提出如下原假设与备择假设：,H0： 1=2= =

7、k=0；H1： j不全为0,step3、给定显著性水平，可得到临界值F(k,n-k-1),step2、由样本求出统计量F的数值,step4、通过比较 拒绝或不拒绝原假设H0 判定原方程总体上的线性关系是否显著成立,F F(k,n-k-1)拒绝原假设 ；FF(k,n-k-1)不拒绝原假设,根据数理统计学中的知识，在原假设H0成立的条件下，该统计量服从自由度为(k , n-k-1)的F分布,24,4、关于F与R2的关系,说明这两个统计量同方向变动。,R2=0时，F=0；R2值越大，F值越大；R2=1时，F趋于,R2,25,如何才能缩小置信区间？,增大样本容量n，因为在同样的样本容量下，n越大，t分

8、布表中的临界值越小，同时，增大样本容量，还可使样本参数估计量的标准差减小；提高模型的拟合优度，因为样本参数估计量的标准差与残差平方和呈正比，模型优度越高，残差平方和应越小。提高样本观测值的分散度,一般情况下，样本观测值越分散，(XX)-1的分母的|XX|的值越大，致使区间缩小。,26,4.4多元线性回归模型的预测,E(Y0)的置信区间,对于模型,给定样本以外的解释变量的观测值X0=(1,X10,X20,Xk0)，可以得到被解释变量的预测值：,(1-)的置信水平下E(Y0)的置信区间:,其中，t/2为(1-)的置信水平下的临界值。,27,4.5 多元回归模型的相关讨论,一、回归模型设定的讨论,2

9、、什么时候增加新的解释变量？-,1、设定误差,3、受限最小二乘,二、对回归结果的讨论,28,1、设定误差P83,4-52,4-53,4-37,29,模型设定中遗漏变量的问题,30,如何知道需否增加解释变量,判定系数与校正（调整）的判定系数,n-k-1为残差平方和的自由度，n-1为总体平方和的自由度,如果在模型中增加一个解释变量， R2往往增大,现实情况往往是，由增加解释变量个数引起的R2的增大与拟合好坏无关，R2需调整,剔除了变量个数对拟合优度的影响,31,2、什么时候增加新的解释变量？- 的应用,性质P84,2、什么时候增加新的解释变量？- 的应用,只要校正判定系数 值增加，就可以增加新的解

10、释变量。,应变量相同的回归模型才可以对 进行比较。,*赤池信息准则和施瓦茨准则,这两准则均要求仅当所增加的解释变量能够减少AIC值或AC值时才在原模型中增加该解释变量。,32,如果拟新增解释变量的参数估计值的t绝对值大于1，则 会增加。,运用于对回归模型增加或减少解释变量的判断中,考虑如下两个回归模型：,(有约束模型),(无约束模型),施加约束条件H0：,33,3、受限最小二乘,检验思想：用（RSSR - RSSU）的大小检验约束的真实性,若约束条件为真 受约束回归模型与无约束回归模型具有相同的解释能力 （RSSR - RSSU）较小,若约束条件无效 受约束回归模型与无约束回归模型解释能力有差

11、异 （RSSR - RSSU）较大,3、受限最小二乘,无约束模型：,有约束模型：,施加约束条件：,F临界F值，则拒绝约束条件；F临界F值，则拒接受约束条件,34,如果约束条件为真，RSSR 与 RSSU的差异很小，则计算的F值较小，即不拒绝该约束条件。,如果约束条件无效， RSSR 与 RSSU的差异较大，计算的F值也较大，即拒绝该约束条件。,F临界F值，则拒绝约束条件；,注意，kU - kR恰为约束条件的个数。,35,构建检验统计量为：,3、受限最小二乘,对参数间关系的其它约束,对模型,施加约束,得,或,(*),(*),如果对（*）式回归得出,则由约束条件可得：,36,3、受限最小二乘,二、

12、对回归结果的讨论 例P87,设定模型,4.5 多元回归模型的相关讨论,37,根据经济理论，进行先验假定,进行回归，得到结果,第四章小结,多元线性回归模型 多元线性回归模型的参数估计多元线性回归模型的统计检验多元线性回归模型的预测,38,假设要求你建立一个计量经济学模型来说明在学校跑道上慢跑半小时或半小时以上的人数，以便决定是否修建第二条跑道以满足所有的锻炼者，你通过整个学年收集数据，得到两个可能的解释性方程：,其中，Y为某天慢跑者的人数，X1为该天的降雨量（单位：毫米），X2为该天的日照时间（单位：小时），X3为该天的最高温度（单位：华氏温度），X4为第二天需交学期论文的班级数。请回答下列问题：,（1）这两个方程你认为哪个更合理些，为什么？,（2）为什么用相同的数据去估计，相同变量的系数符号却不同？,39,40,本章作业：1、做在书上：4.3；4.4；4.5；4.62、自己理解：91页的术语概念；4.13、做在作业本上：4.2；4.9；4.11；4.12,上机操作预习：4.7；4.14；4.18；4.21；4.22,