第04章其他回归方法优秀PPT.ppt
《第04章其他回归方法优秀PPT.ppt》由会员分享,可在线阅读,更多相关《第04章其他回归方法优秀PPT.ppt(59页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、第04章其他回归方法现在学习的是第1页,共59页 线性回归模型的基本假设线性回归模型的基本假设线性回归模型的基本假设线性回归模型的基本假设 i=1,2,N 在在普普通通最最小小二二乘乘法法中中,为为保保证证参参数数估估计计量量具具有有良良好好的的性性质质,通通常对模型提出若干基本假设:常对模型提出若干基本假设:1解释变量之间互不相关;解释变量之间互不相关;2随机误差项具有随机误差项具有0均值和同方差。即均值和同方差。即 i=1,2,N 即随机误差项的方差是与观测时点即随机误差项的方差是与观测时点t无关的常数;无关的常数;3不同时点的随机误差项互不相关(序列不相关),即不同时点的随机误差项互不相
2、关(序列不相关),即 s 0,i=1,2,N 现在学习的是第2页,共59页 当随机误差项满足假定当随机误差项满足假定1 4时,将回归模型时,将回归模型”称为称为“标准标准回归模型回归模型”,当随机误差项满足假定,当随机误差项满足假定1 5时,将回归模型称为时,将回归模型称为“标准正态回归模型标准正态回归模型”。如果实际模型满足不了这些假定,普通最小。如果实际模型满足不了这些假定,普通最小二乘法就不再适用,而要发展其他方法来估计模型。二乘法就不再适用,而要发展其他方法来估计模型。5随机误差项服从随机误差项服从0均值、同方差的正态分布。即均值、同方差的正态分布。即 i=1,2,N 4随机误差项与解
3、释变量之间互不相关。即随机误差项与解释变量之间互不相关。即 j=1,2,k,i=1,2,N 现在学习的是第3页,共59页 古古典典线线性性回回归归模模型型的的一一个个重重要要假假设设是是总总体体回回归归方方程程的的随随机机扰扰动动项项 ui 同同方方差差,即即他他们们具具有有相相同同的的方方差差 2。如如果果随随机机扰扰动动项项的的方方差差随随观观测测值值不不同同而而异异,即即ui 的的方方差差为为 i2,就就是是异异方方差差。用用符符号号表表示示异异方方差差为为E(ui2)=i2。异异方方差差性性在在许许多多应应用用中中都都存存在在,但但主主要要出出现现在在截截面面数数据据分分析析中中。例例
4、如如我我们们调调查查不不同同规规模模公公司司的的利利润润,会会发发现现大大公公司司的的利利润润变变化化幅幅度度要要比比小小公公司司的的利利润润变变化化幅幅度度大大,即即大大公公司司利利润润的的方方差差比比小小公公司司利利润润的的方方差差大大。利利润润方方差差的的大大小小取取决决于于公公司司的的规规模模、产产业业特特点点、研研究究开开发发支支出出多多少少等等因因素素。又又如如在在分分析析家家庭庭支支出出模模式式时时,我我们们会会发发现现高高收收入入家家庭庭通通常常比比低低收收入入家家庭庭对对某某些些商商品品的的支支出出有有更更大大的方差。的方差。4.1 4.1 加权最小二乘估计加权最小二乘估计加
5、权最小二乘估计加权最小二乘估计 现在学习的是第4页,共59页 变量变量可支配收入可支配收入 交通和通讯支出交通和通讯支出变量变量可支配收入可支配收入交通和通讯支出交通和通讯支出 地区地区INCUM地区地区INCUM 甘甘 肃肃 山山 西西 宁宁 夏夏 吉吉 林林 河河 南南 陕陕 西西 青青 海海 江江 西西黑龙江黑龙江内蒙古内蒙古 贵贵 州州 辽辽 宁宁 安安 徽徽 湖湖 北北 海海 南南4009.614098.734112.414206.644219.424220.244240.134251.424268.504353.024565.394617.244770.474826.364852.
6、87159.60137.11231.51172.65193.65191.76197.04176.39185.78206.91227.21201.87237.16214.37265.98新新 疆疆 河河 北北四四 川川山山 东东广广 西西湖湖 南南重重 庆庆江江 苏苏云云 南南福福 建建天天 津津浙浙 江江北北 京京上上 海海广广 东东5000.795084.645127.085380.085412.245434.265466.576017.856042.786485.637110.547836.768471.988773.108839.68212.30270.09212.46255.53252
7、.37255.79337.83255.65266.48346.75258.56388.79369.54384.49640.56表表表表1 1 中国中国中国中国19981998年各地区城镇居民平均每人全年家庭可支配收入及交通和通讯支出年各地区城镇居民平均每人全年家庭可支配收入及交通和通讯支出年各地区城镇居民平均每人全年家庭可支配收入及交通和通讯支出年各地区城镇居民平均每人全年家庭可支配收入及交通和通讯支出 单位:元单位:元单位:元单位:元现在学习的是第5页,共59页 例例例例4.14.1:我我们们研研究究人人均均家家庭庭交交通通及及通通讯讯支支出出(CUM)和和可可支支配配收收入入(IN)的关系
8、,考虑如下方程:的关系,考虑如下方程:CUM=0+1IN+ui 利用普通最小二乘法,得到如下回归模型:利用普通最小二乘法,得到如下回归模型:CUM=-56.917+0.05807*IN (4.1.4)(1.57)(8.96)R2=0.74 D.W.=2.00现在学习的是第6页,共59页 从图形上可以看出,平均而言,城镇居民家庭交通和通讯支从图形上可以看出,平均而言,城镇居民家庭交通和通讯支出随可支配收入的增加而增加。但是,值得注意的是:随着可支出随可支配收入的增加而增加。但是,值得注意的是:随着可支配收入的增加,交通和通讯支出的变动幅度也增大了,可能存在配收入的增加,交通和通讯支出的变动幅度也
9、增大了,可能存在异方差。如果我们把回归方程中得到的残差对各个观测值作图,异方差。如果我们把回归方程中得到的残差对各个观测值作图,则可以清楚地看到这一点。则可以清楚地看到这一点。异方差的存在并不破坏普通最小二乘法的无偏性,但是估异方差的存在并不破坏普通最小二乘法的无偏性,但是估计量却不是有效的,即使对大样本也是如此,因为缺乏有效性,计量却不是有效的,即使对大样本也是如此,因为缺乏有效性,所以通常的假设检验值不可靠。因此怀疑存在异方差或者已经所以通常的假设检验值不可靠。因此怀疑存在异方差或者已经检测到异方差的存在,则采取补救措施就很重要。检测到异方差的存在,则采取补救措施就很重要。现在学习的是第7
10、页,共59页4.1.1 异方差性检验异方差性检验 1.1.图示检验法图示检验法图示检验法图示检验法 (1)(1)用用用用X-YX-Y的散点图进行判断的散点图进行判断的散点图进行判断的散点图进行判断 观察是否存在明显的散点扩大、缩小或复杂型趋势(即不在观察是否存在明显的散点扩大、缩小或复杂型趋势(即不在一个固定的带型域中)一个固定的带型域中)现在学习的是第8页,共59页 (2 2)X-X-i i2的散点图进行判断的散点图进行判断的散点图进行判断的散点图进行判断 首先采用首先采用OLS方法估计模型,以求得随机误差项的估计量方法估计模型,以求得随机误差项的估计量(注意,注意,该估计量是不严格的该估计
11、量是不严格的),我们称之为,我们称之为“近似估计量近似估计量”,用,用 i2 表示。于是表示。于是有有(4.1.5)即用即用 i2 来表示随机误差项的方差。用来表示随机误差项的方差。用 X-i2的散点图进行判断看是否形的散点图进行判断看是否形成一斜率为零的直线。成一斜率为零的直线。现在学习的是第9页,共59页现在学习的是第10页,共59页 2.White2.White异方差性检验异方差性检验异方差性检验异方差性检验 White(1980)提提出出了了对对最最小小二二乘乘回回归归中中残残差差的的异异方方差差性性的的检检验验。包包括括有有交交叉叉项项和和无无交交叉叉项项两两种种检检验验。普普通通最
12、最小小二二乘乘估估计计虽虽然然在在存存在在异异方方差差性性时时是是一一致致的的,但但是是通通常常计计算算的的标标准准差差不不再再有有效效。如如果果发发现现存存在在异异方方差差性性,利利用用加加权权最最小小二乘法可以获得更有效的估计。二乘法可以获得更有效的估计。现在学习的是第11页,共59页 检验统计量是通过利用解释变量所有可能的交叉乘积对残差进检验统计量是通过利用解释变量所有可能的交叉乘积对残差进行回归来计算的。例如:假设估计如下方程行回归来计算的。例如:假设估计如下方程(4.1.6)式中式中b是估计系数,是估计系数,i 是残差。检验统计量基于辅助回归:是残差。检验统计量基于辅助回归:(4.1
13、.7)EViews显显示示两两个个检检验验统统计计量量:F统统计计量量和和 Obs*R2 统统计计量量。WhiteWhite检检检检验验验验的的的的原原原原假假假假设设设设:不不不不存存存存在在在在异异异异方方方方差差差差性性性性(也也就就是是,式式(4.1.7)中中除除 0以以外外的所有系数都为的所有系数都为0成立)成立)。现在学习的是第12页,共59页 当当存存在在冗冗余余交交错错作作用用,EViews会会自自动动的的把把它它们们从从检检验验回回归归中中剔剔除除。例例如如:一一个个虚虚拟拟变变量量的的平平方方是是它它自自己己,所所以以EViews剔剔 除除 其其 平平 方方 项项,避避 免
14、免 形形 成成 完完 全全 共共 线线 性性。选选 择择View/Residual test/White Heteroskedasticity进进行行White异异方方差检验。差检验。White检检验验有有两两个个选选项项:交交叉叉项项和和无无交交叉叉项项。有有交交叉叉项项是是White检检验验的的原原始始形形式式,它它包包括括所所有有交交叉叉乘乘积积项项。但但如如果果回回归归右右边边有有许许多多变变量量,交交叉叉项项的的个个数数会会很很多多,所所以以不不必必把把它它们们全全包包括括在在内内。无无交交叉叉项项选选项项仅仅使使用用解解释释变变量量平平方方进进行行检检验验回回归。归。现在学习的是第
15、13页,共59页 例例例例4.24.2:人人均均家家庭庭交交通通及及通通讯讯支支出出(CUM)和和可可支支配配收收入入(IN)的的回归方程的回归方程的 White 异方差检验的结果:异方差检验的结果:该结果该结果F 统计量和统计量和 Obs*R2 统计量的统计量的P值均很小,表明拒绝原假值均很小,表明拒绝原假设,即残差存在异方差性。设,即残差存在异方差性。现在学习的是第14页,共59页4.1.2 利用加权最小二乘法消除异方差利用加权最小二乘法消除异方差利用加权最小二乘法消除异方差利用加权最小二乘法消除异方差 1 1方差已知的情形方差已知的情形方差已知的情形方差已知的情形 假设有已知形式的异方差
16、性,并且假设有已知形式的异方差性,并且有序列有序列有序列有序列w w,其值与误差标准其值与误差标准其值与误差标准其值与误差标准差的倒数成比例差的倒数成比例差的倒数成比例差的倒数成比例。这时可以采用权数序列为。这时可以采用权数序列为w 的加权最小二乘估计来的加权最小二乘估计来修正异方差性。对加权自变量和因变量最小化残差平方和得到估计结果修正异方差性。对加权自变量和因变量最小化残差平方和得到估计结果:其中其中 是是k 1维向量。在矩阵概念下,令权数序列维向量。在矩阵概念下,令权数序列 w 在权数矩阵在权数矩阵W的对的对角线上,其他地方是零,即角线上,其他地方是零,即W 矩阵是对角矩阵,矩阵是对角矩
17、阵,y 和和X是因变量和自是因变量和自变量矩阵。则加权最小二乘估计量为:变量矩阵。则加权最小二乘估计量为:估计协方差矩阵为:估计协方差矩阵为:现在学习的是第15页,共59页 2 2方差未知的情形方差未知的情形方差未知的情形方差未知的情形 由由于于一一般般不不知知道道异异方方差差的的形形式式,人人们们通通常常采采用用的的经经验验方方法法是是,并并不不对对原原模模型型进进行行异异方方差差检检验验,而而是是直直接接选选择择加加权权最最小小二二乘乘法法,尤尤其其是是采采用用截截面面数数据据作作样样本本时时。如如果果确确实实存存在在异异方方差差性性,则则被被有有效效地地消消除除了了;如如果果不不存存在在
18、异异方方差差性性,则则加加权权最最小小二二乘乘法法等等价价于普通最小二乘法。于普通最小二乘法。具体步骤是:具体步骤是:1选选择择普普通通最最小小二二乘乘法法估估计计原原模模型型,得得到到随随机机误误差差项项的的近近似似估估计量计量 t;2建立建立 1/|t|的数据序列;的数据序列;3选择加权最小二乘法,以选择加权最小二乘法,以 1/|t|序列作为权,进行估计序列作为权,进行估计得到参数估计量。实际上是以得到参数估计量。实际上是以 1/|t|乘原模型的两边,得到一个乘原模型的两边,得到一个新模型,采用普通最小二乘法估计新模型。新模型,采用普通最小二乘法估计新模型。现在学习的是第16页,共59页
19、EViews 的的加加权权最最小小二二乘乘估估计计方方法法为为,首首先先把把权权数数序序列列用用均均值值除除,然然后后与与对对应应的的每每个个观观测测值值相相乘乘,权权数数序序列列已已被被标标准准化化故故对对参参数数结结果果没没有有影影响响同同时时使使加加权权残残差差比比未未加加权权残残差差更更具具可可比比性性。然然而而,标标准准化化意意味味着着EViews的的加加权权最最小小二二乘乘在残差序列相关时不适用。在残差序列相关时不适用。使用加权最小二乘法估计方程,首先到主菜单中选使用加权最小二乘法估计方程,首先到主菜单中选Quick/Estimate Equation ,然后选择然后选择LS-Le
20、ast Squares(NLS and ARMA)。在对话框中输入方程说明和样本,然后按。在对话框中输入方程说明和样本,然后按Options钮钮,出现如下对话框:出现如下对话框:现在学习的是第17页,共59页 单击单击Weighted LS/TSLS选项在选项在Weighted 项后填写权数序列名,单项后填写权数序列名,单击击OK。例子:。例子:现在学习的是第18页,共59页例例例例4.44.4:现在学习的是第19页,共59页 EViews会打开结果窗口显示标准系数结果(如上图),包括加会打开结果窗口显示标准系数结果(如上图),包括加权统计量和未加权统计量。加权统计结果是用加权数据计算得到的:
21、权统计量和未加权统计量。加权统计结果是用加权数据计算得到的:未加权结果是基于原始数据计算的残差得到的:未加权结果是基于原始数据计算的残差得到的:估计后,未加权残差存放在估计后,未加权残差存放在RESID序列中。序列中。如如果果残残差差方方差差假假设设正正确确,则则加加权权残残差差不不应应具具有有异异方方差差性性。如如果果方方差差假假设设正正确确的的话话,未未加加权权残残差差应应具具有有异异方方差差性性,残残差差标标准准差差的的倒倒数数在在每每个个时时刻刻t与与w成比例。成比例。在包含在包含ARMA项方程中加权选项将被忽略。也要注意对于二元的,项方程中加权选项将被忽略。也要注意对于二元的,计数等
22、离散和受限因变量模型加权选项也不适用。计数等离散和受限因变量模型加权选项也不适用。现在学习的是第20页,共59页4.1.3 4.1.3 异方差性和自相关一致协方差异方差性和自相关一致协方差(HACHAC)HeteroskedasticityHeteroskedasticity and Autocorrelation Consistent Covariancesand Autocorrelation Consistent Covariances 当当异异方方差差性性形形式式未未知知时时,使使用用加加权权最最小小二二乘乘法法提提供供在在异异方方差差存存在在时时的一致参数估计,但通常的的一致参数估计
23、,但通常的OLS标准差将不正确。标准差将不正确。在描述在描述HAC协方差估计技术之前,应注意:协方差估计技术之前,应注意:使使用用White异异方方差差一一致致协协方方差差或或Newey-West异异方方差差一一致致协协方方差差估计不会改变参数的点估计,只改变参数的估计标准差。估计不会改变参数的点估计,只改变参数的估计标准差。可以结合几种方法来计算异方差和序列相关。如把加权最小可以结合几种方法来计算异方差和序列相关。如把加权最小二乘估计与二乘估计与White 或或Newey-West协方差矩阵估计相结合。协方差矩阵估计相结合。现在学习的是第21页,共59页 1.1.异方差一致协方差估计异方差一
24、致协方差估计异方差一致协方差估计异方差一致协方差估计(WhiteWhite)HeteroskedasticityHeteroskedasticity Consistent Covariances Consistent Covariances(WhiteWhite)White(1980)得出在存在未知形式的异方差时,对系数协方差进行得出在存在未知形式的异方差时,对系数协方差进行正确估计的异方差一致协方差估计量。正确估计的异方差一致协方差估计量。White 协方差矩阵公式为:协方差矩阵公式为:其中其中N是观测值数,是观测值数,k是回归变量数,是回归变量数,i 是最小二乘残差。是最小二乘残差。EVi
25、ews在标准在标准OLS公式中提供公式中提供White协方差估计选项。打开方协方差估计选项。打开方程对话框,说明方程,然后按程对话框,说明方程,然后按Options钮。接着,单击异方差一致钮。接着,单击异方差一致协方差协方差(Heteroskedasticity Consistent Covariance),选择,选择White 钮,接钮,接受选项估计方程。受选项估计方程。现在学习的是第22页,共59页例例例例4.54.5:在输出结果中,在输出结果中,EViews会包含一行文字说明表明使用了会包含一行文字说明表明使用了White估估计量。计量。现在学习的是第23页,共59页2.HAC2.HAC
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 04 其他 回归 方法 优秀 PPT
限制150内