计量经济学课件第二章简单线性回归模型培训资料.ppt
《计量经济学课件第二章简单线性回归模型培训资料.ppt》由会员分享,可在线阅读,更多相关《计量经济学课件第二章简单线性回归模型培训资料.ppt(108页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、计量经济学课件第二章简单线性回归模型第二章第二章简单线性回归模型简单线性回归模型本章主要讨论本章主要讨论:回归分析与回归函数回归分析与回归函数 简单线性回归模型参数的估计简单线性回归模型参数的估计 拟合优度的度量拟合优度的度量 回归系数的区间估计和假设检验回归系数的区间估计和假设检验 回归模型预测回归模型预测2第一节 回归分析与回归方程 本节基本内容本节基本内容:回归与相关回归与相关 总体回归函数总体回归函数 随机扰动项随机扰动项 样本回归函数样本回归函数 31.经济变量间的相互关系经济变量间的相互关系确定性的函数关系确定性的函数关系不确定性的统计关系不确定性的统计关系相关关系相关关系(为随机
2、变量为随机变量)没有关系没有关系一、回归与相关一、回归与相关(对统计学的回顾)(对统计学的回顾)42.2.相关关系相关关系相关关系的描述相关关系的描述相关关系最直观的描述方式相关关系最直观的描述方式坐标图坐标图(散布图)散布图)5相关关系的类型相关关系的类型从涉及的变量数量看从涉及的变量数量看简单相关简单相关 多重相关(复相关)多重相关(复相关)从变量相关关系的表现形式看从变量相关关系的表现形式看 线性相关线性相关散布图接近一条直线散布图接近一条直线 非线性相关非线性相关散布图接近一条曲线散布图接近一条曲线从变量相关关系变化的方向看从变量相关关系变化的方向看正相关正相关变量同方向变化,同增同减
3、变量同方向变化,同增同减 负相关负相关变量反方向变化,一增一减变量反方向变化,一增一减 不相关不相关6 3.3.相关程度的度量相关程度的度量相关系数相关系数 总体线性相关系数总体线性相关系数:其中:其中:X 的方差;的方差;Y的方差的方差 X和和Y的协方差的协方差样本线性相关系数样本线性相关系数:其中:其中:和和分别是变量分别是变量 和和的样本观测值的样本观测值和和分别是变量分别是变量和和样本值的平均值样本值的平均值7和和都是相互对称的随机变量都是相互对称的随机变量线线性性相关系数只反映变量间的线性相关程度,不相关系数只反映变量间的线性相关程度,不能说明非能说明非线性相关关系线性相关关系样本相
4、关系数是总体相关系数的样本估计值,由样本相关系数是总体相关系数的样本估计值,由于抽样波动,样本相关系数是个随机变量,其统于抽样波动,样本相关系数是个随机变量,其统计显著性有待检验计显著性有待检验相关系数只能反映线性相关程度,不能确定因果相关系数只能反映线性相关程度,不能确定因果关系,不能说明相关关系具体接近哪条直线关系,不能说明相关关系具体接近哪条直线计量经济学关心:计量经济学关心:变量间的因果关系及隐藏在随变量间的因果关系及隐藏在随机性后面的统计规律性,这有赖于回归分析方法机性后面的统计规律性,这有赖于回归分析方法 使用相关系数时应注意使用相关系数时应注意84.4.回归分析回归分析回归的回归
5、的古典意义古典意义:高尔顿遗传学的回归概念高尔顿遗传学的回归概念 (父母身高与子女身高的关系父母身高与子女身高的关系)回归的回归的现代意义现代意义:一个应变量对若干解释变量一个应变量对若干解释变量 依存关系依存关系 的研究的研究回归的回归的目的(实质)目的(实质):由固定的解释变量去由固定的解释变量去 估计应变量的平均值估计应变量的平均值9 的的条件分布条件分布当当解解释释变变量量 取取某某固固定定值值时时(条条件件),的的值值不不确确定定,的的不不同同取取值值形形成成一一定定的的分分布布,即即 的的条条件分布。件分布。的的条件期望条件期望对于对于 的每一个取值,的每一个取值,对对 所形成的分
6、布确所形成的分布确定其期望或均值,称定其期望或均值,称为为 的条件期望或条的条件期望或条件均值件均值注意几个概念注意几个概念10回归线回归线:对于每一个对于每一个 的取值,的取值,都有都有 的条件期望的条件期望与之对应,与之对应,代表这些代表这些 的条件期的条件期望的点的轨迹所形成望的点的轨迹所形成的直线或曲线,称为的直线或曲线,称为回归线。回归线。回归线与回归函数回归线与回归函数11回归函数:回归函数:应变量应变量的条件期望的条件期望随解随解释变量释变量的的变化而有规律的变化,如果把的的变化而有规律的变化,如果把的条件期望的条件期望表现为表现为的某种函数的某种函数这个函数称为回归函数。这个函
7、数称为回归函数。回归函数分为:回归函数分为:总体回归函数和样本回归函数总体回归函数和样本回归函数举例:假如已知举例:假如已知100个家庭构成的总体。个家庭构成的总体。回归线与回归函数回归线与回归函数12每每 月月 家家 庭庭 可可 支支 配配 收收 入入 X X100015002000250030003500400045005000550082096211081329163218422037227524642824888102412011365172618742110238825893038932112112641410178619062225242627903150每每96012101310
8、1432183510682319248828563201月月125913401520188520662321258729003288家家132414001615194321852365265030213399庭庭1448165020372210239827893064消消1489171220782289248728533142费费1538177821792313251329343274支支160018412298239825383110出出17021886231624232567Y190023872453261020122498248727102589258690011501400165019
9、0021502400265029003150例例:100个家庭构成的总体个家庭构成的总体(单位单位:元元)13 1.1.总体回归函数的概念总体回归函数的概念 前前提提:假假如如已已知知所所研研究究的的经经济济现现象象的的总总体体应应变变量量 和和解解释释变变量量 的的每每个个观观测测值值,可可以以计计算算出出总总体体应应变变量量 的的条条件件均均值值 ,并并将将其其表表现现为为解解释释变量变量 的某种函数的某种函数 这个函数称为总体回归函数(这个函数称为总体回归函数(PRF)二、总体回归函数二、总体回归函数(PRFPRF)14 (1)条件均值条件均值表现形式表现形式 假如假如 的条件均值的条件
10、均值 是解是解 释变量释变量 的线性函数,可表示为:的线性函数,可表示为:(2)个别值个别值表现形式表现形式 对于一定的对于一定的 ,的各个别值的各个别值 分布分布 在在 的周围,若令各个的周围,若令各个 与条件与条件 均值均值 的偏差为的偏差为 ,显然显然 是随机变量是随机变量,则有则有 或或 2.2.总体回归函数的表现形式总体回归函数的表现形式15实实际际的的经经济济研研究究中中总总体体回回归归函函数数通通常常是是未未知知的的,只只能能根根据据经经济济理理论论和和实实践践经经验验去去设设定定。“计计量量”的目的就是寻求的目的就是寻求PRFPRF。总总体体回回归归函函数数中中 与与 的的关关
11、系系可可是是线线性性的的,也也可可是是非线性非线性的。的。对线性回归模型的对线性回归模型的“线性线性”有两种解释有两种解释 就变量而言就变量而言是线性的是线性的 的条件均值是的条件均值是 的线性函数的线性函数 就参数而言就参数而言是线性的是线性的 的条件均值是参数的条件均值是参数 的线性函数的线性函数 3.3.如何理解总体回归函数如何理解总体回归函数16变量、参数均为变量、参数均为变量、参数均为变量、参数均为“线性线性线性线性”参数参数参数参数“线性线性线性线性”,变量,变量,变量,变量”非线非线非线非线性性性性”变量变量变量变量“线性线性线性线性”,参数,参数,参数,参数”非线非线非线非线性
12、性性性”计量经济学中计量经济学中:线性回归模型主要指就参数而言是线性回归模型主要指就参数而言是“线性线性”,”,因因为只要对参数而言是线性的为只要对参数而言是线性的,都可以用类似的方法估计都可以用类似的方法估计其参数。其参数。“线性线性”的判断的判断17三、随机扰动项三、随机扰动项概念概念:各个各个值与条件均值值与条件均值的偏差的偏差代表代表排除在模型以外的所有排除在模型以外的所有因素对因素对 的影响。的影响。性质:性质:是期望为是期望为0有一定分布的随机变量有一定分布的随机变量重要性:重要性:随机扰动项的性质决定着计量经济方随机扰动项的性质决定着计量经济方法的选择法的选择18未知未知影响因素
13、的代表影响因素的代表无法取得数据无法取得数据的已知影响因素的代表的已知影响因素的代表众多细小影响因素众多细小影响因素的综合代表的综合代表模型的模型的设定误差设定误差变量的变量的观测误差观测误差变量内在变量内在随机性随机性引入随机扰动项的原因引入随机扰动项的原因19四、样本回归函数四、样本回归函数(SRFSRF)样本回归线样本回归线:对于对于 的一定值,取得的一定值,取得 的样本观测值,可计算其条的样本观测值,可计算其条件均值,样本观测值条件均值的轨迹称为样本回归线。件均值,样本观测值条件均值的轨迹称为样本回归线。样本回归函数:样本回归函数:如果把应变量如果把应变量的样本条件均值表示为解释变量的
14、样本条件均值表示为解释变量的某的某种函数,这个函数称为样本回归函数(种函数,这个函数称为样本回归函数(SRF)。)。20SRF的特点的特点每次抽样都能获得一个样本,就可以拟合一条每次抽样都能获得一个样本,就可以拟合一条样本回样本回归线,所以样本回归线随抽样波动而变归线,所以样本回归线随抽样波动而变化,可以有许多条化,可以有许多条(SRF不唯一)。不唯一)。SRF2SRF121样本回归函数的函数形式应与设定的总体回归样本回归函数的函数形式应与设定的总体回归函数的函数形式一致。函数的函数形式一致。样本回归线还不是总体回归线,至多只是未知样本回归线还不是总体回归线,至多只是未知总体回归线的近似表现。
15、总体回归线的近似表现。22样本回归函数如果为线性函数,可表示为样本回归函数如果为线性函数,可表示为其中:其中:是与是与相对应的相对应的的样本条件均值的样本条件均值和和分别是样本回归函数的参数分别是样本回归函数的参数应变量应变量的实际观测值的实际观测值不完全等于样本条件不完全等于样本条件均值,二者之差用均值,二者之差用表示表示,称为称为剩余项剩余项或或残差项残差项:或者或者样本回归函数的表现形式样本回归函数的表现形式23对样本回归的理解对样本回归的理解如果能够获得如果能够获得和和的数值,显然的数值,显然:和和是对总体回归函数参数是对总体回归函数参数和和的估计的估计是对总体条件期望是对总体条件期望
16、的估计的估计在概念上类似总体回归函数中的在概念上类似总体回归函数中的,可,可视为对视为对的估计。的估计。24样本回归函数与总体回归函数的关系SRFPRFA25回归分析的目的回归分析的目的 用样本回归函数用样本回归函数SRF去估计总体回归函数去估计总体回归函数PRF。由于样本对总体总是存在代表性误差,由于样本对总体总是存在代表性误差,SRF 总会过总会过 高或过低估计高或过低估计PRF。要解决的问题:要解决的问题:寻求一种规则和方法,使得到的寻求一种规则和方法,使得到的SRF的参数的参数 和和 尽可能尽可能“接近接近”总体回归函数中的参数总体回归函数中的参数 和和 。这样的这样的“规则和方法规则
17、和方法”有多种,最常用的是最小二有多种,最常用的是最小二乘法乘法26 第二节第二节 简单线性回归模型的最小二乘估计简单线性回归模型的最小二乘估计 本节基本内容本节基本内容:简单线性回归的基本假定简单线性回归的基本假定 普通最小二乘法普通最小二乘法 OLS OLS回归线的性质回归线的性质 参数估计式的统计性质参数估计式的统计性质27 一、简单线性回归的基本假定一、简单线性回归的基本假定1.为什么要作基本假定?为什么要作基本假定?模型中有随机扰动,估计的参数是随机变量,模型中有随机扰动,估计的参数是随机变量,只有对随机扰动的分布作出假定,才能确定只有对随机扰动的分布作出假定,才能确定所估计参数的分
18、布性质,也才可能进行假设所估计参数的分布性质,也才可能进行假设检验和区间估计检验和区间估计只有具备一定的假定条件,所作出的估计才只有具备一定的假定条件,所作出的估计才具有较好的统计性质。具有较好的统计性质。28 (1 1)对模型和变量的假定对模型和变量的假定如如假定解释变量假定解释变量是非随机的,或者虽然是随机的,但与扰动是非随机的,或者虽然是随机的,但与扰动项项 是不相关的是不相关的假定解释变量假定解释变量 在重复抽样中为固定值在重复抽样中为固定值假定变量和模型无设定误差假定变量和模型无设定误差2、基本假定的内容、基本假定的内容29又称高斯假定、古典假定又称高斯假定、古典假定假定假定1 1:
19、零均值假定零均值假定在给定在给定的条件下的条件下,的条件期望为零的条件期望为零假定假定2 2:同方差假定同方差假定在给定在给定的条件下,的条件下,的条件方差为某个常数的条件方差为某个常数(2)对随机扰动项)对随机扰动项 的假定的假定30 假定假定3 3:无自相关假定无自相关假定 随机扰动项随机扰动项 的逐次值互不相关的逐次值互不相关 假定假定4 4:随机扰动随机扰动 与解释变量与解释变量 不相关不相关 31假定假定5 5:对随机扰动项分布的正态性假定对随机扰动项分布的正态性假定 即假定即假定 服从均值为零、方差为服从均值为零、方差为 的正态分布的正态分布 (说说明明:正正态态性性假假定定不不影
20、影响响对对参参数数的的点点估估计计,但但对对确确定定所所估估计计参参数数的的分分布布性性质质是是需需要要的的。且且根根据据中中心心极极限限定定理理,当当样样本本容容量量趋趋于于无无穷穷大大时时,的的分分布布会会趋近于正态分布。所以正态性假定是合理的)趋近于正态分布。所以正态性假定是合理的)32的分布性质的分布性质由于由于的分布性质决定了的分布性质决定了的分布性质。的分布性质。对对的一些假定可以等价地表示为对的一些假定可以等价地表示为对的假定:的假定:假定假定1:零均值假定:零均值假定假定假定2:同方差假定:同方差假定假定假定3:无自相关假定:无自相关假定假定假定5:正态性假定:正态性假定33O
21、LS的基本思想的基本思想 不同的估计方法可得到不同的样本回归参数不同的估计方法可得到不同的样本回归参数不同的估计方法可得到不同的样本回归参数不同的估计方法可得到不同的样本回归参数和和和和,所估计的,所估计的,所估计的,所估计的也不同。也不同。也不同。也不同。理想的估计方法应使理想的估计方法应使理想的估计方法应使理想的估计方法应使与与与与的差即剩余的差即剩余的差即剩余的差即剩余越小越好越小越好越小越好越小越好 因因因因可正可负,所以可以取可正可负,所以可以取可正可负,所以可以取可正可负,所以可以取最小最小最小最小即即即即二、普通最小二乘法二、普通最小二乘法 (rdinary Least Squa
22、res)34正规方程和估计式正规方程和估计式用克莱姆法则求解得观测值形式的用克莱姆法则求解得观测值形式的OLS估计式:估计式:取偏导数为取偏导数为0,得正规方程,得正规方程35 为表达得更简洁,或者用离差形式为表达得更简洁,或者用离差形式OLS估计式估计式:注意注意其中:其中:而且样本回归函数可写为而且样本回归函数可写为 用离差表现的用离差表现的OLSOLS估计式估计式36三、OLSOLS回归线的性质回归线的性质可以证明可以证明:回归线通过样本均值回归线通过样本均值估计值估计值的均值等于实的均值等于实际观测值际观测值的均值的均值37剩余项剩余项的均值为零的均值为零应变量估计值应变量估计值 与剩
23、余项与剩余项 不不相关相关 解释变量解释变量 与剩余项与剩余项 不相关不相关 38四、四、参数估计式的统计性质参数估计式的统计性质(一一)参数估计式的评价标准参数估计式的评价标准1.无偏性无偏性前提:前提:重复抽样中估计方法固定、样本数不变、经重复抽样的观测值,可得一系列参数估计值参数估计值参数估计值的分布称为的分布称为的抽样分布,密度函的抽样分布,密度函数记为数记为如果如果,称,称是参数是参数 的无偏估计式,否的无偏估计式,否则称则称是有偏的,其偏倚为是有偏的,其偏倚为(见图(见图1.2)39图1.2估计值偏倚偏倚概率密度40前提:前提:样本相同、用不同的方法估计参数,样本相同、用不同的方法
24、估计参数,可以找到若干个不同的估计式可以找到若干个不同的估计式 目标:目标:努力寻求其抽样分布具有最小方差的努力寻求其抽样分布具有最小方差的 估计式估计式 最小方差准则,或称最佳最小方差准则,或称最佳 性准则性准则(见图(见图1.31.3)既是无偏的同时又具有最小方差的估计式,称为既是无偏的同时又具有最小方差的估计式,称为 最佳无偏估计式。最佳无偏估计式。2.最小方差性最小方差性41概率密度图1.3估计值424.4.渐近性质渐近性质(大样本性质)(大样本性质)思想思想:当样本容量较小时,有时很难找到最佳无偏估计,需要考当样本容量较小时,有时很难找到最佳无偏估计,需要考虑样本扩大后的性质虑样本扩
25、大后的性质一致性:一致性:当样本容量当样本容量n趋于无穷大时,如果估计式趋于无穷大时,如果估计式依概率收敛于总体参依概率收敛于总体参数的真实值,就称这个估计式数的真实值,就称这个估计式是是 的一致估计式。即的一致估计式。即或或渐近有效性:渐近有效性:当样本容量当样本容量n趋于无穷大时,在所有的一致估趋于无穷大时,在所有的一致估计式中,具有最小的渐近方差。计式中,具有最小的渐近方差。(见图1.4)43概率密度估计值图1.444(二)(二)OLS估计式的统计性质估计式的统计性质由由OLS估计式可以看出估计式可以看出由可观测的样本值由可观测的样本值和和唯一表示。唯一表示。因存在抽样波动,因存在抽样波
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 计量 经济学 课件 第二 简单 线性 回归 模型 培训资料
限制150内